/

 

 

 

 
  ICEPAK培训
   
 
Python3实战Spark大数据分析及调度课程培训

 
  班级规模及环境--热线:4008699035 手机:15921673576/13918613812( 微信同号)
      每个班级的人数限3到5人,互动授课, 保障效果,小班授课。
  上间和地点
上部份地点:【上海】同济大学(沪西)/新城金郡商务楼(11号线白银路站)【深圳分部】:电影大厦(地铁一号线大剧院站)/深圳大学成教院【北京分部】:北京中山/福鑫大楼【南京分部】:金港大厦(和燕路)【武汉分部】:佳源大厦(高新二路)【成都分部】:领馆区1号(中和大道)【沈阳分部】:沈阳理工大学/六宅臻品【郑州分部】:郑州大学/锦华大厦【石家庄分部】:河北科技大学/瑞景大厦
近开间(周末班/连续班/晚班):2024年3月25日......(欢迎您垂询,视教育质量为生命!)
  实验设备
    ◆小班教学,教学效果好
       
       ☆注重质量☆边讲边练

       ☆合格学员免费推荐工作
       ★实验设备请点击这儿查看★
  质量保障

       1、培训过程中,如有部分内容理解不透或消化不好,可免费在以后培训班中重听;
       2、课程完成后,授课老师留给学员手机和Email,保障培训效果,免费提供半年的技术支持。
       3、培训合格学员可享受免费推荐就业机会。☆合格学员免费颁发相关工程师等资格证书,提升职业资质。专注高端技术培训15年,曙海学员的能力得到大家的认同,受到用人单位的广泛赞誉,曙海的证书受到广泛认可。

部份程大纲
 
  • 第1章 课程介绍
    课程介绍
  • 1-1 PySpark导学 试看
    1-2 OOTB环境演示
    第2章 实战环境搭建
    工欲善其事必先利其器,本章讲述JDK、Scala、Hadoop、Maven、Python3以及Spark源码编译及部署
  • 2-1 -课程目录
    2-2 -Java环境搭建
    2-3 -Scala环境搭建
    2-4 -Hadoop环境搭建
    2-5 -Maven环境搭建
    2-6 -Python3环境部署
    2-7 -Spark源码编译及部署
    第3章 Spark Core核心RDD
    本章详细讲解RDD是什么以及特性(面试常考)、Spark中两个核心类SparkContext和SparkConf、pyspark启动脚本分析、RDD的创建方式以及如何使用IDE开发Python Spark应用程序并提交到服务器上运行
  • 3-1 -课程目录
    3-2 -RDD是什么
    3-3 -通过电影描述集群的强大之处
    3-4 -RDD的五大特性
    3-5 -RDD特性在源码中的体现 试看
    3-6 -图解RDD
    3-7 -SparkContext&SparkConf详解
    3-8 -pyspark
    3-9 -RDD创建方式一
    3-10 -RDD创建方式二
    3-11 -使用IDE开发pyspark应用程序
    3-12 -提交pyspark作业到服务器上运行
    第4章 Spark Core RDD编程
    本章将针对RDD中常用的算子进行详细案例讲解,并进行综合案例实战
  • 4-1 -课程目录
    4-2 -RDD常用操作
    4-3 -map算子使用详解
    4-4 -filter算子详解
    4-5 -flatMap算子详解
    4-6 -groupByKey算子详解
    4-7 -reduceByKey算子详解
    4-8 -sortByKey算子详解
    4-9 -union算子使用详解
    4-10 -distinct算子使用详解
    4-11 -join算子详解
    4-12 -action常用算子详解
    4-13 -算子综合案例实战一词频统计
    4-14 -算子综合案例实战之词频统计重构
    4-15 -算子综合案例实战之TopN统计
    4-16 -算子综合案例实战之平均数统计
    第5章 Spark运行模式
    本章将介绍Spark的几种运行模式,需要重点掌握on YARN模式
  • 5-1 -课程目录
    5-2 -local模式运行
    5-3 -standalone模式环境搭建及pyspark运行
    5-4 -standalone模式spark-submit运行
    5-5 -yarn运行模式详解
    第6章 Spark Core进阶
    本章将介绍Spark中的核心术语、运行架构、并对比Spark和MapReduce的概念区分、存储策略及选择方式、宽窄依赖及Shuffle
  • 6-1 -课程目录
    6-2 -Spark核心概念详解
    6-3 -结合Spark UI详解Spark核心概念 试看
    6-4 -Spark运行架构及注意事项
    6-5 -Spark和Hadoop重要概念区分
    6-6 -Spark缓存的作用
    6-7 -Spark缓存概述
    6-8 -Spark缓存策略详解
    6-9 -Spark缓存策略选择依据
    6-10 -Spark Lineage机制
    6-11 -Spark窄依赖和宽依赖
    6-12 -Spark Shuffle概述
    6-13 -图解RDD的shuffle以及依赖关系
    第7章 Spark Core调优
    本章将从Spark作业性能指标、序列化、内存管理、广播变量及数据本地化这几个方面来介绍Spark作业的调优
  • 7-1 -课程目录
    7-2 -优化之HistoryServer配置及使用
    7-3 -优化之序列化
    7-4 -优化之内存管理
    7-5 -优化之广播变量
    7-6 -优化之数据本地性
    第8章 Spark SQL
    本章将讲解Spark SQL的架构、DataFrame&Dataset、以及如何使用Python API来对DataFrame进行编程
  • 8-1 -课程目录
    8-2 -Spark SQL前世今生
    8-3 -Spark SQL概述&错误认识纠正
    8-4 -Spark SQL架构
    8-5 -DataFrame&Dataset详解
    8-6 -DataFrame API编程
    8-7 -RDD与DataFrame互操作方法一
    8-8 -RDD与DataFrame互操作方法二
    8-9 -Spark SQL其他
    第9章 Spark Streaming
    本章将讲解Spark Streaming的核心概念、执行原理、以及如何Python API来对Spark Streaming进行编程
  • 9-1 -课程目录
    9-2 -Spark Streaming概述
    9-3 -实时流处理框架对比
    9-4 -Spark Streaming执行原理
    9-5 -从词频统计案例来了解SparkStreaming
    9-6 -核心概念之StreamingContext
    9-7 -核心概念之DStream及常用操作
    9-8 -SparkStreaming操作文件系统数据实战
    第10章 Azkaban基础篇
    本章将讲解Azkaban的特性、架构、运行模式、源码编译及部署、快速入门
  • 10-1 Azkaban基础篇课程目录
    10-2 -工作流概述
    10-3 -工作流在大数据处理中的重要性
    10-4 -常用调度框架介绍
    10-5 -Azkaban概述及特性
    10-6 -Azkaban架构
    10-7 -Azkaban运行模式详解
    10-8 -Azkaban源码编译
    10-9 -Azkaban solo server环境部署
    10-10 -Azkaban快速入门案例
    第11章 Azkaban实战篇
    本章将讲解如何使用Azkaban来完成HDFS、MapReduce、Hive作业的调度、定时作业调度以及邮件告警
  • 11-1 -Azkaban实战篇课程目录
    11-2 -依赖作业在Azkaban中的使用
    11-3 -HDFS作业在Azkaban中的使用
    11-4 -MapReduce作业在Azkaban中的使用
    11-5 -Hive作业在Azkaban中的使用
    11-6 -定时调度作业在Azkaban中的使用
    11-7 -邮件告警及SLA在Azkaban中的使用
    第12章 Azkaban进阶篇
    本章将讲解Azkaban在生产上的部署、权限管理、Ajax API、Plugin、以及短信和调度框架的二次开发
  • 12-1 -Azkaban进阶篇课程目录
    12-2 -Two Server Mode之数据库准备工作
    12-3 -Two Server Mode之AzkabanWebServer搭建
    12-4 -Two Server Mode之AzkabanExecServer搭建
    12-5 -Two Server Mode之使用实战
    12-6 -Azkaban权限管理
    12-7 -Azkaban中AJAX API使用
    12-8 -Azkaban Plugin的使用
    12-9 -Azkaban中短信告警改造思路
    12-10 Azbakan在生产上使用的改造思路
    第13章 项目实战
    本章将讲解在构建大数据平台的技术选型、集群升级资源评估,并使用Spark对气象数据进行分析,讲分析结果写入ES,并通过Kibana进行统计结果的可视化展示
  • 13-1 -课程目录
    13-2 -大数据项目开发流程
    13-3 -大数据企业级应用
    13-4 -企业级大数据分析平台
    13-5 -集群数据量预估
    13-6 -集群机器规模&资源&作业规划
    13-7 -项目需求
    13-8 -数据加载成DataFrame并选出需要的列
    13-9 -SparkSQL UDF函数开发
    13-10 -每年Grade出现的次数统计
    13-11 -Grade在每年中的占比统计
    13-12 -ES部署及使用
    13-13 -Kibana部署及使用
    13-14 -将作业运行到YARN上
    13-15 -统计分析结果写入ES测试
    13-16 -统计分析结果入ES并通过Kibana图形化展示
曙海教育实验设备
android开发板
linux_android开发板
fpga图像处理
fpga培训班*
 
本部份程部分实验室实景
曙海实验室
实验室
曙海培训优势
 
  合作伙伴与授权机构



Altera全球合作培训机构



诺基亚Symbian公司授权培训中心


Atmel公司全球战略合作伙伴


微软全球嵌入式培训合作伙伴


英国ARM公司授权培训中心


ARM工具关键合作单位
  我们培训过的企业客户评价:
    曙海的andriod系统与应用培训完全符合了我公司的要求,达到了我公司培训的目的。特别值得一提的是授部份讲师针对我们公司的开发的项目专门提供了一些很好程序的源代码,基本满足了我们的项目要求。
——上海贝尔,李工
    曙海培训DSP2000的老师,上部份思路清晰,口齿清楚,由浅入深,重点突出,培训效果是不错的,
达到了我们想要的效果,希望继续合作下去。
——中国电子科技集团技术部主任马工
    曙海的FPGA培训很好地填补了高校FPGA培训空白,不错。总之,有利于学生的发展,有利于教师的发展,有利于部份程的发展,有利于社会的发展。
——上海电子,冯老师
    曙海给我们公司提供的Dsp6000培训,符合我们项目的开发要求,解决了很多困惑我们很久的问题,与曙海的合作非常愉快。
——公安部第三研究所,项目部负责人李先生
    MTK培训-我在网上找了很久,就是找不到。在曙海居然有MTK驱动的培训,老师经验很丰富,知识面很广。下一个还想培训IPHONE苹果手机。跟他们合作很愉快,老师很有人情味,态度很和蔼。
——台湾双扬科技,研发处经理,杨先生
    曙海对我们公司的iPhone培训,实验项目很多,确实学到了东西。受益无穷啊!特别是对于那种正在开发项目的,确实是物超所值。
——台湾欧泽科技,张工
    通过参加Symbian培训,再做Symbian相关的项目感觉更加得心应手了,理论加实践的授部份方式,很有针对性,非常的适合我们。学完之后,很轻松的就完成了我们的项目。
——IBM公司,沈经理
    有曙海这样的DSP开发培训单位,是教育行业的财富,听了他们的部份,茅塞顿开。
——上海医疗器械高等学校,罗老师
  我们新培训过的企业客户以及培训的主要内容:
 

一汽海马汽车DSP培训
苏州金属研究院DSP培训
南京南瑞集团技术FPGA培训
西安爱生技术集团FPGA培训,DSP培训
成都熊谷加世电气DSP培训
福斯赛诺分析仪器(苏州)FPGA培训
南京国电工程FPGA培训
北京环境特性研究所达芬奇培训
中国科微系统与信息技术研究所FPGA高级培训
重庆网视只能流技术开发达芬奇培训
无锡力芯微电子股份IC电磁兼容
河北科研究所FPGA培训
上海微小卫星工程中心DSP培训
广州航天航空POWERPC培训
桂林航天工DSP培训
江苏五维电子科技达芬奇培训
无锡步进电机自动控制技术DSP培训
江门市安利电源工程DSP培训
长江力伟股份CADENCE培训
爱普生科技(无锡)数字模拟电路
河南平高电气DSP培训
中国航天员科研训练中心A/D仿真
常州易控汽车电子WINDOWS驱动培训
南通大学DSP培训
上海集成电路研发中心达芬奇培训
北京瑞志合众科技WINDOWS驱动培训
江苏金智科技股份FPGA高级培训
中国重工第710研究所FPGA高级培训
芜湖伯特利汽车安全系统DSP培训
厦门中智能软件技术Android培训
上海科慢车辆部件系统EMC培训
中国电子科技集团第五十研究所,软件无线电培训
苏州浩克系统科技FPGA培训
上海申达自动防范系统FPGA培训
四川长虹佳华信息MTK培训
公安部第三研究所--FPGA初中高技术开发培训以及DSP达芬奇芯片视频、图像处理技术培训
上海电子信息职业技术--FPGA高级开发技术培训
上海点逸网络科技有限公司--3G手机ANDROID应用和系统开发技术培训
格科微电子有限公司--MTK应用(MMI)和驱动开发技术培训
南昌航空大学--fpga高级开发技术培训
IBM公司--3G手机ANDROID系统和应用技术开发培训
上海贝尔--3G手机ANDROID系统和应用技术开发培训
中国双飞--Vxworks应用和BSP开发技术培训

 

上海水务建设工程有限公司--Alter/XilinxFPGA应用开发技术培训
恩法半导体科技--AllegroCandencePCB仿真和信号完整性技术培训
中国计量--3G手机ANDROID应用和系统开发技术培训
冠捷科技--FPGA芯片设计技术培训
芬尼克兹节能设备--FPGA高级技术开发培训
川奇光电--3G手机ANDROID系统和应用技术开发培训
东华大学--Dsp6000系统开发技术培训
上海理工大学--FPGA高级开发技术培训
同济大学--Dsp6000图像/视频处理技术培训
上海医疗器械高等专科学校--Dsp6000图像/视频处理技术培训
中航工业无线电电子研究所--Vxworks应用和BSP开发技术培训
北京交通大学--Powerpc开发技术培训
浙江理工大学--Dsp6000图像/视频处理技术培训
台湾双阳科技股份有限公司--MTK应用(MMI)和驱动开发技术培训
滚石移动--MTK应用(MMI)和驱动开发技术培训
冠捷半导体--Linux系统开发技术培训
奥波--CortexM3+uC/OS开发技术培训
迅时通信--WinCE应用与驱动开发技术培训
海鹰医疗电子系统--DSP6000图像处理技术培训
博耀科技--Linux系统开发技术培训
华路时代信息技术--VxWorksBSP开发技术培训
台湾欧泽科技--iPhone开发技术培训
宝康电子--AllegroCandencePCB仿真和信号完整性技术培训
上海天能电子有限公司--AllegroCandencePCB仿真和信号完整性技术培训
上海亨通光电科技有限公司--andriod应用和系统移植技术培训
上海智搜文化传播有限公司--Symbian开发培训
先先信息科技有限公司--brew手机开发技术培训
鼎捷集团--MTK应用(MMI)和驱动开发技术培训
傲然科技--MTK应用(MMI)和驱动开发技术培训
中软国际--Linux系统开发技术培训
龙旗控股集团--MTK应用(MMI)和驱动开发技术培训
研祥智能股份有限公司--MTK应用(MMI)和驱动开发技术培训
罗氏诊断--Linux应用开发技术培训
西东控制集团--DSP2000应用技术及DSP2000在光伏并网发电中的应用与开发
科大讯飞--MTK应用(MMI)和驱动开发技术培训
东北农业大学--IPHONE苹果应用开发技术培训
中国电子科技集团--Dsp2000系统和应用开发技术培训
中国船舶重工集团--Dsp2000系统开发技术培训
晶方半导体--FPGA初中高技术培训
肯特智能仪器有限公司--FPGA初中高技术培训
哈尔滨大学--IPHONE苹果应用开发技术培训
昆明电器科学研究所--Dsp2000系统开发技术
奇瑞汽车股份--单片机应用开发技术培训


 

-

 

  曙海企业  
  备案号:沪ICP备08026168号 .(2014年7月11)..............
在线客服