随便撸(www.suibianlu.com)精品网站源码,织梦建站模版,游戏源代码分享平台


当前位置:网站首页 VIP资源 软件编程 正文

随便撸源码分享:Spark Streaming学习实时流处理项目实战

时间:2018-06-13 [软件编程]作者:随便撸

随便撸源码分享:Spark Streaming学习实时流处理项目实战

本课程从实时数据产生和流向的各个环节出发,通过集成主流的分布式日志收集框架Flume、分布式消息队列Kafka、分布式列式数据库HBase、及当前最火爆的Spark Streaming打造实时流处理项目实战,让你掌握实时处理的整套处理流程,达到大数据中级研发工程师的水平!

第1章 课程介绍

课程介绍

第2章 初识实时流处理

本章节将从一个业务场景分析出发引出实时流处理的产生背景,对比离线处理和实时处理的区别,了解常用的实时流处理框架有哪些,实时流处理在企业级应用中各个环节的架构以及技术选型

第3章 分布式日志收集框架Flume

本章节将从通过一个业务场景出发引出Flume的产生背景,将讲解Flume的架构及核心组件,Flume环境部署以及Flume Agent开发实战让大家学会如何使用Flume来进行日志的采集

第4章 分布式发布订阅消息系统Kafka

本章节将讲解Kafka的架构以及核心概念,Kafka环境的部署及脚本的使用,Kafka API编程,并通过Kafka容错性测试让大家体会到Kakfa的高可用性,并将Flume和Kafka整合起来开发一个功能

第5章 实战环境搭建

工欲善其事必先利其器,本章将讲解Hadoop、ZooKeeper、HBase、Spark的安装,以及如何使用IDEA整合Maven/Spark/HBase/Hadoop来搭建我们的开发环境

第6章 Spark Streaming入门

本章节将讲解Spark Streaming是什么,了解Spark Streaming的应用场景及发展史,并从词频统计案例入手带大家了解Spark Streaming的工作原理

第7章 Spark Streaming核心概念与编程

本章节将讲解Spark Streaming中的核心概念、常用操作,通过Spark Streaming如何操作socket以及HDFS上的数据让大家进一步了解Spark Streaming的编程

第8章 Spark Streaming进阶与案例实战

本章节将讲解Spark Streaming如何处理带状态的数据,通过案例让大家知道Spark Streaming如何写数据到MySQL,Spark Streaming如何整合Spark SQL进行操作

第9章 Spark Streaming整合Flume

本章节将讲解Spark Streaming整合Flume的两种方式,讲解如何在本地进行开发测试,如何在服务器上进行测试

第10章 Spark Streaming整合Kafka

本章节将讲解Spark Streaming整合Kafka的两种方式,讲解如何在本地进行开发测试,如何在服务器上进行测试

第11章 Spark Streaming整合Flume&Kafka打造通用流处理基础

本章节将通过实战案例彻底打通Spark Streaming和Flume以及Kafka的综合使用,为后续项目实战打下坚实的基础

第12章 Spark Streaming项目实战

本章节将通过一个完整的项目实战让大家学会大数据实时流处理的各个环境的整合,如何根据业务需要来设计HBase的rowkey

第13章 可视化实战

本章节将通过两种方式来实现实时流处理结果的可视化操作,一是使用Spring Boot整合Echarts实现,二是使用更加炫酷的阿里云产品DataV来实现

第14章 Java拓展

本章节作为扩展内容,将带领大家使用Java来开始Spark应用程序,使得大家对于使用Scala以及Java来开发Spark应用程序都有很好的认识

本文标签:吾爱源码  其他源码  网站插件  微赞模块  PHP源码  织梦源码  织梦58  dede58  秀站网  自由织梦  跟版网  织梦猫  电商营销  VIP资源  建站运营  其他模版  移动搜索  优化推广 

转载请注明来源:随便撸源码分享:Spark Streaming学习实时流处理项目实战

本文永久链接地址:http://www.suibianlu.com/9000.html

郑重声明:
本站所有内容均由互联网收集整理、网友上传,并且以计算机技术研究交流为目的,仅供大家参考、学习,不存在任何商业目的与商业用途。
若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。 我们不承担任何技术及版权问题,且不对任何资源负法律责任。
如无法链接失效或侵犯版权,请给我们来信:admin@suibianlu.com

Top