课程介绍
  • 课程首页
  • 拼团活动
  • 专业套餐
  • 优惠活动
  • 我的课程
  • 站内消息
  • 站内提醒
  • 我的钱包
  • 奖学金
  • 道具 | 抵价券
  • 登录


亿级电商实时数据分析平台构建实战(第一..

08月22日

10周

12人

讲师
友凡
友凡
多年移动互联网产品设计和开发经验,带领团队完成多个知名互联网产品,历任多家知名公司Java和大数据架构师,负责过多个大型Java和大数据系统的架构和开发。精通Java、Go、Python、Hadoop、Storm、Spark、Docker、NoSQL等语言和大数据技术,对分布式、高并发、高可用、微服务、缓存、虚拟化、海量数据处理有丰富的实战经验和解决方案。IT一线行业8年实战经验,教程案例均来自真实工业界开发场景。
课程简介

基于Flink+ClickHouse构建亿级电商实时数据分析平台(PC、移动、小程序)


引用网络文章开启本课程的开篇: 

在大数据分析领域中,传统的大数据分析需要不同框架和技术组合才能达到最终的效果,在人力成本,技术能力和硬件成本上以及维护成本让大数据分析变得成为昂贵的事情。让很多中小型企业非常苦恼,不得不被迫租赁第三方大型公司的数据分析服务。 

ClickHouse开源的出现让许多想做大数据并且想做大数据分析的很多公司和企业耳目一新。ClickHouse 正是以不依赖Hadoop 生态、安装和维护简单、查询速度快、可以支持SQL等特点在大数据分析领域越走越远。 

本课程采用全新的大数据技术栈:Flink+ClickHouse,让你体验到全新技术栈的强大,感受时代变化的气息,通过学习完本课程可以节省你摸索的时间,节省企业成本,提高企业开发效率。本课程不仅告诉你如何做项目,还会告诉你如何验证系统如何支撑亿级并发,如何部署项目等等。希望本课程对一些企业开发人员和对新技术栈有兴趣的伙伴有所帮助,如对我录制的教程内容有建议请及时交流。

课程概述:
在这个数据爆发的时代,像大型电商的数据量达到百亿级别,我们往往无法对海量的明细数据做进一步层次的预聚合,大量的业务数据都是好几亿数据关联,并且我们需要聚合结果能在秒级返回。 

那么我们该如何实现这一需求呢?基于Flink+ClickHouse构建电商亿级实时数据分析平台课程,将带领大家一步一步从无到有实现一个高性能的实时数据分析平台,该系统以热门的互联网电商实际业务应用场景为案例讲解,对电商数据的常见实战指标以及难点实战指标进行了详尽讲解,具体指标包括:概况统计、全站流量分析、渠道分析、广告分析、订单分析、运营分析(团购、秒杀、指定活动)等,该系统指标分为分钟级和小时级多时间方位分析,能承载海量数据的实时分析,数据分析涵盖全端(PC、移动、小程序)应用。

本课程凝聚讲师多年一线大数据企业实际项目经验,大数据企业在职架构师亲自授课,全程实操代码,带你体验真实的大数据开发过程,代码现场调试。通过本课程的学习再加上老师的答疑,你完全可以将本案例直接应用于企业。 


本课程包含的技术: 

开发工具为:IDEA、WebStorm 
Flink1.9.0 
ClickHouse
Hadoop2.6.0 
Hbase1.0.0 
Kafka2.1.0 
Hive1.0.0 
Jmeter(验证如何支撑亿级并发)
Docker (虚拟化部署)
HDFS、MapReduce 
Zookeeper 
SpringBoot2.0.2.RELEASE 
SpringCloud Finchley.RELEASE Binlog、
Canal 
MySQL 
Vue.js、Nodejs 
Highcharts 
Linux Shell编程 

课程亮点: 
1.与企业无缝对接、真实工业界产品 
2.ClickHouse高性能列式存储数据库 
3.大数据热门技术Flink新版本 
4.Flink join 实战 
5.Flink 自定义输出路径实战 
6.全链路性能压力测试 
7.虚拟化部署 
8.集成指标明细查询 
9.主流微服务后端系统 
10.分钟级别与小时级别多时间方位分析 
11.数据库实时同步解决方案 
12.涵盖主流前端技术VUE+jQuery+Ajax+NodeJS 
13.集成SpringCloud实现统一整合方案 
14.互联网大数据企业热门技术栈 
15.支持海量数据的实时分析 
16.支持全端实时数据分析 
17.全程代码实操,提供全部代码和资料 
18.提供答疑和提供企业技术方案咨询

企业一线架构师讲授,代码在老师的指导下企业可以复用,提供企业解决方案。  

课程章节
  • 第1课 实时分析服务以及采集服务构建
    • 1-1 课程说明免费
    • 1-2 课程价值说明免费
    • 1-3 数据采集服务构建免费
    • 1-4 Spring Cloud Eureka构建服务注册中心
    • 1-5 日志数据结构深度讲解
    • 1-6 数据采集服务完善以及客户端数据上报实战
    • 1-7 kafka环境搭建以及kafka联调测试
    • 1-8 数据采集服务整合kafka
    • 1-9 flink部署以及任务提交讲解
    • 1-10 flink+kafka构建实时分析服务
    • 1-11 flink+kafka构建实时分析服务联调测试以及效果演示
  • 第2课 ClickHouse讲解和实战以及用户多终端多状态设计和开发
    • 2-1 hadoop环境搭建
    • 2-2 ClickHouse 初识讲解
    • 2-3 ClickHouse安装详解以及简单使用讲解
    • 2-4 ClickHouse数据类型以及常用操作实战
    • 2-5 ClickHouse java使用讲解
    • 2-6 ClickHouse java使用讲解
    • 2-7 日志数据完善优化讲解
    • 2-8 数据收集服务优化完善
    • 2-9 hbase环境安装
    • 2-10 hbase 工具类代码编写以及联调测试
    • 2-11 用户状态设计讲解
    • 2-12 数据收集服务业务处理
    • 2-13 新增用户状态封装代码编写
    • 2-14 用户多终端活跃状态封装代码编写
    • 2-15 日期工具代码编写以及数据收集服务业务处理代码完善
  • 第3课 全站流量多维度多时间方位分析
    • 3-1 全站流量分析访问次数分钟级map代码编写
    • 3-2 全站流量分析访问次数分钟级浏览量reduce以及sink代码编写
    • 3-3 全站流量分析新增用户分钟级趋势代码编写
    • 3-4 全站流量分析多时间周期活跃用户分钟级趋势代码编写
    • 3-5 全站流量分析分钟级用户趋势以及分钟级用户去重代码编写
    • 3-6 全站流量分析小时级趋势分析代码编写以及巧妙代码重构
    • 3-7 全站流量趋势分析完善补充
    • 3-8 全站流量分析时间间隔处理代码编写
    • 3-9 flink自定义输出路径BucketingSink
    • 3-10 flink事件数据规则自定义输出路径代码编写以及效果演示
    • 3-11 flink自定义输出路径StreamingFileSink代码编写以及效果演示
    • 3-12 全站流量分析之flink实现用户小时级明细map代码编写
    • 3-13 全站流量分析之flink实现小时级明细reduce以及filesink代码编写
    • 3-14 全站流量分析之flink实现小时级明细分区路径优化代码编写
  • 第4课 用户指标明细以及渠道分析
    • 4-1 hive安装实战
    • 4-2 hive使用详解
    • 4-3 Hive JsonSerde实战讲解
    • 4-4 全站流量分析小时级用户明细联调测试
    • 4-5 全站流量分析小时级用户明细bug调试以及问题解决实战讲解
    • 4-6 hive 分区表实战讲解
    • 4-7 linux shell编程讲解
    • 4-8 linux crontab实战讲解
    • 4-9 全站流量用户明细hive区分表以及添加分区实现
    • 4-10 全站流量用户明细定时任务脚本编写以及定时任务设定
    • 4-11 渠道分析数据以及指标讲解
    • 4-12 渠道分析分钟级访问次数趋势代码编写
    • 4-13 渠道分析分钟级新增以及活跃用户趋势代码编写
    • 4-14 渠道分析小时级分析代码编写
    • 4-15 渠道分析之小时级用户明细代码编写
    • 4-16 渠道分析趋势代码完善
  • 第5课 业务数据实时同步设计和开发
    • 5-1 业务数据结构讲解
    • 5-2 业务数据同步之binlog讲解
    • 5-3 业务数据同步之binlog日志查看
    • 5-4 业务数据同步之canal讲解
    • 5-5 业务数据同步之canal+kafka实时同步业务数据
    • 5-6 业务数据同步之实战联调讲解1
    • 5-7 业务数据同步之实战联调讲解2
    • 5-8 业务数据同步之实战联调讲解3
    • 5-9 flink+fastJson实时处理binlog数据代码编写
    • 5-10 flink+反射技术实时业务数据提取和存储
    • 5-11 kafka 工具类代码编写
    • 5-12 业务数据重定向各个业务topic
    • 5-13 业务数据实时重定向实战联调演示
  • 第6课 广告多方位分析
    • 6-1 广告分析之分钟级点击量趋势
    • 6-2 广告分析之用户趋势实时分析代码编写
    • 6-3 广告分析之小时级用户明细代码编写
    • 6-4 广告分析之用户明细hive定时离线导入
    • 6-5 flink之Join详解
    • 6-6 flink之Join实战代码编写
    • 6-7 flink之Join实战效果联调测试
    • 6-8 广告分析之广告转化率实时分析代码编写1
    • 6-9 广告分析之广告转化率实时分析代码编写2
  • 第7课 Clickhouse工具封装、flink代码完善以及后端服务和前端vue项目构建
    • 7-1 ClickHouse业务表构建
    • 7-2 ClickHouse工具类封装数据转换sql代码编写
    • 7-3 ClickHouse工具类封装数值类型特殊转换代码编写
    • 7-4 ClickHouse工具类结合jdbc实战调试数据转换和数据存储
    • 7-5 flink ClickHouseSink代码完善
    • 7-6 spring boot 2.x 构建后端接口服务
    • 7-7 vue.js构建前端项目1
    • 7-8 vue.js构建前端项目2
    • 7-9 vue 前端项目模板说明
    • 7-10 前端系统之vue.js+highcharts构建图表实战
  • 第8课 前端系统之Vue+highchart图表开发、后端接口服务开发、前后端联调及压力测试
    • 8-1 前端系统之全站流量趋势新增用户趋势实战开发
    • 8-2 前端系统之vue表格实战
    • 8-3 前端系统之vue-resource实现后台交互实战
    • 8-4 前端系统vue代码完善以及后端接口设计和代码编写
    • 8-5 前端系统联调后端接口服务实战讲解
    • 8-6 前端系统vue代码调试以及跨域问题解决
    • 8-7 前端系统之highchart点击事件实战讲解
    • 8-8 vue 动态参数传递以及页面内部跳转讲解
    • 8-9 clickhouse表结构优化以及flink sink代码优化
    • 8-10 flink日期特殊处理9
    • 8-11 接口服务整合clickhouse代码编写
    • 8-12 接口服务封装clickhouse查询结果以及数据联调效果演示
    • 8-13 接口服务之map和set巧妙解决日期乱序数据日期不对称问题
    • 8-14 接口服务之代码坑讲解以及解决
    • 8-15 后端数据联调前端项目实战演示
    • 8-16 接口服务整合hive之hive工具类代码编写
  • 第9课 全站流量以及广告分析前后端开发、实时分析服务docker化部署、订单分析开发
    • 9-1 接口服务以及前端系统完善之全站点击量趋势
    • 9-2 接口服务以及前端系统之全站流量用户数量趋势
    • 9-3 接口服务以及前端系统之全站流量活跃用户趋势
    • 9-4 接口服务以及前端系统完善之渠道分析
    • 9-5 接口服务之广告分析点击趋势和用户趋势代码编写
    • 9-6 广告分析之广告列表服务以vue 点击事件以及自定义函数及前端开发
    • 9-7 广告分析之广告转化率接口以及前端代码编写
    • 9-8 广告分析之广告用户明细接口以及前端代码编写
    • 9-9 docker 部署实时分析服务之docker安装
    • 9-10 docker 部署实时分析服务之dockerfile讲解
    • 9-11 docker部署全流量分析服务实战
    • 9-12 订单分析之订单量趋势分钟级代码编写
    • 9-13 订单分析之订单量趋势小时级代码编写
    • 9-14 订单分析之订单用户趋势代码编写
    • 9-15 订单分析之客单价分析代码编写
    • 9-16 订单分析完善之clickhouse建表补充
  • 第10课 运营分析开发以及课程总结u
    • 10-1 运营分析表结构讲解
    • 10-2 运营分析之团购商品类别趋势分钟级代码编写
    • 10-3 运营分析之团购商品类别趋势小时级完善补充
    • 10-4 运营分析之团购订单趋势代码编写
    • 10-5 运营分析之团购用户趋势代码编写
    • 10-6 运营分析之团购用户趋势代码编写补充讲解
    • 10-7 运营分析之秒杀成交订单趋势分钟级代码编写
    • 10-8 运营分析之秒杀成交订单趋势小时级代码编写
    • 10-9 运营分析之秒杀支付类型趋势代码编写
    • 10-10 运营分析之秒杀clickhouse表构建补充
    • 10-11 运营分析之活动地域趋势分析代码编写
    • 10-12 运营分析之指定活动订单趋势代码编写
    • 10-13 订单分析后端服务之订单趋势以及用户趋势接口代码编写
    • 10-14 订单分析后端服务之客单价接口代码编写
    • 10-15 团购分析后端服务接口代码编写1
    • 10-16 团购分析后端服务接口代码编写2
学费

学费: ¥400 ( 固定学费: ¥100, 逆向学费: ¥300 )

新颖的课程收费形式:“逆向收费”约等于免费学习,仅收取100元固定收费+300元逆向学费,学习圆满则逆向学费全额返还给学员!




炼数成金移动版 v2.0