《分布式AI》特训营
发起人： 岸岸 发起时间：2023年06月16日 当前状态：已完成
关于课程
大数据已死？分布式已死？中台已死？架构师已死？确实，近年来我们不断在大量自媒体看到各种标题刺激眼球的文章，我们也发现，在上一个大数据时代非常流行的hadoop，spark，雨后春笋般涌现的各种nosql分布式数据库，好像也越来越少人提及。一方面，之前的过度建设不切实际，分布式系统复杂的运维和沉重的电费，折旧成本也损伤了企业的元气，按照近期实施的数据安全法规，企业能合规获得的数据量越来越少，传说中的万物互联的传感器海量数据时代也没有到来。企业自身的数据量中位数大约100GB，根本不需要分布式，只要装一套Oracle就够用了。hadoop、nosql系统的没落也是在预料之中。逐渐的企业更青睐简洁高效的IT系统结构，摒弃繁复、冗余的系统。
但在AI领域，分布式系统找到新的生存空间。AI模型的训练与发布很依赖于显卡提供的算力，单台服务器能容纳的显卡有限，现在一个大语言模型需要占用几十G甚至更多的显存也已经是很平常，所以急需能同时控制多台连网服务器，打通显卡资源，实现分布式训练、调度与发布的系统。当今市场上传统的基于流程信息管理的IT系统已经饱和，随着AIGC热潮的兴起和大量成熟的计算机视觉模型的广泛使用，带有AI功能的经过改造的IT系统大行其道。于是新的需求就产生了。一是以Ray为代表的分布式AI技术，二是所谓“AI架构师”职位需求越来越多。
Ray与Spark一样，是缘起于加州大学伯克利分校的技术，Spark小组的成员后来成立了名噪一时的Databrick公司，运营基于云计算发布的基于Spark的数据仓库资源。惊人相似的，Ray小组的科学家成立了一家名叫Anyscale的公司，运营基于云计算发布的基于Ray的分布式算力资源。与Hadoop（原生java），Spark（原生scala）这些大名鼎鼎的系统不同，Ray原生是python，非常适合AI时代python大行其道处于统治地位的现状，在部署Ray以后，我们同样使用Pytorch，只要经过简单的改写，就可以用numpy去处理超大规模的数据分析工作，可以把100G显存需求的AI模型训练任务分拆到若干台不同服务器的显卡上进行训练或发布，轻松突破显卡资源限制瓶颈。由于显卡的性价比与超级计算机一样是指数上升曲线，因此Ray给与我们极大的灵活性，节省可观的金钱投入。
最近非常火的chatgpt等大语言模型，大部分也是借助像Ray这样的分布式AI训练平台，才得以在短时间内实现迭代。否则只能等待英伟达出产超级显卡服务器，看着那长长的订单排队，也不知道何年何月才能成功上线了。也可以说最近大语言模型的风行使分布式AI更加成熟接地气，同时也催生出诸如大语言模型运维、大语言模型架构设计一系列前所未有的新型岗位。
本课程以Ray为主要内容，同时也讲述OrionX（一种虚拟化细分显卡的技术，可以使显卡资源有更高的利用率）和Deepspeed（作用类似Ray的另一种分布式AI计算框架）。听众只需要有一定的python/pytorch（提供前置课程）基础，对AI有一定了解即可参与。目前行业内对AI架构师/算法架构师有大量需求，本课程提供的知识可以帮助听众更容易获取这些高薪职位，也可以为相关企业解决有关问题提供思路和解决方法。同时本课程与我们历次特训营类似，它不是孤立的个体，我们力图通过课程师生间的私人关系组成类似“算力联盟”的社群组织，建立算力分享服务框架，通过联合算力与技术对外提供服务获取效益。
特训营核心解决问题
1 怎样规划企业的计算资源使其更高效率地使用？掌握相关工具
2 怎样实现分布式AI模型（训练与发布）？
3 怎样利用算力（对外服务）赚钱？
本轮次课程是2023年炼数成金的唯一一次关于分布式AI的授课，不再另行安排网络课程。
课程内容
【Day 1】
AI架构技术栈多层模型
GPU虚拟化与OrionX
分布式AI概念与开发范式
RAY生态圈
Deepspeed
分布式AI模型开发与训练实战
报名后我们组成师生交流微信群，大家也可以互动讨论提议一些课程内容，老师尽量满足大家的要求。
课程讲师：何翠仪
资深数据科学家，毕业于中山大学数学学院。多年数据分析与人工智能算法开发的行业经验，在计算机视觉、语音处理、自然语言处理和强化学习等领域上都有着丰富的项目实战经验。
曾主导开发众多项目与产品，包括中医临床智能辅助决策系统、内镜医学图像增强系统、广东烟草配送优化、华为“客户之声”、越秀集团商场客流分析、广东电信智能营销分析、广东移动客户满意度分析、语音风格迁移、游戏AI等。
黄志洪（tigerfish），数据库专家，数据分析专家，有丰富的IT领域、数学领域的知识经验。知名数据库网站ITPUB创始人，知名数据分析网站炼数成金创始人。ITPUB在其十几年历史中为中国IT业特别是数据库行业输送了大量人才，其中不乏今天在行业里叱咤风云的佼佼者，因此被誉为数据库业的黄埔军校。后来创建炼数成金，言传身教，亲自讲授大数据，数据库，数据分析，人工智能等方面的几十门课程，本身也在华南著名学府中山大学任教多年，桃李满天下。引领无数弟子进入业界，朋友圈遍及业界重要人士，广受尊重。
培训时间：
2023年7月29日（周六，6学时）
授课形式：
网络直播课程（国内外和各城市的朋友们均可参与课程，让学习不受地域的限制）
参训特享四大福利：
4、专属微信群：专属微信交流群，与老师近距离沟通，群永久存在，不解散
培训费用：
全价1080，早报名多优惠 ！优惠截止时段和价格如下
5人团体培训费：享受每位学员减100元优惠（同一公司员工组团参加）
特别说明：充值报名本课程学费，不可同时参与平台其他充值有奖活动
培训FAQ
Q：涉及的实战部分讲得细致吗？
A：会讲到代码级 ，听众必须使用电脑搭建好环境以便参与动手实践，我们在课程会公布统一实验环境要求
Q：学习这个课程需要什么基础？怎么确定我是否具备这个基础？
A：理论上不需要很多基础，只需要有一定的python/pytorch（提供前置课程）基础，对AI有一定了解即可参与，在报名后助教老师会对参与者进行辅导，基础完全不是问题。
全国统一咨询热线 4008-010-006
咨询QQ： 2222010060，2222010006 (上班时间在线）
咨询Email ：kefu@dataguru.cn
大数据已死？分布式已死？中台已死？架构师已死？确实，近年来我们不断在大量自媒体看到各种标题刺激眼球的文章，我们也发现，在上一个大数据时代非常流行的hadoop，spark，雨后春笋般涌现的各种nosql分布式数据库，好像也越来越少人提及。一方面，之前的过度建设不切实际，分布式系统复杂的运维和沉重的电费，折旧成本也损伤了企业的元气，按照近期实施的数据安全法规，企业能合规获得的数据量越来越少，传说中的万物互联的传感器海量数据时代也没有到来。企业自身的数据量中位数大约100GB，根本不需要分布式，只要装一套Oracle就够用了。hadoop、nosql系统的没落也是在预料之中。逐渐的企业更青睐简洁高效的IT系统结构，摒弃繁复、冗余的系统。
但在AI领域，分布式系统找到新的生存空间。AI模型的训练与发布很依赖于显卡提供的算力，单台服务器能容纳的显卡有限，现在一个大语言模型需要占用几十G甚至更多的显存也已经是很平常，所以急需能同时控制多台连网服务器，打通显卡资源，实现分布式训练、调度与发布的系统。当今市场上传统的基于流程信息管理的IT系统已经饱和，随着AIGC热潮的兴起和大量成熟的计算机视觉模型的广泛使用，带有AI功能的经过改造的IT系统大行其道。于是新的需求就产生了。一是以Ray为代表的分布式AI技术，二是所谓“AI架构师”职位需求越来越多。
Ray与Spark一样，是缘起于加州大学伯克利分校的技术，Spark小组的成员后来成立了名噪一时的Databrick公司，运营基于云计算发布的基于Spark的数据仓库资源。惊人相似的，Ray小组的科学家成立了一家名叫Anyscale的公司，运营基于云计算发布的基于Ray的分布式算力资源。与Hadoop（原生java），Spark（原生scala）这些大名鼎鼎的系统不同，Ray原生是python，非常适合AI时代python大行其道处于统治地位的现状，在部署Ray以后，我们同样使用Pytorch，只要经过简单的改写，就可以用numpy去处理超大规模的数据分析工作，可以把100G显存需求的AI模型训练任务分拆到若干台不同服务器的显卡上进行训练或发布，轻松突破显卡资源限制瓶颈。由于显卡的性价比与超级计算机一样是指数上升曲线，因此Ray给与我们极大的灵活性，节省可观的金钱投入。
最近非常火的chatgpt等大语言模型，大部分也是借助像Ray这样的分布式AI训练平台，才得以在短时间内实现迭代。否则只能等待英伟达出产超级显卡服务器，看着那长长的订单排队，也不知道何年何月才能成功上线了。也可以说最近大语言模型的风行使分布式AI更加成熟接地气，同时也催生出诸如大语言模型运维、大语言模型架构设计一系列前所未有的新型岗位。
本课程以Ray为主要内容，同时也讲述OrionX（一种虚拟化细分显卡的技术，可以使显卡资源有更高的利用率）和Deepspeed（作用类似Ray的另一种分布式AI计算框架）。听众只需要有一定的python/pytorch（提供前置课程）基础，对AI有一定了解即可参与。目前行业内对AI架构师/算法架构师有大量需求，本课程提供的知识可以帮助听众更容易获取这些高薪职位，也可以为相关企业解决有关问题提供思路和解决方法。同时本课程与我们历次特训营类似，它不是孤立的个体，我们力图通过课程师生间的私人关系组成类似“算力联盟”的社群组织，建立算力分享服务框架，通过联合算力与技术对外提供服务获取效益。
特训营核心解决问题
1 怎样规划企业的计算资源使其更高效率地使用？掌握相关工具
2 怎样实现分布式AI模型（训练与发布）？
3 怎样利用算力（对外服务）赚钱？
本轮次课程是2023年炼数成金的唯一一次关于分布式AI的授课，不再另行安排网络课程。
课程内容
【Day 1】
AI架构技术栈多层模型
GPU虚拟化与OrionX
分布式AI概念与开发范式
RAY生态圈
Deepspeed
分布式AI模型开发与训练实战
报名后我们组成师生交流微信群，大家也可以互动讨论提议一些课程内容，老师尽量满足大家的要求。
课程讲师：何翠仪
资深数据科学家，毕业于中山大学数学学院。多年数据分析与人工智能算法开发的行业经验，在计算机视觉、语音处理、自然语言处理和强化学习等领域上都有着丰富的项目实战经验。
曾主导开发众多项目与产品，包括中医临床智能辅助决策系统、内镜医学图像增强系统、广东烟草配送优化、华为“客户之声”、越秀集团商场客流分析、广东电信智能营销分析、广东移动客户满意度分析、语音风格迁移、游戏AI等。
黄志洪（tigerfish），数据库专家，数据分析专家，有丰富的IT领域、数学领域的知识经验。知名数据库网站ITPUB创始人，知名数据分析网站炼数成金创始人。ITPUB在其十几年历史中为中国IT业特别是数据库行业输送了大量人才，其中不乏今天在行业里叱咤风云的佼佼者，因此被誉为数据库业的黄埔军校。后来创建炼数成金，言传身教，亲自讲授大数据，数据库，数据分析，人工智能等方面的几十门课程，本身也在华南著名学府中山大学任教多年，桃李满天下。引领无数弟子进入业界，朋友圈遍及业界重要人士，广受尊重。
培训时间：
2023年7月29日（周六，6学时）
授课形式：
网络直播课程（国内外和各城市的朋友们均可参与课程，让学习不受地域的限制）
参训特享四大福利：
1、赠送炼数成金精品课：可从《Python数据分析》、《Python自然语言分析》、《知识图谱实战》、《Python机器学习》等多门课程中任选两门课程，作为学前基础课
2、赠送学习道具卡：快班免固定学费道具卡1张，价值300元
3、独家学习资料：教研团队精心准备的课程相关的学术性资料4、专属微信群：专属微信交流群，与老师近距离沟通，群永久存在，不解散
培训费用：
全价1080，早报名多优惠 ！优惠截止时段和价格如下
|
截止时间
|
6月15日-6月26日
|
6月27日-7月10日
|
7月10日至课程结束
|
|
报名费
|
680
|
880
|
1080
|
特别说明：充值报名本课程学费，不可同时参与平台其他充值有奖活动
培训FAQ
Q：涉及的实战部分讲得细致吗？
A：会讲到代码级 ，听众必须使用电脑搭建好环境以便参与动手实践，我们在课程会公布统一实验环境要求
Q：学习这个课程需要什么基础？怎么确定我是否具备这个基础？
A：理论上不需要很多基础，只需要有一定的python/pytorch（提供前置课程）基础，对AI有一定了解即可参与，在报名后助教老师会对参与者进行辅导，基础完全不是问题。
全国统一咨询热线 4008-010-006
咨询QQ： 2222010060，2222010006 (上班时间在线）
咨询Email ：kefu@dataguru.cn
咨询微信：
最近报名
-
常大扬扬
-
ddcrzhe
-
poiu72
-
fanqimcse
-
lutuo
-
guetCloud
-
bowangphysics
-
arfa
-
xutao456
-
fftwfcf
-
小金风
-
shliuzw
-
江晖
-
maruqiao
-
georgekuo
-
jacky70122
-
zhaojun
-
leiguru
-
月生禾刀
-
914434878
-
yoyo
-
njfrog
-
neulf
-
靠谱小王子
-
light2017
-
xjiahai
-
zhuguangbin
-
mango_zuo
-
runtizi
-
cwxzaidata
-
hmh3393253
-
wj972520
-
annierwu
-
matakk
-
lingyimeier
-
coolbee_xu
-
wwb1942
-
moziofmoon
-
xenron
-
doczhaojb
-
momo_ap
-
tuyun
-
ashe
-
13348802255
-
润无声
-
zhtoy228
-
wmerzhandou
-
vangou
-
duoremi_lj
-
卖小孩的咖啡
-
robertw2011
-
山林隐逸
-
migrant620
-
azddza
-
risetoday
-
淬火流云
-
hwb520
-
ilbarca
-
jyxer
-
xuzh_china
-
xuetao365
