《分布式AI》特训营

发起人: 岸岸 发起时间:2023年06月16日 当前状态:已完成

关于课程
大数据已死?分布式已死?中台已死?架构师已死?确实,近年来我们不断在大量自媒体看到各种标题刺激眼球的文章,我们也发现,在上一个大数据时代非常流行的hadoop,spark,雨后春笋般涌现的各种nosql分布式数据库,好像也越来越少人提及。一方面,之前的过度建设不切实际,分布式系统复杂的运维和沉重的电费,折旧成本也损伤了企业的元气,按照近期实施的数据安全法规,企业能合规获得的数据量越来越少,传说中的万物互联的传感器海量数据时代也没有到来。企业自身的数据量中位数大约100GB,根本不需要分布式,只要装一套Oracle就够用了。hadoop、nosql系统的没落也是在预料之中。逐渐的企业更青睐简洁高效的IT系统结构,摒弃繁复、冗余的系统。

但在AI领域,分布式系统找到新的生存空间。AI模型的训练与发布很依赖于显卡提供的算力,单台服务器能容纳的显卡有限,现在一个大语言模型需要占用几十G甚至更多的显存也已经是很平常,所以急需能同时控制多台连网服务器,打通显卡资源,实现分布式训练、调度与发布的系统。当今市场上传统的基于流程信息管理的IT系统已经饱和,随着AIGC热潮的兴起和大量成熟的计算机视觉模型的广泛使用,带有AI功能的经过改造的IT系统大行其道。于是新的需求就产生了。一是以Ray为代表的分布式AI技术,二是所谓“AI架构师”职位需求越来越多。

Ray与Spark一样,是缘起于加州大学伯克利分校的技术,Spark小组的成员后来成立了名噪一时的Databrick公司,运营基于云计算发布的基于Spark的数据仓库资源。惊人相似的,Ray小组的科学家成立了一家名叫Anyscale的公司,运营基于云计算发布的基于Ray的分布式算力资源。与Hadoop(原生java),Spark(原生scala)这些大名鼎鼎的系统不同,Ray原生是python,非常适合AI时代python大行其道处于统治地位的现状,在部署Ray以后,我们同样使用Pytorch,只要经过简单的改写,就可以用numpy去处理超大规模的数据分析工作,可以把100G显存需求的AI模型训练任务分拆到若干台不同服务器的显卡上进行训练或发布,轻松突破显卡资源限制瓶颈。由于显卡的性价比与超级计算机一样是指数上升曲线,因此Ray给与我们极大的灵活性,节省可观的金钱投入。


最近非常火的chatgpt等大语言模型,大部分也是借助像Ray这样的分布式AI训练平台,才得以在短时间内实现迭代。否则只能等待英伟达出产超级显卡服务器,看着那长长的订单排队,也不知道何年何月才能成功上线了。也可以说最近大语言模型的风行使分布式AI更加成熟接地气,同时也催生出诸如大语言模型运维、大语言模型架构设计一系列前所未有的新型岗位。

本课程以Ray为主要内容,同时也讲述OrionX(一种虚拟化细分显卡的技术,可以使显卡资源有更高的利用率)和Deepspeed(作用类似Ray的另一种分布式AI计算框架)。听众只需要有一定的python/pytorch(提供前置课程)基础,对AI有一定了解即可参与。目前行业内对AI架构师/算法架构师有大量需求,本课程提供的知识可以帮助听众更容易获取这些高薪职位也可以为相关企业解决有关问题提供思路和解决方法。同时本课程与我们历次特训营类似,它不是孤立的个体,我们力图通过课程师生间的私人关系组成类似“算力联盟”的社群组织,建立算力分享服务框架,通过联合算力与技术对外提供服务获取效益。

特训营核心解决问题
1 怎样规划企业的计算资源使其更高效率地使用?掌握相关工具
2 怎样实现分布式AI模型(训练与发布)?
3 怎样利用算力(对外服务)赚钱?
本轮次课程是2023年炼数成金的唯一一次关于分布式AI的授课,不再另行安排网络课程

课程内容
【Day 1】
AI架构技术栈多层模型
GPU虚拟化与OrionX
分布式AI概念与开发范式
RAY生态圈
Deepspeed
分布式AI模型开发与训练实战

报名后我们组成师生交流微信群,大家也可以互动讨论提议一些课程内容,老师尽量满足大家的要求。

课程讲师:何翠仪
资深数据科学家,毕业于中山大学数学学院。多年数据分析与人工智能算法开发的行业经验,在计算机视觉、语音处理、自然语言处理和强化学习等领域上都有着丰富的项目实战经验。
曾主导开发众多项目与产品,包括中医临床智能辅助决策系统、内镜医学图像增强系统、广东烟草配送优化、华为“客户之声”、越秀集团商场客流分析、广东电信智能营销分析、广东移动客户满意度分析、语音风格迁移、游戏AI等。

黄志洪(tigerfish),数据库专家,数据分析专家,有丰富的IT领域、数学领域的知识经验。知名数据库网站ITPUB创始人,知名数据分析网站炼数成金创始人。ITPUB在其十几年历史中为中国IT业特别是数据库行业输送了大量人才,其中不乏今天在行业里叱咤风云的佼佼者,因此被誉为数据库业的黄埔军校。后来创建炼数成金,言传身教,亲自讲授大数据,数据库,数据分析,人工智能等方面的几十门课程,本身也在华南著名学府中山大学任教多年,桃李满天下。引领无数弟子进入业界,朋友圈遍及业界重要人士,广受尊重。

培训时间:
2023年7月29日(周六,6学时)


授课形式:
网络直播课程(国内外和各城市的朋友们均可参与课程,让学习不受地域的限制)
         
参训特享四大福利:

1、赠送炼数成金精品课:可从《Python数据分析》、《Python自然语言分析》、《知识图谱实战》、《Python机器学习》等多门课程中任选两门课程,作为学前基础课

2、赠送学习道具卡:快班免固定学费道具卡1张,价值300元

3、独家学习资料:教研团队精心准备的课程相关的学术性资料
4、专属微信群:专属微信交流群,与老师近距离沟通,群永久存在,不解散


培训费用:
全价1080,早报名多优惠 !优惠截止时段和价格如下
截止时间
6月15日-6月26日  
6月27日-7月10日
7月10日至课程结束
报名费
680
880
1080
5人团体培训费:享受每位学员减100元优惠(同一公司员工组团参加)

特别说明:充值报名本课程学费,不可同时参与平台其他充值有奖活动
        
培训FAQ
Q:涉及的实战部分讲得细致吗?
A:会讲到代码级 ,听众必须使用电脑搭建好环境以便参与动手实践,我们在课程会公布统一实验环境要求
        
Q:学习这个课程需要什么基础?怎么确定我是否具备这个基础?
A:理论上不需要很多基础,只需要有一定的python/pytorch(提供前置课程)基础,对AI有一定了解即可参与,在报名后助教老师会对参与者进行辅导,基础完全不是问题。
        
全国统一咨询热线 4008-010-006
咨询QQ:  2222010060,2222010006 (上班时间在线)
咨询Email :kefu@dataguru.cn

咨询微信:

最近报名

  • 常大扬扬

  • ddcrzhe

  • poiu72

  • fanqimcse

  • lutuo

  • guetCloud

  • bowangphysics

  • arfa

  • xutao456

  • fftwfcf

  • 小金风

  • shliuzw

  • 江晖

  • maruqiao

  • georgekuo

  • jacky70122

  • zhaojun

  • leiguru

  • 月生禾刀

  • 914434878

  • yoyo

  • njfrog

  • neulf

  • 靠谱小王子

  • light2017

  • xjiahai

  • zhuguangbin

  • mango_zuo

  • runtizi

  • cwxzaidata

  • hmh3393253

  • wj972520

  • annierwu

  • matakk

  • lingyimeier

  • coolbee_xu

  • wwb1942

  • moziofmoon

  • xenron

  • doczhaojb

  • momo_ap

  • tuyun

  • ashe

  • 13348802255

  • 润无声

  • zhtoy228

  • wmerzhandou

  • vangou

  • duoremi_lj

  • 卖小孩的咖啡

  • robertw2011

  • 山林隐逸

  • migrant620

  • azddza

  • risetoday

  • 淬火流云

  • hwb520

  • ilbarca

  • jyxer

  • xuzh_china

  • xuetao365

开课时间

2023年07月29日

席位有限, 仅剩 39 个席位

已完成
  • 61%
    完成度
  • 61人
    报名人数
  • 0天
    剩余天数

获得如下服务:

参训特享四大福利:

1、赠送炼数成金精品课:可从《Python数据分析》、《Python自然语言分析》、《知识图谱实战》、《Python机器学习》等多门课程中任选两门课程,作为学前基础课
2、赠送学习道具卡:快班免固定学费道具卡1张,价值300元
3、学习资料:教研团队精心准备的课程相关的学术性资料
4、专属微信群:专属微信交流群,与老师近距离沟通,群永久存在,不解散

 
QQ在线咨询
售前咨询热线
4008-010-006
联系项目经理
点击这里给我发消息

 

GMT+8, 2024-6-16 20:25 , Processed in 0.165032 second(s), 20 queries .