手机浏览器扫描二维码访问
《Kimi人工智能月度报告丨AI人物观点》
关键词:算力十问
1。沈向洋:大模型将横扫所有垂直行业
“大模型大到一定地步以后就涌现出来。多大才涌现出来?没人讲得清楚。”3月23日,2024全球开发者先锋大会在上海开幕,美国国家工程院外籍院士沈向洋在《大模型时代的机遇和挑战》的演讲中分享了关于大模型的五方面思考。
第一,大模型的到来,强迫人类重新思考人机关系。“我们受到的冲击,到底有多少是机器智能的发展,有多少是人机交互的震撼。”他认为,不管是什么技术,最终目的是帮助人更好运用机器,不忘初心。
第二,大模型将横扫所有垂直行业。大模型可分为通用大模型、行业大模型、企业大模型和个人大模型。“一个通用大模型如果没有万卡、不上1万亿参数,基本上以后就不太好意思说这是一个通用模型了。行业大模型大致上是千亿参数、千亿卡的训练规模。企业大模型可能只需要100张卡、百亿参数。最有意思的是个人大模型,利用个性化参数,结合云和端,这是非常有意义的。”
第三,算力是门槛。影响算力的两大因素是模型大小和数据规模,随着参数增加,对算力的需求几乎是几何级的。“千卡万卡是钱堆出来的。以前有一句话叫贫穷限制想象力,现在贫穷可能扭曲想象力,因为如果没有卡,能想象要做的项目可能就不太一样了。”
第四,AI带来社会冲击。这些冲击包括对民众的冲击、企业的冲击、政府监管的冲击、社会发展的冲击,带来一本正经胡说八道、深度伪造等伦理问题,很多国家开始立法,这需要共同推动治理、向前发展。
第五,智能的本质。人工智能蓬勃发展,但人们对智能的本质并没有清晰认知。“大模型大到一定地步以后就涌现出来。多大才涌现出来?没人讲得清楚。”沈向洋表示,“很多人相信scalinglaw(规模法则),但今天的深度学习,理论非常欠缺。从宇宙到量子,物理学有一套大一统的理论统一起来,叫作TheoryofEverything。今天深度学习没有这样的理论,所以叫作TheoryofAnything。”
2。中国工程院邬贺铨院士:《算力十问》
在第二届“华彩杯”算力创新应用大赛启动会上,中国工程院邬贺铨院士发表题为《算力十问》的主旨报告
就超算、通算、智算三类算力是否存在合理比例的问题,邬院士认为,不同地区需求不同,不可能有固定的比例。通常国家与区域创新中心城市对超算有较大需求;机密性和时延敏感性决定了城市政务数据和重要企业关键数据尽量在同城通算;东部地区的AI训练任务重、智算比例高;西部算力枢纽也需要增加智算能力,但一般西部地区以配置通算为主。
关于算存比,邬院士强调,存力与算力需配合,避免因存力短缺造成算力等待而影响处理效率。而存力按位于服务器内外分为内存与外存,对于CPU密集型计算任务,影响算力效率与性能的主要是内存,据分析合理的算存比是GFlopsGB为1;对IO密集计算任务,需频繁访问外存,如何考虑计入外存力的算存比合理取值,值得商榷。邬贺铨同时指出,存力有HDD机械硬盘和SDD固态硬盘之分,后者可节能70%,但我国SDD仅占24。7%,不及美国一半。
就边缘与终端算力运用的问题,邬院士认为,当边缘终端具有70亿参数以上的推理能力时,边缘终端可离线进行推理任务,目前手机可支持130亿参数,2024年还会出现支持千亿参数的手机。当边缘终端仅具有10亿参数的推理能力时,需要与云端协同提供智能能力。邬院士提出,单终端算力小,数以亿计的终端算力集合就非常可观,但跨终端的协同计算是否可行值得商榷。
关于异地算力节点的协同,邬院士认为,将算力集群扩展到跨域,多个异地的算力节点共同承担一个计算任务,实时性的交互要求光传输系统无损和确定性时延,任何丢包和抖动都无法保证计算效率;在异属异构的场景下异地协同计算的实施可操作性更是挑战。他强调,集约化建设大型算力节点比分布异地协同能够显着提升能效和算力效率,东数西算和数据灾备都需要在异地算力枢纽间建立广域连接,但这仅是算力任务的转移而不是异地实时协同计算。
关于算网协同,邬院士认为,算力与网络往往属于不同的运营主体,跨运营商的协同调度也有管理难题。而且网络通常并不感知所承载的数据属性。当前,首先要厘清算网协同的标准与方法,发挥IPv6的分段选路、SRV6作为算网协同统一承载协议的作用,通过编程空间实现云网算网的融通。
这章没有结束,请点击下一页继续阅读!
就如何解除中小企业使用算力的顾虑,邬院士建议,政府站台主导建设面向中小企业的云智平台,降低企业利用算力的门槛和对安全的担心。
——总结·点评——
沈向洋博士和邬贺铨院士的观点分别从大模型的发展趋势和算力的多维度问题出发,为理解AI技术演进和基础设施建设的现状与未来提供了深刻洞察。
沈向洋观点概览:
沈向洋认为,大模型(largelanguagemodels)将在所有垂直行业中扮演颠覆性角色,强调了模型规模的重要性。他指出,未来的通用大模型将以万亿参数为常态,而针对特定行业的模型则可能达到千亿参数级别,即便是企业内部使用的模型也将达到百亿参数量级。沈向洋的观点预示着大模型技术不仅将继续推动自然语言处理等领域的进步,还将广泛渗透至医疗、金融、教育等各行各业,成为推动数字化转型的关键力量。
邬贺铨观点概览:
邬贺铨院士的《算力十问》报告则从算力的需求、分配、效率、协同等多个角度进行了深入探讨。他指出,不同类型的算力(超算、通算、智算)需求因地区而异,强调了存算比优化的重要性,并区分了不同类型计算任务对内存与外存的不同依赖。邬贺铨还讨论了边缘计算与终端算力的潜力,提出随着终端设备推理能力的增强,边缘计算与终端协同将成为趋势,但也面临跨终端协同计算的挑战。关于算力节点的异地协同,他认为虽然存在技术与管理上的挑战,但算网协同和标准化工作对于提升整体效能至关重要。针对中小企业,邬贺铨建议政府应发挥作用,通过构建云智平台来降低算力使用门槛,增强安全性信心。
两位专家的观点综合展示了AI技术发展与算力基础设施建设的广阔前景及面临的实际挑战,指明了技术创新与政策支持对于推动行业发展的关键作用。
喜欢灵魂交响曲:人工智能日记请大家收藏:(www。cwzww。com)灵魂交响曲:人工智能日记
末世大佬姜丝跟丧尸皇同归于尽,身穿阿贝尔星际。阿贝尔星系人口却一直下降,200年没有新人口诞生。新来原始物种姜丝具有100的生育值,意味着打一炮双响,这还了得?于是姜丝找了帝国不孕不育亲王兼元帅做老公,仗着不用生孩子一心搞事业,成了种植大师,药剂大师,古文大师,一天姜丝呕吐不止,肚里怀崽的信息通过光脑进了生育库,整个星际沸腾了,200年了,终于有崽了,姜丝瞬间成了真正的星际团宠...
烂尾小说高开低走,读者怨念爆表疯狂刷负分,小说修改系统出动,绑定每个小说里的女配,修改反派剧情,挽救小说世界。然而第一个世界国师反派被女帝宿主打断手脚,收为后宫。第二个世界阴暗反派被白莲宿主捆绑囚禁,生死未卜。第三个世界强惨反派被病娇宿主夺取内丹,沦为鼎炉。读者泪目一时间竟然分不清到底谁才是反派!每个世界相对独立,男女主均为切片,1v1,最后一个世界收束...
一觉醒来,苏长空穿越到了兵荒马乱妖魔横行的世界,武道资质平平,但苏长空发现,只要自己寿命增长,天赋潜能就能随之无限提升!五禽戏模仿虎鹿熊猿鸟等动物,习之可强身健体,身手敏捷,百病不生!龟息真定功仿生气功,如千年老龟呼吸吐纳,纳气久闭,延年益寿!天蚕神功天蚕九变,破茧成蝶,返老还童,打通生死玄关,每次蜕变都是一次重生!修养生拳法,练长生之气!长生路上多尸骸,苏长空走上了...
生性怕诡的陆皎收到人生中第一个大制作节目的邀约。陆皎坚定脸我不去!得知参赛奖金数后,陆皎我又行了!节目加盟的嘉宾都是娱乐平台一众大咖,混进其中的陆皎显得尤为突出。观众1呵呵什么咖位自己清楚吗?还敢来这档节目!观众2空有一张脸罢了,坐等她吓出表情包。直播开启,陆皎抬手间恶诡灰飞烟灭。观众1奈何本人没文化,一句卧槽走天下!观众2大佬,怕怕,抱抱!身怀正气十八线玄学女王x诡里诡气帅炸天老古董...
大女主爽文高智商宫斗女主算计全后宫疯批反派性格宋昭向来是一个为达目的不择手段的女子,同时她也活得比谁都清醒。打她知道自己被萧景珩选中,要入宫为妃的那一刻起,她的目标就十分明确我入宫就是要做皇后的,不然做什么?去给旁人做饭吗?所以一入宫,她便凭借自己的美貌与智慧,步步为营,俘获君心,将六宫玩弄于股掌之中。反正这后宫中的女人,为了家族为了自身荣宠,就没有不争不抢的,既然如此,她要做的就是先下手为强,将自己活成一个反派,斗垮所有人,成功登上凤位。一开始,皇帝萧景珩宠着宋昭,只因为她那张冠绝后宫的脸。后妃受宠,多会恃宠而骄,可宋昭却不同。她非但不会争宠,还总劝着萧景珩雨露均沾,多去别的后妃处走动走动。平日里对他的态度,也是肉眼可见的敷衍。这不禁让萧景珩心下生疑,觉得宋昭对他并非真心。帝王与生俱来的征服欲,让他暗下决心,一定要彻底拿下这个女人不单是她的人,还有她的心。征服宋昭的过程,像是攀上这世间最高的山峰。只是萧景珩从未想过宋昭这座山,他一攀,竟心甘情愿地攀了一辈子。无穿书无重生无金手指各位书友要是觉得娘娘病娇又茶媚,一路宫斗夺后位还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦!...
都市电竞日常直播陪玩代练无脑爽文林天穿越蓝星,这里全民都在玩王者。但没想到原主身患绝症,只剩七天可活。绑定游戏系统后,他成为无敌全能选手,且做任务就能加生命。任务1给女老板陪玩,获得好评加一天生命。任务2给女老板代练,完成单子加两天生命。任务3随着系统功能逐步解锁,他还获得了内含房车技能及各种道具的宝箱。陪玩撞车德华,在土鸡高地虐泉一打五。...