陈睿[山推股份]山推股份

4月18日，火山引擎在其举行的“原动力大会”上发布自研DPU等系列云产品，并推出新版机器学习渠道：支撑万卡级大模型练习、微秒级推迟网络，让大模型练习更稳更快。火山引擎总裁谭待表明，AI大模型有巨大潜力和立异空间，火山引擎会服务客户做好大模型，一起推进各职业的智能化晋级。

谭待泄漏，火山引擎的大模型云渠道取得智谱AI、昆仑万维等许多企业的杰出反应。国内大模型范畴，七成以上已是火山引擎客户。“国内稀有十家做大模型的企业，大多现已在火山引擎云上”。谭待以为，大模型不会一家独大。与其他云厂商力推自家大模型不同的是，火山引擎将接入多家大模型深度协作，为企业和顾客供给更丰厚的AI运用。

会上，火山引擎宣告与字节跳动国内事务并池。根据表里一致的云原生根底架构，抖音等事务的闲暇核算资源可极速调度给火山引擎客户运用，离线事务资源分钟级调度10万核CPU，在线事务资源也可潮汐复用，弹性核算抢占式实例的价格最高可优惠80%以上。

让大模型练习快速跑起来

自2022年末发布以来，ChatGPT成为人类历史上最快取得上亿用户的消费级互联网运用。最新的GPT-4大模型，更是在法令、数学、生物学等多项测验中超越90%人类。

谭待表明，国内许多科技公司投入到大模型建设中，他们有优异的技能团队，也有丰厚的职业常识和立异主意，但往往缺少经过大规划场景实践的体系工程才能。火山引擎要做的便是为大模型客户供给高稳定性和高性价比的AI根底设施。

据悉，火山引擎机器学习渠道经过抖音等海量用户事务长时刻打磨，支撑单任务万卡等级的超大规划分布式并行练习场景。GPU弹性核算实例可灵敏调度资源，随用随取，最高能够为客户节约70%的算力本钱。

“降本增效”是本年的关键词

字节跳动副总裁杨震原以为，事务立异需求试错，试错要斗胆、灵敏，但试错也一定要操控本钱。经过潮汐、混部等方法，火山引擎完结资源的高利用率和极低本钱。以抖音引荐体系为例，工程师用15个月的样本练习某个模型，5小时就能完结练习，本钱只要5000元。火爆全网的抖音“AI绘画”特效，从发动到上线只用一周多时刻，模型由一名算法工程师完结练习。

字节跳动副总裁杨震原共享抖音的机器学习实践

MiniMax是现在国内少量现已推出自研大模型产品的AI技能公司，具有文本、视觉、声响三种通用大模型引擎才能。据MiniMax联合创始人杨斌介绍，MiniMax与火山引擎协作建立了超大规划试验渠道，完结千卡级常态化练习；超大规划推理渠道有万卡级算力池，支撑单日过亿次调用。在火山引擎的云上，MiniMax大模型事务完结快速打破。

向“多云多模型”架构演进

能够预见，大模型将带动云上AI算力急剧增加，AI算力的作业负载与通用算力的距离会越来越小，这会为各家云厂商带来新的时机，一起也会对数据中心、软硬件栈、PaaS渠道带来新的应战。但现在大模型还在开展初期，面对数据安全、内容安全、隐私维护、版权维护等许多问题需求尽力处理。

以数据中心的算力结构为例，谭待表明：“大模型需求大算力，虚拟化会带来资源损耗，规划越大就损耗越多。未来3年内，大规划的算力中心，都将构成‘CPUGPUDPU’的混合算力结构，CPU担任通用核算，GPU担任AI核算，DPU担任资源卸载、加快和阻隔，提高资源功率”。

此次原动力大会上，火山引擎发布了新一代自研DPU，完结核算、存储、网络的全组件卸载，开释更多资源给事务负载。火山引擎虽然是“最年青”的云厂商，其自研DPU已达到业界领先水平，网络功能高达5000万pps转发才能、推迟低至20us。根据自研DPU的各类核算实例功能也有明显提高，例如适用于大模型分布式并行练习场景的GPU实例，相较上一代实例集群功能最高提高3倍以上。

自动驾驶公司毫末智行与火山引擎协作打造智算中心，为DriveGPT自动驾驶生成式预练习模型供给强壮的算力支撑。毫末智行CEO顾维灏介绍，DriveGPT运用量产车4000万公里的人驾数据练习，参数规划达1200亿，对自动驾驶认知决议计划模型进行继续优化。

谭待表明，在大模型及下流运用开展推进下，不管传统企业仍是草创企业，对AI算力都有火急需求，企业运用多家云服务将成为常态。一起，各职业有自己高质量的私有语料，大模型不会一家独大，而是会在千行百业成长，构成多模型共生乃至协作的生态。“未来将是‘多云多模型’的年代”，谭待称。

火山引擎总裁谭待宣告支撑“多云多模型”的未来架构

火山引擎也顺势推出了分布式云原生渠道、多云安全、多云CDN、veStack混合云渠道等系列产品，支撑客户更好地运用多家云服务。“字节跳动用过全球简直每一朵公有云，以及大多数CDN，构成一套完好的分布式云管理体系和架构实践”，谭待深信火山引擎是最懂多云和分布式云的云服务商，这些技能才能都会毫无保留地供给给客户。

杨震原进一步表明，火山引擎对内对外供给一致的产品，抖音、今天头条等APP开屏都加上了“火山引擎供给核算服务”。杨震原说：“数字化年代，机器学习能够智能、高效地环绕方针处理问题。数字化的下一步是智能化，咱们在机器学习方面的技能堆集和经历，都会经过火山引擎供给给外部客户，协助更多企业做好智能化”。

封面新闻记者李琪

【假如您有新闻线索，欢迎向咱们报料，一经采用有费用酬报。报料微信重视：ihxdsb，报料QQ：3386405712】