
近日,AI独角兽企业九章云极发布新一代全栈智能蓄意云平台:九章智算云Alaya NeW Cloud 2.0,并同步脱手群众首个强化学习智算做事。该平台到手破损“秒级生成百万token级”的性能瓶颈,旨在为群众AI变嫌企业及研发机构提供智能蓄意基础范例级做事。 该平台基于Serverless技巧架构与强化学习技巧的深度会通,实测数据暴露,平台可竣事万卡级至十万卡级限制的异构算力和谐诊疗;针对MoE模子架构,推理优化后果提高数倍;复旧用户通过单行代码操作即可完因素布式使命负载编排;始创的“按内容资

近日,AI独角兽企业九章云极发布新一代全栈智能蓄意云平台:九章智算云Alaya NeW Cloud 2.0,并同步脱手群众首个强化学习智算做事。该平台到手破损“秒级生成百万token级”的性能瓶颈,旨在为群众AI变嫌企业及研发机构提供智能蓄意基础范例级做事。
该平台基于Serverless技巧架构与强化学习技巧的深度会通,实测数据暴露,平台可竣事万卡级至十万卡级限制的异构算力和谐诊疗;针对MoE模子架构,推理优化后果提高数倍;复旧用户通过单行代码操作即可完因素布式使命负载编排;始创的“按内容资源奢侈精确计量计费”的变嫌计价模子,显耀裁减了用户使用老本与控制门槛。
智算云2.0旨在为群众AI变嫌企业及研发机构提供智能蓄意基础范例级做事。现在,九章云极加速群众化算力蚁合布局,通过限制化AIDC节点成就,构建起笼罩群众的算力供给蚁合。国内以北京、山东、安徽、云南等为中枢节点;并积极拓展国际商场,构建起复旧海量并发的群众智算做事体系。九章云极与各行业龙头企业伸开深度协调,鼓吹智能化控制在不同规模的限制化落地。
文/北京后生报记者 温婧
裁剪/李涛云开体育
发布于:北京市