火山引擎发布高速训练引擎，实现高性价比模型训练-实时

(资料图片)

近日，2023火山引擎春季FORCE原动力大会在上海外滩落下帷幕。会上，火山引擎发布了“智能推荐-高速训练引擎”。火山引擎总裁谭待表示，希望通过这款新的产品，实现高性价比模型训练，全力支持企业在云上的智能创新。

谭待介绍到，推荐是移动互联网时代做好内容分发的核心因素，火山引擎早在2016年就开始对手机厂商等客户提供内容推荐服务。

随着客户的数据沉淀越来越多，算法模型需要快速迭代，越来越多的企业面临稀疏模型的训练速度无法满足需要的问题，导致模型更新缓慢影响线上效果。而火山引擎发布的“智能推荐-高速训练引擎”将模型的训练推理效率进行极致优化，让更多企业通过云服务，享受与字节推荐一样的智能推荐基础设施。

他表示，火山引擎最新推出的“智能推荐-高速训练引擎”，可以为合作伙伴提供超高速训练，实现软硬一体优化，超高速训练100GB-10TB+超大模型；“智能推荐-高速训练引擎”还具有高可用性，基于PS-Worker架构，在服务发现的基础上，支持 PS、Chief、Worker 全方位容错；在高速、通用的基础上，“智能推荐-高速训练引擎还保证了数据安全，实现了成本节约。“智能推荐-高速训练引擎”仅传输高度脱敏后的训练样本，使用了不可逆的哈希技术，保障数据安全，支持多种模型瘦身技术、支持多种GPU模式、优化了大量算子等，大幅提升训练和推理性能，基于字节内部的实践来看，综合成本可降低25%~67%。

同时谭待也提出，当下，只有做好云上创新才能实现上云价值。火山引擎全力支持大模型发展，目前，火山引擎已经支持了包括MiniMax、智谱等众多企业在大模型领域快速发展。

谭待认为，未来大模型会在各个行业内不断兴起，行业专属、企业专属的大模型百花齐放，火山引擎也会全力支持好“多云多模型”的未来架构，让更多企业能够在大模型领域的发展得到更好的算力保障。（作者：张绍）