首页>AI>正文

蚂蚁百灵大模型:以智效比为核心的真实场景落地之路

Feng 5 阅读 AI

条条大路通罗马,通往AGI的路也不是只有一条。AI要从技术、产品走向产业和生活,真实世界任务需要什么样的模型?

外滩大会期间,蚂蚁基础智能技术部负责人、百灵大模型负责人西亭,阿福模型技术负责人进捷,百灵金融模型负责人月引,百灵语言基座负责人零幺接受媒体访谈,深度解读百灵Ling-3.0系列模型的迭代逻辑、技术突破与落地布局。

百灵大模型

百灵大模型:致力于追求更高的智效比

今年8月以来,蚂蚁百灵Ling-3.0系列模型陆续开放,目前发布开源的主要有以下几款模型:

Ling-3.0-flash:新一代原生混合推理模型,兼顾代码、推理、Agent与长上下文能力,总参数124B,激活参数5.1B,更低激活、更高吞吐,更高的智能密度。

Ling-3.0-tiny:迄今为止最小体积的模型,总参数 7.9B,激活参数1.3B,可以运行在电脑、手机等端侧设备。

Ling-3.0-flash-Fin:首个金融增强模型,面向真实金融工作流场景,总参数124B,激活参数5.1B,具备256K长上下文能力。

Ling-3.0-flash-VL:首个原生多模态模型,可以更好地看报告、理解PPT以及理解GUI界面。

百灵大模型的定位是打造面向真实世界,具备高智效、专业化的基础模型体系。其Ling-3.0系列所追求的更高智效比(即智能密度),是让每一份计算资源,都尽可能对最终业务任务产生最大价值。

智效比:让模型在真实场景大规模落地的关键

随着AI技术不断发展,海量智能体深入企业,无论是模型供应商还是客户都越来越看重模型智效。在AI应用调用模型的时候,更智能的模型路由分发可以提升智效比,即将每个查询发送至最合适的模型,而非默认将所有任务都分配给能力最强同时也是成本最高的模型。

西亭介绍,智效比不是孤立地追求某项指标,而是寻求更好地综合平衡。最终想要量化的是端到端任务成功率,不能将其简单等同于单步生成成功率。

好的模型不是设计出来的,是用出来的,优质的AI模型更依托海量真实场景的持续淬炼。对企业而言,AI落地最终要回归商业本质、考量投入产出比,需要结合具体业务场景,在智能、速度与成本之间进行平衡取舍。

Feng
这位作者很神秘,还没有填写简介。