蚂蚁发布金融大模型，“支小宝”上线
9月8日，蚂蚁集团在对外滩大会上正式发布了金融大模型。这款金融大模型
2023-09-09
【资料图】
9月8日，蚂蚁集团在对外滩大会上正式发布了金融大模型。这款金融大模型已经在蚂蚁集团的财富和保险平台上进行了全面测试。据了解，蚂蚁金融大模型基于万亿量级Token的通用语料，注入了千亿量级Token金融知识，并从300+真实产业场景中提取了共60万+高质量指令数据，形成了金融专属任务性能优化的优势数据资产。8月底，蚂蚁金融大模型已经通过证券从业资格、保险从业资格、执业医师资格、执业药师资格等专业试题测试。目前，蚂蚁金融大模型已经在理财和保险领域进行了应用测试。未来，蚂蚁集团将与金融机构合作的所有数字金融业务都将接入这一大模型。基于金融大模型，蚂蚁集团还发布了两款产品：智能金融助理“支小宝2.0”和服务金融产业专家的智能业务助手“支小助”。其中，“支小宝2.0”已经内测近半年，将在完成相关备案工作后上线。而“支小助”正在与蚂蚁平台合作机构内测共建，为理财顾问、保险代理、投研、金融营销、保险理赔等金融从业专家打造全链条的AI业务助手。据悉，蚂蚁金融大模型基于蚂蚁基础大模型，针对金融产业进行了深度定制。蚂蚁基础大模型平台具备万卡异构集群，其中千卡规模训练MFU可达到40%，集群有效训练时长占比90%以上，RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍，推理性能相较于业界方案提升约2倍，处于业界先进水平。蚂蚁集团表示，未来将持续探索和精进大模型的五大能力方向。一是，建设高质量的数据标注团队，沉淀高质量数据体系；二是，攻坚基础大模型算法，以及高效绿色工程能力，提升模型逻辑推理等能力；三是，从通用语言大模型到通用多模态大模型，从一般通识走向全面专业；四是，建设高效的大模型评测标准和评测体系，加快大模型迭代速度；五是，建设大模型安全能力，保障大模型健康可持续发展。
