百度智能云“千帆大模型平台”升级 接入LLaMA2等33个模型
(资料图片)
新华财经北京8月2日电百度智能云8月2日表示,千帆大模型平台已完成新一轮升级,全面接入LLaMA2全系列、ChatGLM2、RWKV、MPT等33个大模型,成为国内拥有大模型最多的平台。
2023年3月,百度智能云推出“千帆大模型平台”,它是全球首个一站式企业级大模型平台,不但提供包括文心一言在内的大模型服务及第三方大模型服务,还提供大模型开发和应用的整套工具链,能够帮助企业解决大模型从训练到开发过程中的所有问题。今年6月,千帆平台上线插件功能,成为国内首家提供插件服务的大模型平台。
据百度智能云AI与大数据平台总经理忻舟透露,接入的模型经过千帆平台二次性能增强,模型推理成本可降低50%。同时,千帆平台上线国内最全的预置Prompt模板,模板数量多达103个,覆盖对话、游戏、编程、写作十余个场景。
据介绍,企业用户可以将不同大模型搭配使用,以满足不同细分场景的业务需求。企业和开发者可以登陆千帆大模型平台操作台,在“模型仓库”中直接调用、部署。同时,千帆还对第三方大模型做了二次安全增强,更好管控模型输出的安全性。客户在千帆上调用第三方模型,也享有平台的安全保障。
目前,千帆的插件功能已率先应用于百度内部的办公场景中,基于大模型技术打造的如流“超级助手”接入了会议室插件、内部搜索插件等20个插件。百度员工用自然语言与“超级助手”对话,即可实现文档搜索、会议室预定、饭卡充值、休假申请等功能,大大提升员工办公效率。
忻舟表示,大量客户调研显示,企业对插件功能的需求非常迫切,千帆第一时间上线该功能,是希望为客户提供更加个性化的服务,提升千帆平台的用户体验和满意度。“未来,千帆平台将发布更多优质的插件功能,让客户能够更好地应用大模型。同时,我们欢迎所有开发者基于千帆平台共同打造丰富的插件功能,提升大模型的能力。”忻舟说。
(文章来源:上海证券报)
关键词: