作为全球首个一站式企业级大模型平台,百度智能云“千帆大模型平台”在提供包括文心一言在内的大模型服务及第三方大模型服务的同时,还提供大模型开发和应用的整套工具链,帮助企业解决大模型从训练到开发过程中的全链条问题。
自2023年3月发布以来,千帆大模型平台经历了多轮重磅升级。8月2日,百度智能云宣布千帆大模型平台又完成了新一轮升级,重点包括三大功能。
第一,全面接入LLaMA2全系列、ChatGLM2、RWKV、MPT等33个大模型,成为国内拥有大模型最多的平台,接入的模型经过千帆平台二次性能增强,模型推理成本可降低50%。
(相关资料图)
第二,上线国内最全的预置Prompt模板,模板数量多达103个,覆盖对话、游戏、编程、写作十余个场景。
第三,作为国内首家提供插件服务的大模型平台,千帆再次升级发布多款全新插件。
百度智能云AI与大数据平台总经理忻舟表示,本次千帆大模型平台升级的目的是给企业、开发者提供更加灵活、多样化、高效的大模型服务,客户可选择最适合自身业务的大模型,再利用千帆平台全套工具链进行模型再训练,高效率、低成本地打造企业专属大模型。此外,海量Prompt模板库可提高大模型内容准确性和满意度。
千帆接入LLaMA2等33个优质模型,推理成本可降低50%
当前,开源大模型生态发展迅速,大量优质模型涌现,在不同任务场景、参数量级与算力环境下体现出了差异化优势。如何选择适合的大模型、如何应用大模型能力提升市场竞争力,成为越来越多企业迫切探索的方向。
为了满足企业对大模型多样的需求,百度智能云宣布,除了之前已经接入的文心一言、BloomZ之外,本次升级后,千帆大模型平台全面接入LLaMA2全系列、ChatGLM2、RWKV、MPT、Dolly、OpenLLaMA、Falcon等33个大模型,成为国内拥有大模型最多的平台。企业用户可将不同大模型搭配使用,以满足不同细分场景的业务需求。企业和开发者可以登陆千帆大模型平台操作台,在“模型仓库”中直接调用、部署。
忻舟介绍,千帆平台接入的大模型均经过严格优选,主要考核三大指标:模型效果、模型安全性、可商用。为给企业客户带来更好的模型产品,千帆对这33个大模型进行了性能+安全的双重增强。
一方面,千帆对每一个大模型进行了二次性能增强。通过优化模型吞吐、降低模型尺寸,实现模型推理速度的大幅提升。据测算,调优后模型体积可压缩至25%-50%,推理成本可降低50%。这意味着,企业在千帆上调用这些模型可极大地节约成本,提升效果。
另一方面,千帆对第三方大模型做了二次安全增强,更好管控模型输出的安全性。客户在千帆上调用第三方模型,也享有平台的安全保障。
值得一提的是,为方便开发者和企业做模型调优,千帆还提供多种低门槛调优工具,包括SFT(全量参数微调、Prompt Tuning、LoRA)及强化学习(奖励模型学习、强化学习训练)等,同一模型还可通过多种方式持续调优。
上线国内最全Prompt海量模板库,大幅优化模型输出效果
Prompt是指通过自然语言向大模型提出问题,问题的好坏将直接影响大模型的内容输出质量。实际应用时,大模型往往因为Prompt缺乏针对性、描述不清晰等原因影响到内容准确性。
为帮助客户提高Prompt提问质量、提升模型输出满意度,本轮升级后,百度智能云千帆大模型平台上线了海量预置Prompt模板库,模板数量多达103个,包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景。用户可以根据需求选择合适的模板,直接输出给大模型, 即可提高模型内容的针对性和准确度。
忻舟在活动现场演示了不同Prompt给文心一言提问,会得到不同的效果。
原始Prompt:“《长安三万里》好看吗?”,文心一言会输出一个比较简单的结果。
使用Prompt模板+原始Prompt:“我希望你充当一个电影评论家。你将编写一篇引人入胜和有创意的影评。你可以涵盖诸如情节、主题和基调、演技和角色、方向、配乐、电影摄影、制作设计、特效、剪辑、节奏、对话等主题。但最重要的方面是强调电影给你的感觉。什么是真正引起你的共鸣。你也可以对电影进行批评。请避免剧透。电影名称是《长安三万里》“。因Prompt更详细具体,文心一言回复了更符合预期的答案。
忻舟表示,很多企业使用大模型时,认为效果不好是模型本身的问题,其实很多时候重新编写Prompt就能达到预想的效果。海量Prompt模板的推出,大幅降低了Prompt撰写难度。很多情况下,企业无需花费大量资源调优大模型,基于模板优化Prompt,即可得到满意的模型效果。
国内首家提供插件服务的大模型平台,千帆插件功能再上新
插件是大模型能力的延伸,可以让大模型的认知能力与外部信息、资源融合打通,极大扩展大模型的功能边界。据了解,今年6月,千帆平台就上线了插件功能,是国内首家提供插件服务的大模型平台。
为实现客户更加个性化的需求,千帆大模型平台又发布了一系列优质插件功能。例如,刚刚上线的“Chatfile插件”,用户可在大模型对话中一键上传PDF/Doc格式文档,大模型即可基于文档内容实现知识点检索,长文本摘要等功能。
值得一提的是,千帆的插件功能已率先应用于百度内部的办公场景中,基于大模型技术打造的如流“超级助手”接入了会议室插件、内部搜索插件等20个插件。百度员工用自然语言与“超级助手”对话,即可实现文档搜索、会议室预定、饭卡充值、休假申请等功能,大大提升员工办公效率。
忻舟表示,大量客户调研显示,企业对插件功能的需求非常迫切,千帆第一时间上线该功能,是希望为客户提供更加个性化的服务,提升千帆平台的用户体验和满意度。
“未来,千帆平台将发布更多优质的插件功能,让客户能够更好地应用大模型。同时,我们欢迎所有开发者基于千帆平台共同打造丰富的插件功能,提升大模型的能力。“忻舟说。
标签:
-
百度智能云千帆大模型三连击:接入LLaMA2等33个模型、上线插件功能和103个Prompt模板
8月2日,百度智能云宣布千帆大模型全面接入LLaMA2全系列、ChatGLM2、RW
-
大衣哥带美女袁庆玩碰碰车,驾驶技术堪忧,感觉还不如儿子朱小伟
近日,一位经常跟拍大衣哥的村民,在网上发布了一段视频,是关于大衣哥
-
沃森生物(300142.SZ)累计回购200万股 耗资7219.78万元
智通财经APP讯,沃森生物(300142)(300142 SZ)公告,公司截至2023年7月3
-
山东工商学院暑期社会实践团走进乡村
中国青年报客户端讯(张蓝艺尚柯伶中青报·中青网记者孟佩佩)“融合年
-
王导:原油多头强势,回踩81.1直接做多
原油自六月底低点反转以来,一直处在单边上涨的趋势当中,多头走势已经
-
世界各地运动员抓拍成都大运会上“最萌幼崽”
作为友好交往的使者,中国国宝大熊猫以一种特殊的方式增进中外人民之间
-
对比强烈?如果许沁是这样的,还会被骂恋爱脑吗?
从没想过一部剧能歹毒到这种程度 说的是《我的人间烟火》,这剧的伤
-
温州市区共享单车集体涨价,市民吐槽:贵过油费
“以前骑车半个小时才1 5元,现在十几分钟就2 5元,太贵了。”8月1日,
-
鸭蛋胆固醇高吗,哪些人应该少吃?
鸭蛋黄的胆固醇高,蛋白的胆固醇不高,高血脂的人应该少吃鸭蛋黄,蛋白
-
人民网(603000)8月2日14点40分触及涨停板
8月2日盘中消息14点40分人民网603000触及涨停板目前价格3235上涨100其
-
10元起步的奶茶店早餐,怎么就成了打工人的福音?
第一财经商业数据中心(CBNData)隶属于上海文化广播影视集团(SMG),
-
机械科幻战争怎么画_科幻机械绘画
机械科幻战争怎么画这个问题引起了很多人的关注,现在让我们来深入了解
-
痛心!辽宁丹东失联4人均已遇难
记者从相关部门了解到,7月27日下午,辽宁丹东东港市长安镇邵家堡村附
-
口袋妖怪:希特隆拥有的宝可梦,不愧是电道馆馆主
因为柚丽嘉想要保管一只可爱的宝可梦,就央求希特隆帮她收服这只看到
-
西蒙尼:莫拉塔拥有马竞队内其他前锋没有的特点,我希望他能留下
直播吧8月2日讯马竞主帅西蒙尼表示,莫拉塔的去留由俱乐部和球员本人决
-
美媒:民调显示,美国人对美军信心降至20多年来最低
美媒:民调显示,美国人对美军信心降至20多年来最低
-
中国武夷8月2日快速回调
以下是中国武夷在北京时间8月2日11:18分盘口异动快照:8月2日,中国武
-
2023年6月天津经济技术开发区保税物流中心进出口总额及进出口差额统计分析
2023年6月天津经济技术开发区保税物流中心进出口总额为11073 48万美元
-
大流量卡哪个最划算?
大流量卡哪个最划算20231、最划算的流量卡是联通腾讯大王卡。联通腾讯
-
怀柔区多个水库进行泄洪 请广大市民远离河道行洪区域
受本轮强降雨影响,怀柔区区域内河道、水库水位均持续上升,部分水库水
-
苏州泰华商城完成改造升级已开启试营业
据了解,苏州泰华商城始于1996年,曾是苏州第一家综合性百货商场和苏州
-
儿童被禁止入内,法国“无孩露营地”引发复杂反响
当被问及是否会选择在“无孩露营地”度假时,一些游客表示拒绝,“虽然
-
这三大星座女,就像被遗落在人间的天使,人美心善
双鱼座的女生不仅善良,长相也是特别可爱甜美的,不管是外在还是内心,
-
夜澜“叹”海风
俯瞰盐田港的海天独特夜景,感受海滨城市独特夜间风情,盐港夜市吸引了
-
小米11到底行不行
小米11到底怎么样小米11还是很值得购买的。1、外观和屏幕很好外观和屏
-
文灿股份(603348):8月1日北向资金增持31.37万股
8月1日北向资金增持31 37万股文灿股份。近5个交易日中,获北向资金减持
-
三博脑科(301293):8月1日北向资金增持13.2万股
8月1日北向资金增持13 2万股三博脑科。近5个交易日中,获北向资金增持
-
苏步青的故事简介50字(苏步青的故事)
我是小前,我来为大家解答以上问题。苏步青的故事简介50字,苏步青的故
-
路劲:上半年集团已签订合同额144.84亿元,同比升约16%
路劲8月1日在港交所公告,上半年集团已签订合同额144 84亿元(其中140
-
青春主场丨开幕式上的天府文化——太阳神鸟
开幕式上的太阳神鸟,是金沙遗址出土的珍贵文物,是古蜀人最伟大的艺术