首页 >热点 > > 正文

企业该如何选择大模型?除了算力还要看三个指标_全球新视野

亚设网 2023-05-09 20:22:23

紫金财经5月9日消息 百度智能云于5月9日在北京举行文心大模型技术交流会,向在场的百家企业展示文心大模型在产品技术、场景研发、生态建设等领域的最新进展。


(资料图片仅供参考)

大模型引发的AI再造产业趋势已经势不可挡。但当下企业最大的难题是,如何高效、低成本得获取大模型能力,如何挑选到最合适的大模型服务。

百度智能云方面表示,正在内测的“文心千帆大模型平台”,是全球首个一站式的企业级大模型生产平台,不但提供包括文心一言在内的大模型服务及第三方大模型服务,还提供大模型开发和应用的整套工具链。

未来,文心千帆将提供两种服务:第一,文心一言是目前中国市场最领先的大模型,未来,文心千帆将以文心一言为核心,提供大模型服务,帮助客户改造产品和生产流程。第二,作为一个大模型生产平台,企业可以在文心千帆上基于任何开源或闭源的大模型,开发自己的专属大模型。

百度集团副总裁侯震宇表示,大模型时代下,企业的创新要脱颖而出,不但需要智能的算力、灵活的框架平台、丰富的大模型体系以及优质的应用方案,还需要这四者之间端到端的适配与优化,这是一个“既要、又要、还要”的端到端创新工程。

现场,百度智能云与联想集团、用友、宝兰德等14家文心千帆生态伙伴举行签约仪式。

用友网络副总裁、用友研究院院长吕建伟表示,中国企业关注大模型的落地能力,一个简单的智能问答背后有着非常复杂的加工过程。我们期望和百度智能云一起,把微调、性能调优等工具简化,推动大模型应用。

北京宝兰德软件董事长易存道表示,如何把大模型在垂直行业做好,是目前各个企业都要考虑的问题,多数企业无法像百度一样有能力建设大模型。怎么能够把百度的大模型能力和企业业务有效结合起来,创造更强的价值,是企业非常好的弯道超车机会。

国内第一个!百度工程师现场演示大模型微调全过程

事实上,目前企业应用大模型面临诸多难点:模型体积大,训练难度高;算力规模大,性能要求高;数据规模大,数据质量参差不齐。大模型产业化需要云计算厂商将模型开发、训练、调优、运营等复杂过程封装起来,通过低门槛、高效率的企业级服务平台深入产业,为千行百业提供服务。

侯震宇表示,文心千帆大模型平台是全球首个一站式的企业级大模型平台。之所以称为全球首个一站式平台,是因为它不但提供包括文心一言在内的大模型服务,还提供大模型开发和应用的整套工具链。此外,该平台还支持各类第三方大模型,未来将成为大模型生产和分发的集散地。

目前,文心千帆大模型平台提供公有云服务、私有化部署两大交付模式。

在公有云服务方面,将提供:推理(直接调用大模型的推理能力)、微调(通过高质量精标业务数据,高效训练出特定行业的大模型)、托管(将模型发布在百度智能云,以实现更加稳定高效的运行)三种服务,大幅降低企业部署大模型的门槛。

百度智能云AI与大数据平台总经理忻舟在现场演示了如何微调大模型,这也是国内首次演示如何微调行业专属大模型的全过程。文心千帆大模型平台提供了可视化开发工具链,提供了数据生成、标注、回流的数据闭环管理功能。客户以少量数据即可发起模型微调,最快几分钟就可获得自己的专属大模型。

在私有化部署方面,文心千帆大模型平台支持软件授权(提供在企业环境中运行的大模型服务)、软硬一体(提供整套大模型服务及对应的硬件基础设施),租赁服务(提供机器和平台的租赁满足客户低频需求)三种方式。私有化部属能够满足对数据监管有严格要求的企业客户需求。

忻舟总结,文心千帆大模型平台有六大特点:更易用,开箱即用,节约客户机会成本;更全面,提供覆盖全生命周期的工具链;更高效,可以端到端的全流程优化;更安全;更开放;更集成,更多插件拓展模型能力边界。

“快且收敛,是大模型应用训练中一个非常重要的指标。”忻舟说,“只快不收敛,大模型的训练是没有用的。文心千帆在多机多卡训练性能方面,可以更快达到收敛的状态,在全球权威AI基准评测MLPerf榜单中排名世界第一。”

已有300余家生态伙伴参与文心一言内测

据了解,百度内部产品正在基于文心一言升级。

比如,在百度员工内部的智能工作平台“如流”上,很多程序员会就一些产品或技术难题询问产品经理、研发同事,数量多,频次高。过去获得一个答案平均时间约5分钟,现在如流有了一个文心千帆AI小助手,可以代替同事自动回答各种问题,平均5秒就可以解答一个难题,大幅提升了工作效率。

同时,百度智能云的金融行业应用、政务行业应用、智能创作平台、智能客服、企业知识管理、数字人直播平台等六大智能产品系列,将基于文心大模型全面升级,未来将在安全评估完成后上线。

此外, 文心千帆大模型平台面向首批企业客户内测以来,正在与不同领域客户联合研发,在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造行业样板间。

金山办公助理总裁田然表示,金山办公要跟中国优秀的大模型提供方站在一起,做好大模型应用方的角色,用更好的办公软件,为客户提供更多的价值。文心千帆在安全合规、模型深度、迭代速度、推理性能等多个方面都有一定的优势,在意图理解、PPT大纲生成、范文书写、生成待办列表、文生图等多模态生成的场景上,双方的联合开发已经取得了进展。金山办公和文心千帆的合作,会进一步推动大模型在办公领域的应用和快速落地。今天的合作只是刚刚开始,未来金山办公与百度将在更多更有价值的功能和产品上持续探索。

百度还帮助长安汽车构建了人工智能基础设施平台和数字人平台。现在双方基于百度文心大模型正在开发一款智能产品,赋能长安汽车的一款量产车型,打造创新性的用户体验和持续的研发动能。

百度集团副总裁袁佛玉表示:“截止目前,已有超过300家生态伙伴参与文心一言内测,在400多个企业内部场景取得测试成效。”

企业该如何选择大模型?除了算力还要看三个指标

国内大公司纷纷推出大模型,对于企业来说,如何挑选一个合适的大模型成为新难题。

实际上,企业选择大模型可以从三个标准评判:大模型本身的能力、大模型企业服务的能力、全栈技术积累程度。

侯震宇表示,百度是全球唯一在芯片、框架、模型和应用这四层进行全栈布局的人工智能公司。正因为可以实现全栈端到端的优化,文心一言自3月启动内测不到2个月,已完成4次技术版本升级,大模型推理成本降为原来的十分之一。

此外,大模型的大计算、大参数、高成本,也对大模型时代的AI基础设施提出新的要求。基于四层框架优势,百度智能云打造了国内首个全栈自研的AI基础设施“百度AI大底座”,面向企业AI开发提供端到端的解决方案。尤其是在框架层和模型层之间,AI大底座有很强的协同作用,可以帮助企业构建更高效的模型,持续调优性能,并显著降低成本。

百度智能云云计算产品解决方案和运营部总经理宋飞举例:“大家可能会觉得堆积算力、写好代码、然后进行模型训练,把它跑起来就行了。实际上在训练过程中会遇到各种各样的挑战,很少有人能够使得一个大模型训练过程能够在连续一两天内不出问题。百度AI大底座可以为大模型提供高效、稳定的训练和有效的收敛。千卡加速比达到90%,资源利用率70%,开发效率提升100%。这是AI大底座为大模型的开发和应用带来的价值。”

百度AI大底座也在为合作伙伴提供帮助。百图生科基于与百度智能云联合构建的生物超算平台,训练出了全球首个、也是目前最大的生命科学领域的千亿大模型“xTrimo”。 在地平线的智能驾驶解决方案全生命周期开发中,百度AI大底座为高性能数据存储和模型训练提供支持。

上一篇:国铁集团:1至4月全国铁路完成固定资产投资1674亿元 同比增长6.3%-天天资讯 下一篇:第一卷 欢迎来到梦幻般的校园生活
x
推荐阅读

教育部:中小学招生入学,不得通过考试或变相考试选拔学生

2023-05-22

真空度的最大值不会超过一个大气压_怎么样一个人使用真空乳胶床_热头条

2023-05-22

节瓜粉丝虾米的做法大全_节瓜的做法大全 天天滚动

2023-05-22

自治区“十六运会”6月16日中卫开幕 全球热消息

2023-05-22

5年技术进化路,度小满的“明线”与“暗线”

2023-05-22

当前速看:总投资24亿元 这些重点项目集中签约

2023-05-22

新华全媒+|不唯产值看潜质 不重优惠重“环境”——从“西洽会”看西部投资高质量发展之变-天天日报

2023-05-22

贵州省电力现货市场模拟结算情况(2023.5.12-13) 天天热闻

2023-05-22

首届重庆剧本娱乐体验消费季来了!|全球独家

2023-05-22

【天天报资讯】【外盘异动】相较于凌晨01:00 伦锡下跌1.51%

2023-05-22

流放者 马 流放者马特克在

2023-05-22

车市淘汰赛加速,未来3年6-7成汽车品牌将关停并转?

2023-05-22

【报资讯】热搜!“挖呀挖”黄老师“约会”文旅局长,素颜出镜遭吐槽!解伟回应…黄老师已关闭打赏

2023-05-22

今日产品销售和项目销售有什么区别?

2023-05-22

东方dots.续_东方dots

2023-05-21

恶魔式情调漫画_恶魔式情调

2023-05-21

全球速读:福寿圆用开水煮还是冷水煮 煮圆子用冷水还是热水

2023-05-21

山东国贸专业就业院校排名 其他信息:

2023-05-21

澄迈举办“我身边的文化遗产”系列活动 用优秀文化遗产讲好澄迈故事

2023-05-21

中衡设计:拟3162.74万元建设苏州当代美术馆设计咨询总包项目

2023-05-21

东京奥运会乒乓球女队3个名额一直难产

2023-05-21

热点在线丨中国联通助力全国首个超大城市数字安全运营中心建设

2023-05-21

环球快播:文艺巡演走进村居 村民享文化盛宴

2023-05-21

十二年义务教育什么时候实行惠州(十二年义务教育什么时候实行)_要闻

2023-05-21

南海重大发现!“数量巨大,价值极高”!

2023-05-21

青春猪头少年不会梦到兔播放_青春猪头少年不会梦到兔樱花动漫_环球报资讯

2023-05-21

全球通讯!多地警方密集提醒家长检查孩子手机是否装有密聊软件

2023-05-21

世界热点!歌词多年以后我还能不能活着是什么歌_多年以后我还能不能活着是什么歌

2023-05-21

当前快报:移液管架_移液管

2023-05-21

透过世界智能大会看制造业高质量发展新亮点

2023-05-21

精彩看点:龙王祭小说_龙王祭

2023-05-21

环球热头条丨食品上面sc是什么意思_食品sc是什么意思

2023-05-21

2022年01月04日最新发布:EHR将如何利用人工智能功能 当前热闻

2023-05-21

dnf奶妈换装buff称号有哪些_dnf奶妈换装buff|焦点热议

2023-05-20

2023年“中国旅游日”甘肃分会场主题日活动举办-环球热点

2023-05-20

教育部碳中和虚拟教研室举办今年首次工作会|天天实时

2023-05-20

每日观察!极兔快递查询运单号(极兔快递查询)

2023-05-20

JR谈名场面:没料到希尔会罚丢 若我出手并打铁人们会说我不该投_简讯

2023-05-20

辽宁省东港市发布冰雹橙色预警

2023-05-20

普安县气象台发布雷电黄色预警信号【Ⅲ/较重】【2023-05-20】

2023-05-20

天天热讯:一文读懂自考和成考5大区别,让你远离机构忽悠!

2023-05-20

接受罗马官网采访时,罗马队长洛伦佐-佩莱格里尼谈...

2023-05-20

环球信息:铁锈怎么洗掉_方法如下

2023-05-20

22+17+9,无愧1.63亿合同!霍福德对不起,他可不是恩比德

2023-05-20

【专栏】卢永雄:为“反对派政治”钉上棺材钉

2023-05-20

“大唐旅游指南”来袭 《长安三万里》7月8日上映

2023-05-20

交运股份(600676)5月19日主力资金净卖出169.48万元 世界热闻

2023-05-20

环球快资讯丨为什么中年男士喜欢把物件挂在腰带上?

2023-05-20

硬脂醇|天天热讯

2023-05-20

灭火器的有效期在哪看(灭火器有效期怎么看)

2023-05-20

爱吃鱼的小心致癌风险|当前热点

2023-05-20

银行活期利息多久结算一次_银行活期利息

2023-05-20

降价!15个品种药品平均降幅超六成

2023-05-19

请假管理制度范本(请假管理制度) 全球看热讯

2023-05-19

2023年5月19日浙江省无缝管价格最新行情预测

2023-05-19

私拆承重墙,将承担哪些法律责任?-天天观速讯

2023-05-19

中国海诚: 2022年度权益分派实施公告|全球今头条

2023-05-19

明月湖20余项“黑科技”亮相西洽会_环球快看点

2023-05-19

求生之路2mod地图(求生之路2mod怎么安装)

2023-05-19

简讯:五子衍宗丸吃半年的效果有哪些_五子衍宗丸吃半年的效果

2023-05-19

长沙研究生购房补贴政策买公寓可以?

2023-05-19

世界微头条丨想象创未来,“2023异想大会”成功召开

2023-05-19

宜州区着力推动桑蚕产业高质量发展

2023-05-19

服务保障中关村论坛 海淀城管开展规范外语标识执法检查

2023-05-19

前列腺按摩方法图片_前列腺按摩图解_全球快讯

2023-05-19

兆新股份董秘回复:和县光伏项目还在与政府保持积极密切的沟通并进行现场调研,如有最新进展_焦点快播

2023-05-19

今日快看!2023智慧育人学工新生态峰会圆满召开,聚焦高校人才培养与学生工作创新变革

2023-05-19

【天天新视野】快播没了大家用什么看电影_给个快播能看的

2023-05-19

焦点快看:2023年5月19日异丙胺价格最新行情预测

2023-05-19

西汉铜镜吉祥语不包括_西汉铜镜装饰常见的吉祥语有哪些

2023-05-19

热点聚焦:逆水寒手游碎梦技能搭配推荐

2023-05-19

纳达尔宣布因伤退出法网:明年将是生涯最后一季

2023-05-19

晚上20点,乒协宣布意外决定,刘国梁下狠心,马龙处境不妙|天天新动态

2023-05-19

蔚来ET5猎装版谍照曝光,亮相欧洲市场,定位高端纯电轿跑|世界今日讯

2023-05-19

当前动态:海外合作/盒马全球设8大采购中心

2023-05-19

新消息丨抄底资金来了!150亿巨资净流入 现600亿新“基王”

2023-05-19

美瑞新材05月18日获深股通增持5.84万股

2023-05-19

卫生间隔墙用什么材料符合规范_卫生间隔墙用什么材料|全球百事通

2023-05-19

武汉公交568路(关于武汉公交568路介绍)

2023-05-19

【全球报资讯】“创业圣经”来了!红杉沈南鹏对话星巴克舒尔茨:创业者如何找到企业长青的秘诀?

2023-05-19

【全球新要闻】5月18日基金净值:易方达上证科创板50成份ETF最新净值1.0577,涨0.51%

2023-05-19

魑岳_关于魑岳简述

2023-05-18

败走电动汽车分时租赁 英威腾1块钱出售所持行之有道股权,欣旺达仍持股

2023-05-18

环球实时:硬卧车

2023-05-18

火星情报局第四季20181214_火星情报局4综艺节目

2023-05-18

外交部回应G7炒涉台海议题:美日等国不要站在14亿多中国人民的对立面 环球快消息

2023-05-18

安徽农业大学科技小院:让农业科技“从田间来,到田间去”

2023-05-18

《北京国际科技创新中心建设情况评估报告》将发布

2023-05-18

渝三峡A:渝化新材料拟受让40.55%公司股份 并成为公司控股股东 天天新资讯

2023-05-18

筼筜是什么意思(筼筜)

2023-05-18

微速讯:区长“帮办”走入一线窗口:面对面为企业解决办事过程中的难点

2023-05-18

天天快讯:山东“耕海1号”探寻中国现代牧渔新路径

2023-05-18

是什么书让作者肝到住院?tenten老师耗时3年的《动漫人体结构表现技法专项训练》来啦

2023-05-18

诺普信(002215)首次覆盖报告:蓝莓帝国版图扩张思路清晰 特色生鲜打造第二增长曲线 环球快讯

2023-05-18

每日短讯:表演系研究生怎么考-表演系

2023-05-18

Transformer在GitHub上星标破10万大关-世界短讯

2023-05-18

当前速看:神奇规律再现,凡大赛资格赛首轮输给商竣程者,必有重大突破

2023-05-18

最舒服的挣钱方式,是打开“富人场域”!|天天新资讯

2023-05-18

【天天快播报】doc格式和docx格式有什么不一样_doc格式

2023-05-18

94岁老人出门散步忘记回家路,警民联手助其与家人团聚

2023-05-18