
开云(中国)kaiyun网页版登录入口
在大讲话模子茂密发展的今天,AI 应用落地已成为产业界神志的重心。在硅星东谈主首届 AI 创造者大会(ACC 2024)"重构基础设施:更敞开的架构与更灵敏的 Token "设施中,硅星东谈主分析师周一笑与百度智能云应用平台部总司理黄锋就大模子应用开发平台、企业落地本质等话题伸开真切对话。行动百度智能云千帆 AppBuilder 的认真东谈主,黄锋共享了平台开采教养与企业应用不雅察。
以下为对话实录整理:
周一笑:我刚才鄙人面查两个数据,在百度指数和 Google Trends 上,我查了两组要害字,第一组是 AI 或者大模子关系的要害词,第二组是 AI 应用或者是大模子应用关系的要害词,畴昔十二月的走势,会发现第一组基本是执平的情况,第二组从本年启动会看到有一个露出在往上走的趋势,这其实也讲明大家越来越神志 AI 应用落地关系的话题了。百度一直在敕令大家卷应用,不要卷模子,我们今天也邀请到百度智能云应用平台部总司理黄锋总来跟大家一齐聊一聊,对于落地应用的话题。
第一个问题,千帆 AppBuilder 企业级大模子应用开发平台的中枢功能是什么?和其他 AI 应用开发平台的各异点在那边?
黄锋:百度智能云通盘大模子 To B、To G 是通过千帆平台对外输出的,千帆平台里有两个用具,千帆 ModelBuilder 和千帆 AppBuilder。千帆 ModelBuilder 是作念大模子开发的,千帆 AppBuilder 是作念大模子应用开发的,我我方在百度主要认真 AppBuilder 这个居品。本年作念大模子应用开发、Agent 开发的平台棋布星罗极端多。对于百度而言,从六七月份之后,我们对外讲皆是讲企业级的定位。企业级和大家拿用具去学习去玩一玩是有一丈差九尺的。百度智能云畴昔十年,管事了许多互联网客户,还有传统政企的客户,我们更了解企业客户对于平台的条目,譬如说遵守、遵守、性能、踏实可靠、敞开性、动态扩缩容、可调可配等等问题。我认为如若莫得这些点,平台开发出来的 Agent 是很难真实落地使用的。是以我们居品定位是企业级大模子应用开发平台。
周一笑:百度从最早搜索到其后 AI,阅历了 AI 的几波波浪,这种穿越周期的教养,对于你们作念平台型的居品有匡助是什么?能弗成用一些具体的居品决策和细节来讲一讲?
黄锋:百度作念这样的平台跟别的公司如故不同样。我认为在百度而言,最大的上风在于通盘公司皆是在 AI 策略上瑕瑜常矍铄的。我们有文心系列多样尺寸的模子,有作念大模子开发的千帆 ModelBuilder 这样的平台。包括算力纳管上头我们有百舸平台。有好多客户需要的是完满的决策,在用具链层面上是不错借力的。
第二点是在百度里面,客岁厂长就条目我们所有的居品皆要重构,包括网盘、文库、搜索、文小言等等好多居品,其实在基于大模子作念重构,它们自然也需要用具上的相沿。我们除了对外输出以外,相沿里面的业务,也在很猛进程上帮我们更快的打磨了居品的用具链的遵守、性能、模糊等等智商。这样的智商再对外输出,减少了中间打磨的期间。里面业务线的条目瑕瑜常高的,对于大模子的相识,以及大模子到底在应用层面何如落地,他们的贯通是跑得相比快的。
周一笑:里面用好了,再拿出去管事客户。
黄锋:是这个逻辑。
周一笑:刚才聊了一些想路上的问题,回到应用开发这件事情上。传统的 AI 应用开发和咫尺的大模子应用开发,两者的差别是什么?这对于作念平台的挑战是什么?
黄锋:我 14 年加入百度,从 16 年启动作念 AI 生意化,关联词阿谁时候是小模子时间 AI 的生意化,其实一直到大模子爆发之前,我我方的感受是不论 CV 讲话,如故传统的小模子,它是有价值的。它也能解决客户的好多业务问题,但它最大的问题在于泛化智商不够。是以你的定制资本就会很高,譬如说前几年,我作念过工业动力行业一些 CV 应用的场景。
举例面向安全坐褥,训一个安全帽识别的模子,想达到相配高的准确率是很难的,其中有环境、角度等等要素。因此要想落地,进入到托福上定开调优的资本相配高,总体来说要么只可管事有钱的大客户,鸿沟起不来。要么你铺开了,资本降不下去,利润就起不来。
这个时间其实皆是这样的,其他的这些友商你去看它的利润率,在小模子时间皆是不太好过。我认为大模子来了之后,最大的更正便是它的通用性,泛化智商比小模子时间强太多了。
关联词在大模子时间,何如让作念应用开发门槛大要降得更低,遵守大要作念得更好,大要让真实的价值托福终末的托福设施资本降得更低,如故在尝试的经过中。今天而言,还莫得明确的谜底。但这还是是一个了了可见的发展趋势。

周一笑:从现存战斗到的企业客户当中有什么不雅察不错和大家共享的?
黄锋:前些年我们有一些大的名堂的托福,应用的定开由伙伴来托福。关联词有好多客户的名堂,伙伴搞不定,还需要原厂的东谈主去调优。但畴昔一年多生意化经过中,伙伴能责罚的名堂比例大幅度加多,独一我们把调优的教养递次论去输出给伙伴,他们基本皆能责罚。这一迹象已与畴昔小模子时间有所不同。
周一笑:问一个关系的问题,亦然大家皆神志的一个点。你们战斗的客户在大模子预算占 IT 总预算的比例上有什么变化吗?能反应这个趋势吗?
黄锋:还瑕瑜常露出的。从客岁 3 月 16 日百度发布文心一言之后,我天天就跟各界客户、和解伙伴、政府带领、媒体在交流。客岁我的叹惜,大家皆仅仅聊,并莫得真实立项用钱去作念,关联词从客岁 Q4 启动,这个势头露起程生了变化。一直到本年出现露出的爆发。市面上也有一些分析,本年上半年通盘市集上头立项金额和数目远超客岁的,本年还有两个月,我我方感受到真实企业本旨用钱立项去作念,这瑕瑜常露出的。
周一笑:其实预算反应了企业的赞佩进程,终末想问企业本色落地关系的问题,从你们不雅察来看,这一波企业本色应用当中,大模子更多是替代上一波 AI 的场景,比如说客服,如故新的场景多少许?
黄锋:我认为两者皆有,像客服、内搜,小模子时间也皆有,仅仅大模子来了之后,它的意图相识智商,归纳追溯的智商会更强,我认为这是一波本领升级带来的旧市集的替换。更多爆发出来的是新场景,蓝本根蒂儿作念不了,咫尺能作念了。譬如说我们看到的试题明白、法律接头助手,像咫尺 AI 手机极端火等等,因为我们作念平台,是以看到百行万企新的场景如故好多的。我们也时时会遭逢一些,根蒂儿想不到的客户会拿大模子来干这个事儿。
周一笑:有莫得相比特酷爱酷爱的案例不错跟大家共享一下。
黄锋:有一个群体叫 ASD,他可能很难相识常东谈主对话,关联词大脑的遐想力很丰富,这样的孩子对于图片的相识,包括他我方画画的智商很强,关联词抒发的智商相比弱。是以有一个开发者用我们的平台搭了一个使命流,比如说小孩画了一张图,大东谈主很难相识他想抒发什么,不错拍照让大模子相识背后的酷爱酷爱。大东谈主再说一句话,通过大模子文生图,再把图片给孩子看。这样就把图行动一种信拒却互的引子去跟小孩疏导。
这样的场景我我方详情想不到,关联词我们的开发者有一个公益组织,专门去匡助这样的孩子,他们就有这样的创意。他们也不是学计较机关系专科的,借助我们的平台很容易把这个居品搭出来,况兼如实是有效的。我们用这样的平台大要把开发门槛裁减,让更多东谈主发达他们的创意,创造不同的 Agent 出来,我认为这个事儿蛮特酷爱酷爱。
周一笑:如实挺特酷爱酷爱的,它极端于跟孩子用图像来交流。终末亦然和落地关系的问题,咫尺企业落地有两个旅途,第一种是在垂直行业,可能我方稀有据作念一些垂直的模子。第二种是基于基础大模子来作念二次开发。从你们视角来看,如若企业要聘用的话,会给一些什么提倡呢?
黄锋:最初一条路是径直用通用的基模去作念,第二是在通用的基模上加上我方的数据作念一个模子,这两条路不打破。作念一个行业大模子这件事情,不是每个场景皆是必须的,况兼门槛如故极端高的。最初你得有相应的语料,况兼你得有东谈主确切懂,确切能训一个阵势出来,这里的调优教养,对东谈主的智商条目如故很高的。我们也在匡助大型国内头部的国央企在作念肖似的事。
有些行业的常识是很垂的,比如法律、医疗等等,它是有必要作念我方的行业模子。关联词有一些行业额外的常识莫得那么多,莫得必要非要去作念行业大模子,径直从基模就不错获取相比好的遵守。能训行业大模子,在今天而言如故门槛相对相比高的事儿。
周一笑:是以更多的是需要依靠我们这样的平台去作念模子应用,不错这样相识吗?
黄锋:对,我们追溯过一些应用落地的范式。最轻便的是我方写 Prompt,调 Prompt 会更好的发达模子的智商。如若这样遵守不睬想,不错在某些场景下尝试 RAG 或 Agent,再不行的话,不错作念一些 SFT 行动进阶递次。这些聘用与具体场景高度关系,要害是明确应用目标,聘用最高效的神志来解决问题,而无谓一味追求所有高精尖的本领。
本领自己如故管事于最终创造出来的应用价值。包括模子的聘用也不是皆用最佳的模子,够用就行,解决问题就好,毕竟资本和遵守皆是要探究的问题。
周一笑:这其实亦然百度智能云包括作念 ModelBuilder、AppBuilder,不同场景管事针对不同的企业。相配感谢黄锋总针对企业落地的共享。
黄锋:宽待大繁密多试用我们的千帆 AppBuilder 的平台开云(中国)kaiyun网页版登录入口,谢谢大家!
