“百模大战”打响我们究竟需要什么样的大模型
大模型展现出的通用智能能力具备极其重大的现实意义与影响力,是AI发展中里程碑式的进展。大模型带来的智能革命,将媲美工业革命和电力革命,深刻改变人类社会的生产生活方式。大模型,或许正是开启智能时代的那一台“蒸汽机”。
要问今年最热的科技热点是什么,许多人会脱口而出——大模型。从年初ChatGPT引发的大模型浪潮,到相关科技公司上线自家大模型产品,“百模大战”一直在升级,它所引发的人工智能“地震”还在持续。
进入9月,国内科技厂商在大模型领域动作频频。9月初,此前长期处在内测阶段的多款大模型产品完成备案,正式上线上,因在众多领域展示了大模型发展的更多可能,盘古大模型成为当之无愧的主角。
“百模大战”也好,“群模起舞”也罢,技术进步和创新喷涌的热潮中,人们关注的焦点集中于,我们究竟需要什么样的大模型?何种大模型是通向人工智能的最终答案?
赛迪顾问发布的《2023大模型现状调查报告》显示,截至2023年7月底,国外累计发布大模型138个,中国则累计有130个大模型问世。
2022年末,由名不见经传的人工智能公司Open AI打造的大语言模型ChatGPT横空出世,人类能使用最日常的语言与其对话,让它回答很多问题、完成各类书面任务,聊天、画图、敲代码……人们第一次如此近距离地感受到人工智能带来的震撼,也让“大模型”这个此前只为少数AI领域从业者所知的专业概念,成为了被人们挂在嘴边、反复提及的词汇。
输入内容、进行计算、产出结果,这是人工智能模型的本质,但大模型的与众不同之处正在于其足够“大”。
巨大的参数数量、庞大复杂的算法结构、海量的训练数据及强大的算力支撑,决定了大模型不同于普通的人工智能模型,其拥有强大的通用智能。
以ChatGPT为例,其早期3.0版本的参数数量已达到1750亿个,4.0版本的参数量更是指数级增加,达到1.8万亿个,训练数据的单位数量更是达到惊人的13万亿。相比之下,早期如围棋机器人AlphaGo等专用人工智能模型,其参数量往往仅为百万级,与大模型相去甚远。
海量的参数、复杂的算法、强大的训练能力,让大模型成为具备横跨多领域学习能力的通用AI,实现了所谓的“智能涌现”,即拥有触类旁通、举一反三的学习能力。如果说此前的人工智能模型还只是经过训练后能够实现某些特殊任务的“马戏团猴子”,那大模型则可以说已经是一个接受完义务教育的“中学毕业生”。
在北京智源人工智能研究院院长、北京大学计算机学院教授黄铁军看来,大模型展现出的通用智能能力具备极其重大的现实意义与影响力,是AI发展中里程碑式的进展,放眼人类历史、展望人类未来,大模型带来的智能革命,将媲美工业革命和电力革命,深刻改变人类社会的生产生活方式。大模型,或许正是开启智能时代的那一台“蒸汽机”。
ChatGPT引发的大模型热潮让许多科技巨头坐不住了,纷纷将自家“压箱底”的大模型成果公之于众。
谷歌紧随ChatGPT脚步,发布了基于自家大语言模型的聊天机器人“Bard”,互动媒体与服务企业Meta也不甘落后,发布了同类大模型“Llama”。国内同样热闹非凡,3月份,百度率先发布研发十余年的知识增强大语言模型“文心一言”。随后,360发布“360智脑”,阿里巴巴上线“通义千问”,科大讯飞推出“讯飞星火”,腾讯推出“混元”,华为推出“盘古”……一众科技公司不甘落后地推出了各自的大模型产品。
彼时,面向公众发布的大模型产品均为内测使用,公众需提出申请,获得内测资格后才能进行体验。7月10日,国家网信办联合国家发改委、教育部、科技部等七部门审议通过并发布《生成式人工智能服务管理暂行办法》(以下简称《办法》),该《办法》8月15日起正式施行。《办法》明确规定,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当依照国家有关规定开展安全评估,并履行算法备案等手续。8月底,一批完成算法备案的大模型产品陆续上线,正式面向公众开放。
或许是ChatGPT带来的震撼过于强烈,以自然语言对话为基本功能体验的大语言模型产品成为许多科技厂商的首选,甚至一度成为大模型的代名词。首批通过备案上线的大模型产品中有百度的“文心一言”、字节跳动的“豆包”、智谱华章的“智谱清言”等。截至9月底,已有十余家大语言模型产品官宣上线,大部分均提供聊天对话、创意写作、代码生成等服务。
但在大语言模型之外,也有厂商选择了另一条道路,不“恋战”大语言模型,而是直面行业具体问题。
在9月21日举办的华为全联接大会2023上,华为常务董事、华为云CEO张平安表示,盘古大模型要帮助各行各业的客户解最难的题。例如,在矿山领域,精煤产率是困扰业界多年的难题,山东能源集团已将“盘古”矿山大模型全面应用到采、掘、机、运、通等9大业务系统、21个场景中。在“盘古”的助力下,济宁二号煤矿每年能多产出8000吨精煤,精煤产率提升千分之二,增收约2000万元。
在正在举办的亚运会上,也少不了大模型的身影。由浙江移动打造的亚运保障网络运维大模型在幕后为亚运会保驾护航。它让保障人员“无论在哪,无论何时”都能以“对话”方式获取保障情况,全方面提升了亚运会保障的工作效率,降低了保障工作的技术门槛。
浙江移动网管中心副总经理方炜告诉科技日报记者,无论是面向具体行业的垂直大模型,还是直面公众的大语言模型,从底层技术来看,二者并不冲突。“这两种选择就像是此前的互联网发展,既有改变我们正常的生活的移动互联网,也有改变社会、改变行业的产业互联网。大模型也是基于通用的底层技术,衍生出了不同用途。比如浙江移动的网络运维大模型就是使用通用大模型通过微调和提示工程来满足亚运网络保障的场景。”
垂直大模型和通用大模型,究竟哪条赛道能够通向终极人工智能的“罗马城”,答案或许是——条条大路通罗马。
无论是何种类型的大模型,在“百模大战”的背景下,其功能、用途、场景的重复都没办法避免。但在业内人士看来,大模型的发展还远未触及天花板,不仅“百模大战”不是终点,“万模群舞”或许就在不远的将来。
“大模型的研发是一个拼细节的过程。从技术路线上看,目前各家大多数都是基于Transformer架构来做,方法很类似,但效果确实不一样,决定成败的是细节。”腾讯有关负责人接受媒体采访时说,由于资源投入程度、细节把握程度的不同,最后不一样的产品的差异会逐渐显现。“从应用领域来说,会迎来一个‘百花齐放’的场景,比如有的专注于自然语言处理,有的专注于医疗领域,有的专注于教育领域等。就目前而言,大模型的天花板还远远没有触到,技术体系和应用场景都在不断演进。”腾讯有关负责人说。
无论是“百模大战”还是“万模群舞”,要避免低水平的雷同复制,杜绝“重复造轮子”带来的资源浪费,关键仍在于不断丰富大模型的应用生态。今年5月,国际期刊《自然》发表了一项百度在生物计算领域的突破性研究成果,其提出的mRNA序列优化算法LinearDesign,对生物医学领域创新具备极其重大价值,这也是中国互联网科技公司首次以第一完成单位的身份在《自然》正刊发表成果。而在这背后,是百度在2022年5月便推出的“文心”生物计算大模型。借助大模型,人类能快速找到并设计出活性更好、性质更优的候选药物分子,从而大幅度的提高新药研发和疫苗设计效率,让新药研发从单点突破的“手工作坊”阶段进入到规模开发阶段。目前,基于“文心”生物计算大模型和飞桨深度学习框架搭建的面向小分子、大分子和RNA的药物设计平台——飞桨螺旋桨PaddleHelix,已经应用于超过30家医药企业。
“无论是从技术层面还是产品层面,百花齐放、百家争鸣对于当下大模型发展都更加有利。算法研究阶段可能五花八门,但到工程选型阶段,可能会逐渐聚焦到一个或少数几个类型。而到了具体产品选型层面,面向不同市场、不一样的行业,产品形态可能又是多种多样的。”清华大学计算机系教授唐杰认为,无论哪种大模型都有各自的局限性,各种模型互相学习、竞争,在市场中大浪淘沙是必经之路。
“百模大战”虽然激发出了更多可能,但也带来了不少负面影响。当众多厂商蜂拥而上大模型时,参差不齐的产品让人眼花缭乱,其中暗藏的法律、道德风险也应引起人们的警惕。
例如,在面向公众的大语言模型产品中,“一本正经胡说八道”现象已经多次引发质疑。“我们常说大模型会产生‘幻觉’,主要是因为大模型的内容准确性还不高、专业性能力不够,如果大模型产生的内容直接公开在互联网,会使当前良莠不齐的互联网信息质量更加低下。”方炜认为,大模型目前在内容安全、版权、主体责任等方面还存在多种风险。
而当深入到具体行业时,不一样的行业的不同特点也对大模型在准确度、安全性、专业性等方面提出更加高的要求。360创始人周鸿祎接受媒体采访时表示,虽然公开的大模型是通用的,甚至是万能的,但是当深入到具体行业时仍然面临着缺乏行业深度、不懂企业内部知识、易导致企业内部数据泄露、无法控制成本等问题。方炜也同意这种观点:“例如大模型应用在通信网络保障方面时,就不允许有任何差错,目前准确性还有待提升。”
除了目前大模型自身任旧存在的缺陷,随着竞争的逐渐激烈,我国在有关数据、算力、算法等方面的困境也逐渐暴露。
例如,在训练数据方面,唐杰指出,目前我国的数据开放态势并不强,“大多数机构还是想把数据握在自己手里”。但唐杰也坦承,即使机构有数据开源的意愿,在目前环境下,任旧存在多重风险。他建议,我国关于大模型训练数据应用、开源的相关法律和法规还要进一步细化、健全,让有开源意愿的机构能够放心地进行数据开源,充分激发互联网精神。
而在算力方面,“百模大战”对算力的高需求也让我国本就紧张的算力资源更加捉襟见肘。在“东数西算”基础上建立起的算力互联网或许有望成为解决这一问题的答案。通过对不一样的地区的算力资源进行调度,实现算力资源的均衡分配。但目前仍然需要在高带宽、低延迟的算力网络建设方面突破更多技术瓶颈。
如果说数据和算力是大模型的硬件“基础设施”,算法则体现着更多“人”的因素。小冰公司首席执行官李笛认为,就训练大模型而言,参数的数量并不是最重要的,工程化过程中的调优才是真正的考验。“研发、训练一个大模型可能只需要一个月,但调优在大多数情况下要一年的时间。这样的一个过程格外需要谨慎、细致、耐心,有足够的定力和专注力,也是一种‘工匠精神’的体现。”
耐心,是谈及大模型发展时多位业内专家反复提及的关键词。“大模型不是把数据‘喂’进去,算力一跑就有了。这其中有许多复杂细致的工作要做。”唐杰表示,人工智能自20世纪50年代被提出至今,其发展已经历过多次起伏,任何技术的发展都不是一蹴而就的,要对其有充分耐心。
中国信息协会第七届会员代表大会暨第七届理事会第一次会议在京召开 王金平当选中国信息协会会长