硅谷大佬都在聊的AI Agents 是真热还是虚火?_AGEN:NTS

AIAgents注定是一场马拉松。

ChatGPT获得巨大成功后,OpenAI已然奔向下一个目标——AIAgents。

“如果一篇论文提出了某种不同的训练方法,OpenAI内部会嗤之以鼻,认为都是我们玩剩下的。但是当新的AIAgents论文出来的时候,我们会十分认真且兴奋地讨论。普通人、创业者和极客在构建AIAgents方面相比OpenAI这样的公司更有优势。”OpenAI联合创始人,前TeslaAI总监AndrejKarpathy说道。

Karpathy的公开发言为AIAgents添了不少热度。但他的判断并非一家之言。

早在3月份,AutoGPT就在GitHub上获得7.4万星,并快速成为史上Star数量增长最快的开源项目;而后发布的BabyAGI、AgentGPT更如雨后春笋般涌现:订购披萨、整理邮箱、创建博客,甚至举办一场情人节派对……

越来越多的AIAgents出现在人们生活的各个场景下,热潮迅速开始从硅谷蔓延。

自主执行、独立运作,AIAgents被科技人士给予极高的期待,认为其是“变革社会的生产力工具”。更有人将其视作“通往通用人工智能时代的开始”。

但呼声并不能掩盖现存的问题。

“大模型是AIAgents的前提,有了足够好的硬件基础后,才能去发展AIAgents。”真格基金管理合伙人戴雨森对「甲子光年」表示。

严格来说,市面上只有ChatGPT一个“合格”的大模型底座。受制于模型算力,国内仍然缺乏AIAgents的开发土壤。

未来美好,现实残酷。技术研发与创业投资等都在摇摆中进行。AIAgents的红利期何时真的伴随大模型浪潮而来,谁都不得而知。但可以肯定的是,改变已悄然开始。

1.AIAgents:帮你做事的“数字助理”

与其把AIAgents当作ChatGPT升级版,不如将它视作人类的“数字助理”更为合适。

它不仅告诉你“如何做”,更会“帮你做”。作为一种媒介,AIAgents代替人类与GPT等大语言模型进行反复交互,只要给定目标,它便可以模拟智能行为,自主创建任务、重新确定任务列表优先级、完成首要任务,并循环直到目标达成。

Osmosis、Axelar等资助开发Cosmos生态安全模型“mesh security”:5月18日消息,由Osmosis领导,Axelar、Akash Network、ATOM Accelerator DAO等多个Cosmos项目正在资助新安全模型“mesh security”的开发。

Mesh security允许Cosmos链巩固其验证者质押代币的价值,以抵御安全攻击。(The Block)[2023/5/18 15:11:58]

与传统的人工智能不同,AIAgents可以在没有人类控制的情况下独立运行。通过接入API,AIAgents甚至可以浏览网页、使用应用程序、读写文件、使用信用卡付款等等。

简单来说,只需要给它一个目标,AIAgents就能完成剩下的全部工作。例如HyperWrite研发的AIagent通过Chrome浏览器的控制程序来自动帮你订购披萨。

图源:HyperWriteCEOMattShumerTwitter账号

这种想象放在科幻电影里并不难,但在人工智能探索历程上,已经持续了将近半个世纪。

早在20世纪80年代,计算机科学家就开始探索如何开发一个可以像人类一样交互的智能软件。但苦于数据和算力限制,AIAgents缺乏必要的现实条件。

斯坦福大学计算机科学博士JoonPark曾在访谈中表示:“我们一直在朝着那个方向努力,但过去几十年的所有方法,甚至都没有接近我们现在借助LLM所实现的效果......这就是为什么我们忘记了这一愿景。但当LLM出现时,我们意识到机会来了。”

大语言模型是AIAgents的核心大脑。通过拆解复杂任务,可以将复杂的用户需求拆解为可实现的任务方式。

一方面,大模型的训练建立在互联网的基础上包含了大量的人类行为数据,弥补了构建可信AIAgents的关键要素。

另一方面,在可观的知识容量下,大模型涌现出优秀的上下文学习能力、推理能力。通过建立思维链来实现模型的连续思考和决策,AIAgents可以分析复杂问题,并将其拆解成简单、细化的子任务。

数字藏品国际周指数提升至27.6点:金色财经报道,据同伴客数据显示,上周(2023年1月31日-2月6日)数字藏品国际周指数上升10.9至27.6点,国内周指数小幅下跌11.6点至89.8点,数字藏品综合价值周指数小幅回升1.8点至52.5点。

备注:

· 数字藏品综合价值指数由同伴客数据与链境Labs联合研发,是对国际及国内当月市场热度最高的数字艺术品项目市场总销售规模的综合反映,以2021年11月份销售额的30分之7为基数,指数基值为100。

·国内周指数成分之一的幻核于8月16日发布平台终止运营公告,但销量已于7月10日后归零。为遵循去掉某一成分后指数计算结果无变化的原则,该指数使用幻核7/4-7/10的销售数据进行销售基数调整,并将新的销售基数作为8/14后的指数计算基数。[2023/2/6 11:50:07]

与此同时,LLM以语言作为媒介也改变了前端的交互形式。BV百度风投AI应用赛道负责人,投资副总裁温永腾告诉「甲子光年」:“BV百度风投很早就开始关注AIAgents的发展,通过研判,我们认为原先的图形用户界面有可能转变为语言用户界面,AIAgents的前端应用将存在于所有可能与人类交互的前端形式之中。”

只是拆解任务,还远远算不上智能。LLM驱动下的AIAgents,离不开三个关键组件:

规划:将大型任务分解为较小的、可管理的子目标;进行反思与细化,对过去行为进行分析、总结和提炼,以提高自身的智能和适应性,提高最终结果的质量。

记忆:短期记忆,进行上下文学习;长期记忆,能够长期保存和调用无限信息的能力,一般通过外部载体储存和快速检索来实现。

工具使用:可以学习调用外部API,以获取模型权重中缺少的额外信息。

LLM驱动下的AIAgentSystem概览

图片来源:LilianWeng个人博客

三个组件配合下,AIAgents不仅能像人一样思考,也能像人一样行动。

美股高开纳指涨超2%:10月17日消息,美股三大指数集体高开,道指涨1.46%,纳指涨2.46%,标普500指数涨1.71%。[2022/10/17 17:29:23]

就像人类一样,在从事复杂任务时,每一步之间往往会有一个推理过程。AIAgents也会借助ReAct组件,将大模型的推理能力和行为决策紧密结合起来,使语言模型可以根据知识进行有逻辑地计划安排。

Reflexition框架则为AIAgents提供动态记忆与自我反思的能力。通过语言反馈而非更新权重的方式来强化LanguageAgents,让它可以改进过去的行动决策、纠正过往的错误以不断提高自身表现。

在信息获取、储存、保留、检索的进程上,AIAgents也力图模仿人类的记忆构成,构建高效的内存系统。

模拟人类记忆方式,AIAgents会将感觉记忆、短期记忆、长期记忆,分别表示为原始输入的学习嵌入、上下文学习、外部向量储存。任务与结果会储存在记忆模块中,当信息被调用时,储存在记忆中的信息会回到与用户的对话中,由此创造出更加紧密的上下文环境。

人类最显著的特征之一就是使用和创造工具。通过配备外部工具,使用API来调用各种接口,AIAgents能够模拟人类使用工具,完成更复杂的任务。

虽然技术层面并未完全成熟,诸如数据管理、长期记忆等问题仍在解决。但AIAgents自主执行、迭代优化、“解放双手”的能力也让走红成为必然。

2.接替LLM,AIAgents成为下一个AI热点

ChatGPT的诞生,实现了AI与人类进行多轮对话,并提供信息和建议的功能。Copilot的推出,使AI足以承担为人类完成工作初稿的能力,例如GithubCopilot、Microsoft365Copilot、Midjourney,分别成为人们在编程、办公、图像生成领域中的“智能副驾”。

告诉AI完成一件任务,它就能完成一件任务——撰写文案、回答问题,或者生成一张人类肉眼难以分辨真假的照片。而与此同时,人们也往往需要为AI的每一步行动提供具体清晰的提示。

此时的AI就像是初来乍到,没有任何经验,需要手把手教导的实习生。但是,如果你想要一个听指令办事,执行中遇到困难自己解决,尽量不给人添麻烦的好员工呢?

动态 | 区块链医疗公司SimplyVital Health获得美国国家科学基金会22.5万美元的经费:总部位于新英格兰的区块链公司SimplyVital Health获得来自美国国家科学基金会(NSF)的225,000美元的经费。SimplyVital将用该笔资金进行研究和开发,以将石墨烯协议集成到其区块链协议Nexus中。(cointelegraph)[2019/10/11]

3、4月份,Camel、AutoGPT、BabyAGI、西部世界小镇等多个AIAgents集中爆发,似乎让人们看到了这样的可能。

自3月份,SignificantGravitas将AutoGPT开源后,发布时间不到2个月,AutoGPT在GitHub上获得的star数量已经达到13万,成为史上star数量增长最快的开源项目。

斯坦福大学打造的西部世界小镇

图片来源:论文《GenerativeAgents:InteractiveSimulacraofHumanBehavior》

AndrejKarpathy就曾在Twitter上表示:“提示工程的下一个前沿是AutoGPTs”。截至目前,AutoGPT在代码托管平台Github上已经获得超过14万star,排名历史第25位。

OpenAI联合创始人兼CEOSamAltman曾在多个场合表示,构建庞大AI模型的时代已经结束,智能体才是挑战。

在一篇介绍自主智能体的文章中,作者OctaneAI联合创始人兼CEOMattSchlicht收集了来自业界、学术界、投资界等上百余人的观点和看法,有来自Meta、Nvidia、StabilityAI等大公司或AI初创公司的专家,也有斯坦福CS的教员和投资了包括HuggingFace在内的AI投资人,绝大多数都表达了对AIAgents潜能的期待和展望,甚至将其称为“原始AGI”。

接替大模型,AIAgents似乎正在成为AI的下一个热点。

动态 | 以太坊创始人Vitalik Buterin被巴塞尔大学授予荣誉博士学位:据coindesk报道,以太坊创始人Vitalik Buterin刚被巴塞尔大学授予荣誉博士学位。[2018/11/30]

但与此同时,反对的声音也不绝于耳。

图灵奖获得者YoshuaBengio在今年5月发布的博文《危害人类的AI是如何出现的》中就提及,人类能控制AIAgents总任务、总目标,并不意味着人类能控制AIAgents凭借自己的智慧分解出来的子任务、子目标,除非AI对齐的研究取得突破,否则人类就没有强有力的安全保障。

智能体的集体出现,大佬的追捧和质疑,AIAgents的浪潮迅速且火热。

然而,AIAgents在人工智能的圈子内并不是一个新名词。

2014年,DeepMind推出的围棋AIAlphaGo,其实就是AIAgents的一种。与之类似的还有2017年OpenAI推出的用于玩《Dota2》的OpenAIFive,2019年DeepMind公布用于玩《星际争霸2》的AlphaStar。

当时的业界潮流是通过强化学习的方法来训练和改进AIAgents,主要应用于游戏场景,特别是一些对抗性、具有明显输赢双方的比赛中。但如果想要在真实世界中实现通用性,却是一个悬而未决的问题。

之后的几年,OpenAI转向大语言模型,GPT系列的相继推出,大模型成为各家科技厂商争先涌入的赛道,也正是大模型的发展,让AIAgents有了突破瓶颈、重新发展的契机。

相较于几年前局限在游戏场景,在大模型的基础上AIAgents可以实现什么?BV百度风投AI应用赛道负责人,投资副总裁温永腾向「甲子光年」表示:“我们看到的不仅仅是技术进步使得AI在理解用户意图、收集信息以及执行任务的能力大大增强,更重要的是,AIAgents完全有能力重构未来的应用生态”。

在AutoGPT推出后不久,已经有不少网友使用AutoGPT来搭建自动化的个人助理。例如FirstSales.io的创始人兼CEOUditGoenka发帖称,他利用AutoGPT搭建了一个勘探引擎,可以搜索去年获得种子轮投资的公司,并能描述创建列表的详细信息。

Google软件工程师YewJinLim表示,他用AutoGPT创建了一个电子邮件助手,通过电子邮件向AIAgents发送任务详情。

真格基金管理合伙人戴雨森告诉「甲子光年」:“Agent是一个让生产力真正能大幅提高的方向,因为如果还是人做事情,人总是有限的”。

“AIAgents将会成为日常生活和工作中的生产力工具。”MattSchlicht写道,“从管理社交媒体账号、投资市场,到出版最好的儿童读物,AIAgents将存在于各个行业和每一项可以被想象出的任务之中。”例如aomni,是一款可以在网络上查找任何主题信息的AIAgent,会通过创建列表,一项一项完成用户的目标。

除了生产力需求之外,InflectionAI的个人AIAgentPi提供了另一个可能的应用方向。

不同于ChatGPT、Claude通用人工智能的定位,Pi主打高情商、情感陪伴、提供情绪价值。Pi还会记住和用户的历史对话,除了参与并辅助人们的工作与生活,还会学习联系朋友和家人的方式与用户建立联结。目前InflectionAI已获得超15亿美元的投资,超越了Anthropic,仅次于OpenAI。

3.AIAgents会是下一个风口吗?

“BuildingakindofJARVIS”,这是AndrejKarpathy在Twitter上最新更新的简介,JARVIS是漫威超级英雄钢铁侠的一位人工智能助手,具备独立思考的能力,能帮主人处理各种事务,计算各种信息。

Karpathy的简介也意味着,AIAgents赛道的发令已经打响。

外媒《TheInformation》指出,SamAltman曾在5月私下告诉部分开发者,OpenAI希望将ChatGPT打造成个人工作助手,并有知情人士指出,OpenAI一直在关注如何使用聊天机器人来创建自主的AIAgents,相关功能很有可能部署在ChatGPT助手中。

无独有偶,Meta也看到了AIAgents的机会。

早在4月,Zuckerberg就曾对投资者表示,Meta看到了“以有用且有意义的方式向数十亿人介绍AIAgents的机会”,但此时他并没有说明具体的应用。

而在6月一次与员工举行的全体会议上,Zuckerberg宣布了一系列处于不同开发阶段的技术,其中一个就是将带来具有不同个性和能力的AIAgents来提供帮助或娱乐,最初主要用于Messenger和WhatsApp。

在国内,AIAgents相关的产品也相继诞生。

在7月初的WAIC现场,阿里云就发布了旗下第一个智能体——ModelScopeGPT,面向开发者群体,并将在未来推出一系列智能体以应对多种应用场景。

华为在该领域也有涉及,但更侧重于具身智能,即大模型与机器人的结合。

除了大厂,AIAgents也是创业者们的机会。OpenAI联合创始人Karpathy特意在此前的演讲中提到:“普通人、创业者和极客在构建AIAgents方面相比OpenAI这样的公司更有优势。”

BV百度风投AI应用赛道负责人,投资副总裁温永腾表示,BV团队目前也对初创企业在AIAgents领域中的机会持乐观态度。

“未来的应用生态将是多元化的,而非由单一巨头主导。AIAgents的出现带来了一次范式转移的机会,许多传统应用都面临被颠覆改造的可能性。在这个过程中,初创公司有大量的机会去开垦新的领域。对于每一个特定的任务,AIAgents都有大量的优化空间,包括特定算法与服务的构建、用户数据以及产品设计等方面,都是初创公司可以建立差异化优势的地方。”

“此外,当前AIAgents的生态还不够明确,这为初创企业提供了有利的发展机会,因为它们并不需要在一个已经确定的规则下进行竞争,从这个角度上来看,初创企业与大公司是站在同一起跑线上的,并且初创企业更为灵活,可以很快进行产品的调整。”

凭借在人工智能领域布局多年所积累的认知,BV百度风投并不认为模型公司会垄断应用层的机会。因为对于底层模型公司来说,构建生态的意义远大于垄断某一应用,如果底层模型公司采取排他性的策略来获取应用层的竞争优势,可能会对其自身的生态造成伤害。底层模型公司可能会在他们关注的一两个领域构建强大的AIAgents,但他们没有必要在所有领域都与初创企业竞争。

尚未确定的生态,还未被制定规则的赛场,所有人又回到了同一起跑线上。

但不可否认的是,目前为止,除了许多演示之外,AIAgents并没有真正的产品出现。

真格基金管理合伙人戴雨森将AI和人类协作的程度类比为自动驾驶的不同阶段,AIAgents就好比自动驾驶的L4阶段。但就如同L4一样,AIAgents容易想象、演示,却难以实现,AIAgents的真正应用还在不确定的未来。

将AI和人类协作的程度类比自动驾驶的不同阶段

图片来源:戴雨森即刻账号@yusen

戴雨森强调,想要实现可用的AIAgents,还需要大幅提高大模型的能力,即使是对处于顶层的OpenAI来说,在延迟、性能上也有很高的提升空间。

“如果用蒸汽机来打比方的话,水烧到100度才能产生蒸汽,如果AIAgents的智力还没有达到一定的程度,水只烧到了50度,即使已经花费了很多能源,依然无法产生蒸汽,依然是0。”

AIAgents赛道的发令已经打响,只不过,这绝对不是短短几个月内的冲刺,而是注定要长达几年,甚至跨越十年的长跑马拉松。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

金宝趣谈

[0:0ms0-4:472ms