魔搭社区推出AI Agent开发框架,人人都可基于开源LLM“攒”出智能体应用
阿里云牵头建设的AI模型社区魔搭(ModelScope)又上新了,推出适配开源大语言模型的AI Agent开发框架ModelScope-Agent。借助ModelScope-Agent,所有开发者都可基于开源 LLM 搭建属于自己的智能体应用,最大限度释放想象力和创造力。ModelScope-Agent的代码现已开源。
AI Agent(AI智能体、AI代理)可谓当前大模型领域最热门的研究方向,它是指基于LLM的、能够使用工具自主完成特定任务的智能体。众所周知,目前阶段的LLM存在能力边界,主要擅长处理文本任务。AI Agent将LLM与其他模型、软件等外部工具协同,便能处理真实世界中的各种复杂任务,比如接入视频生成模型,自主生产视频;接入外部软件,帮人类写邮件、订票、购物等等。
AI Agent类应用正在成为大模型创业的重要赛道,AI Agent 开发框架也应运而生。但业界现有的AI Agent 开发框架大多基于闭源 LLM 构建。为了充分释放开源 LLM 的生产力,魔搭社区自研了适配开源 LLM 的AI Agent开发框架ModelScope-Agent。简而言之,ModelScope-Agent是pilot(领航员)而非copilot(副驾驶员)。
此前,魔搭已用这套框架在社区做了“打样”,搭建 ModeScopeGPT,它能通过自然语言与用户交互、接受用户指令,通过“中枢模型”通义千问调用社区的众多AI模型API,自主完成人类布置的任务。ModeScopeGPT的调用量已超过 25 万。
AI Agent的工作流程一般包括任务的理解、规划和执行,其中,LLM 负责任务规划、工具调用以及回复生成,是整个流程的智能中枢,好比人类的大脑。ModelScope-Agent允许开发者自由选择智能体的“大脑”,适配百川、通义千问等各类开源模型。主流LLM能够做到“即插即用”,开发者如需专门训练LLM 以增强其工具调用能力,可以参考ModelScope-Agent开源的训练数据、训练方法、优化方案、评估方法。
ModelScope-Agent开发框架还包含记忆控制、工具使用等模块,记忆控制模块支持知识检索以及 prompt (提示词)管理,工具使用模块支持工具库、工具检索、工具定制。为了增强开源大模型工具调用能力,魔搭社区还自研了一个包含60w样本的MSAgent-Bench工具调用数据集。
大多数 AI Agent 开发框架需要手动添加工具,而ModelScope-Agent 通过调用魔搭社区上开源的文本向量模型,打造API 工具检索引擎,能让AI Agent根据用户指令自动检索相关工具。如果开发者想要新增外部工具/API,只需要在ModelScope-Agent上注册工具,即可直接调用。
开源正在成为很多头部大模型玩家的选择。未来,ModelScope-Agent 会适配更多新增的开源LLM,并将推出更多基于ModelScope-Agent开发的应用,如个人助理 Agent、Story Agent、Multi-Agent等。魔搭鼓励开发者用ModelScope-Agent探索工业制造、游戏开发、智能互联等行业的应用。
魔搭社区表示,作为国内规模最大、用户最活跃的AI模型开源社区,魔搭将持续通过开源开放推进大模型技术和应用发展。此前,阿里云曾表示要把促进中国大模型生态的繁荣作为首要目标,并将魔搭建设成为中国最大的大模型自由市场。
您可能感兴趣的文章
- 10-17乐高集团选择亚马逊云科技为首选云服务供应商 为客户创造卓越体验
- 03-24微软推出Azure新服务:几分钟内完成部署云端游戏开发虚拟机
- 05-11亚马逊打官司占上风,美国国防部考虑终止与微软100亿美元云计算合同
- 09-23亚马逊云科技持续发力现代化应用领域 在中国区域新推多项容器与Serverless服务及功能
- 08-09亚马逊云科技中国区域上线Snowball Edge Storage Optimized
- 09-04思科推出生命周期服务扩展客户体验服务产品线
- 05-16美国版数字基建?亚马逊加码118亿美元再建数据中心云计算资本开支迎上升期
- 09-07Infor: 企业采用生成式AI的三大挑战——可信性、隐私保护、偏见消除
- 06-11搞瘫全球半个互联网的边缘云计算公司是何方神圣?
- 02-06VMware:2023年IT技术趋势展望
阅读排行
推荐教程
- 11-01阿里云无影升级2.0 云电脑解决方案时代到来
- 11-01阿里云数据库全面Serverless化!与AI共同驱动走向一站式智能数据平台
- 11-012023云栖大会关键词:开放、大模型、MaaS、产业智能升级
- 10-31Serverless化云产品超40款阿里云发布全球首款容器计算服务
- 10-31阿里云给中国所有大学生每人送一台云服务器
- 10-31解密杭州亚运背后科技:核心系统100%上云,20多项全球首创智能应用
- 10-312023云栖大会开幕 阿里巴巴蔡崇信:打造AI时代最开放的云
- 10-31巴黎奥运会将基于阿里云实现云上转播
- 10-31马斯克440亿美元收购Twitter一年后:全力“下云”,成本速降60%,功能代码从70万行减少至7万!
- 10-30中国广电已建700MHz基站59万站 5G用户突破1800万