400 128 6709

行业新闻

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

发布时间:2023-09-20点击次数:

ModelScope-Agent 提供了一个通用的、可定制的 Agent 框架,方便用户打造属于自己的智能体。该框架基于开源的大语言模型 (LLMs) 作为核心,并提供了一个用户友好的系统库,具有以下特点:

  • 可定制且功能全面的框架:提供可定制的引擎设计,涵盖了数据收集、工具检索、工具注册、存储管理、定制模型训练和实际应用等功能,可用于快速实现实际场景中的应用。
  • 开源 LLMs 作为核心组件:支持在 ModelScope 社区的多个开源 LLMs 上进行模型训练,并开源了配套的中英文工具指令数据集 MSAgent-Bench,用于增强开源大模型作为 Agent 中枢的规划调度能力。
  • 多样化且全面的 API,支持 API 检索:以统一的方式实现与模型 API 和常见的功能 API 进行无缝集成,默认提供开源 API 检索方案。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

  • 论文链接:https://arxiv.org/abs/2309.00986
  • 代码链接:https://github.com/modelscope/modelscope-agent
  • ModelScope 体验地址:https://modelscope.cn/studios/damo/ModelScopeGPT/summary

能力展示

下面先展示一些基于 ModelScope-Agent 实现的 ModelScopeGPT (魔搭 GPT)的能力:

需要进行重写的内容是:1. 在单步工具调用中,Agent 需要选择适当的工具并生成请求,然后根据执行结果将结果返回给用户

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

2. 在多步工具调用中,Agent 需要进行多个工具的规划、调度、执行和回复

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

3. 多轮对话中工具调用,Agent 需要从历史对话中挖掘需要传给工具的参数。

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

基于检索工具的社区知识问答平台

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

框架介绍

modelscope-agent 框架的设计原理是什么?

ModelScope-Agent 是一个通用的、可定制的 Agent 框架,用于实际应用程序开发,其基于开源的大语言模型 (LLMs) 作为核心,包含记忆控制、工具使用等模块。开源 LLM 主要负责任务规划、调度以及回复生成;记忆控制模块,主要包含知识检索以及 prompt (提示词)管理;工具使用模块,包含工具库以及工具检索和工具可定制化。ModelScope-Agent 系统架构如下:

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

ModelScope-Agent 框架是如何执行的

ModelScope-Agent 的工作原理是,把目标拆分成更小的任务,然后一项一项完成。比如,当用户请求「写一个简短故事,并用女声朗读,同时配个视频」时,ModelScope-Agent 会展示整个任务规划过程,先通过工具检索检索相关的语音合成工具,然后由开源 LLM 进行规划调度, 首先生成一段故事,然后调用对应语音生成模型,生成语音并用女声念出,展示给用户,最后再调用视频生成模型,针对生成的故事内容生成一段视频;这里全程不需要用户配置当前请求可能需要调用到的工具,极大提升了使用便捷性。

开源大模型训练框架:全新的训练方法、数据和模型开源化

除了 ModelScope-Agent 框架之外,研究团队还提出了新的工具指令微调训练方法:Weighted LM,通过对工具指令调用部分 token 进行 loss 加权,提升开源大模型工具指令调用能力。

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

研究团队还发布了一个名为MSAgent-Bench的高质量中英数据集,其中包含60万个具备多轮多步工具指令调用能力的样本。基于这个数据集,研究团队采用了新的训练方法,对Qwen-7B模型进行了优化,得到了一个名为MSAgent-Qwen-7B的模型。相关的数据集和模型已经在开源平台上公开发布

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程


  • MSAgent-Bench:https://modelscope.cn/datasets/damo/MSAgent-Bench/summary
  • MSAgent-Qwen-7B:https://modelscope.cn/models/damo/MSAgent-Qwen-7B/summary

重写后的内容:集成工具清单

Narration Box Narration Box

Narration Box是一种语音生成服务,用户可以创建画外音、旁白、有声读物、音频页面、播客等

Narration Box 68 查看详情 Narration Box

目前 ModelScope-Agent 已经默认接入了自然语言处理、语音、视觉、多模态等众多 AI 模型,还默认集成了知识检索、API 检索等开源方案。

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

ModelScope-Agent 实践

ModelScope-Agent github 还提供了保姆级实践 demo 页,让小白新手也能搭建属于自己的智能体。

请下载演示笔记本:https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_qwen_agent.ipynb

1、首先拉取 ModelScope-Agent 代码并安装相关依赖

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

2、需要配置 config 文件,包括 ModelScope token 和构建 API 工具检索引擎

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

3、中枢大模型启动

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

4、代理构建和使用,依赖之前构建好的大模型,工具列表,工具检索和记忆模块

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

注册新工具实践

1、在拉取 ModelScope-Agent 代码后,进入 modelscope_agent/tools 目录,在代码层面新增一个名为 custom_tool.py 的文件。在该文件中配置 API 所需的:描述(description)、名称(name)和参数(parameters)。同时,增加两种调用方式的选项:local_call(本地调用)和 remote_call(远程调用)

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

需要重新写的内容是:2、配置环境和大模型部署参考前一章节的2、3

3、将新注册的工具构建成列表,并添加到Agent的构建过程中

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

4、使用agen.run()方法,输入查询(query)来测试工具是否能够成功调用相应的API

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

5、代理会自动调用相应的API,并将执行结果返回给主模型,主模型再返回回复

有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程

One More Thing

开发者可以参考上述教程很容易搭建属于自己的智能体,ModelScope-Agent 依托魔搭社区,未来也会适配更多新增的开源大模型,推出更多基于 ModelScope-Agent 开发的应用,如客户服务 Agent、个人助理 Agent、story Agent、Motion Agent、multi-Agent(多模态 Agent) 等等。

以上就是有了ModelScope-Agent,小白也能打造专属智能体,附保姆级教程的详细内容,更多请关注其它相关文章!


# ai  # 舟山教育培训网站建设  # 达州市农业推广网站  # 产品推广网络营销  # 医院网站建设管理  # seo关键词怎么引流  # 大理关键词排名服务  # 利通区网络推广和营销  # 商城网站建设合同书  # 黄石抖音推广网站在哪  # 梦想家  # 卖得  # 实际应用  # 中国  # 重写  # 多个  # 本田  # 自己的  # 开源  # 也能  # descript  # fig  # udio  # qwen  # 数据  # 济南建材行业网站推广招聘 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 中国联通推出“极光一号”5G机载终端,适配大疆等品牌无人机设备  扎克伯格吐槽苹果Vision Pro:社交落后Meta太多,无法建设元宇宙  令人震惊的特斯拉机器人  马斯克“揭秘”人工智能真面目  斑马推出全新升级版思维机:以人工智能为核心的交互式学习体验  一句话搞定数据分析,浙大全新大模型数据助手,连搜集都省了  消息称 Meta Quest 将推 VR 游戏订阅:每月 7.99 美元,任选两款  再度重仓 AI 赛道,SaaS 巨头 Salesforce 扩大 AIGC 风投基金规模  微软最新推出的NaturalSpeech2语音合成模型:提供更准确的语音重构,避免棒读效果  《上古卷轴5》AI高清材质包优化游戏中所有怪物  海南省公安机关警用无人机培训班结业并举行警航比武演练  一次购买全年省心,入手科沃斯这几台机器人,省下时间就是金钱  十个AI算法常用库J*a版  云南首例达芬奇机器人微创心脏手术成功开展  研究发现AI聊天机器人ChatGPT不会讲笑话,只会重复25个老梗  丰田汽车研究院推出生成式人工智能汽车设计工具  读创正式上线“读创AI聊”功能  联想创投携手12家被投企业MWC展示元宇宙、机器人等技术  国内首款大尺寸仿鸵双足机器人“大圣”亮相,穿戴红色战袍  大语言模型的视觉天赋:GPT也能通过上下文学习解决视觉任务  微软 Azure AI 文本转语音服务升级:新增男性声音和扩展语言支持  国产医疗企业的人工智能  “电碳”技术提升碳排放监测精度  Meta 推出 Quest 超级分辨率技术,让 VR 画面更清晰  人工智能进入绿植界,智能庭院市场初具规模  中国移动主导创立元宇宙产业联盟,包括科大讯飞、芒果TV等在内,共24家成员  扎克·施奈德新片《月球叛军》曝剧照 机器人首度现身  人工智能加速走进百姓生活:从2025全球人工智能技术大会看行业新趋势  微软Bing聊天机器人电脑端即将支持语音提问  12页线性代数笔记登GitHub热榜,还获得了Gilbert Strang大神亲笔题词  AI智能室内效果图设计软件效果,确实惊到我了!  “世界上最像人的机器人”接入 Stable Diffusion ,现场完成作画  Valve 将拒绝采用 AI 生成未知版权内容的游戏上架 Steam  阿里达摩院发布免费开放100项AI专利许可的动机是什么?  Goodnotes 6推出,带来多项全新AI功能,让电子笔记更智能  AYANEO 安卓掌机 Pocket AIR 配置公布:天玑 1200 + 5.5 英寸屏  不到2S创作AI图像!Snap发布图像生成器SnapFusion  下一个前沿:量子机器学习和人工智能的未来  生成式人工智能进入产业应用!但再“聪明”仍是工具,最终目的是服务于人  国内通用人形机器人将发布、产业加速突破  万魔推出AI主攻的运动耳机,开启十年研发新纪元  全球首款AI裸眼3D平板 国产的售价破万  在这里见未来!杭州未来科技城全球AI盛会邀您共探最前沿  2025“春晖杯”人工智能专场对接活动举办  世界人工智能大会机器人同台炫技!梳理A股相关业务营收占比超50%的个股名单  五个IntelliJ IDEA插件,高效编写代码  苹果在韩举办首届中小企业智能制造论坛,加速推动工业4.0发展  微软推出人工智能模型 CoDi,可互动和生成多模态内容  深剖Apple Vision Pro中暗藏的“AI”  放弃自动驾驶,也是一种和解 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司