400 128 6709

行业新闻

无条件免费商用的全球最长开源模型XVERSE-Long-256K

发布时间:2024-01-16点击次数:

元象发布了全球首个上下文窗口长度256k的开源大模型xverse-long-256k。这个模型支持输入25万汉字,使得大模型应用能够进入“长文本时代”。该模型完全开源,可以无条件免费商用,并且还附带有详细的手把手训练教程,这让海量的中小企业、研究者和开发者能够更早地实现“大模型自由”。

全球最长开源!元象开源大模型XVERSE-Long-256K,无条件免费商用!全球主流长文本大模型图谱

参数量和高质量数据量决定了大模型的计算复杂度,而长文本技术(Long Context)是大模型应用发展“杀手锏”,因技术新、研发难度高,目前多为闭源付费提供。

 XVERSE-Long-256K支持超长文本输入,可用于大规模数据分析、多文档阅读理解、跨领域知识融合,有效提升大模型应用的深度与广度:一、为律师、金融分析师或咨询师、prompt 工程师、科研人员等解决分析处理较长文本的工作;二、在角色扮演或聊天应用中,缓解模型“忘记”之前对话的记忆力问题,或胡说八道的“幻觉”问题等;三、更好支持智能体(AI Agent)基于历史信息进行规划和决策;四、帮助AI原生应用保持连贯、个性化的用户体验。


至此,XVERSE-Long-256K填补了开源生态空白,还与元象此前70亿、130亿、650亿参数大模型组成“高性能全家桶”,将国产开源提升至国际一流水平。
全球最长开源!元象开源大模型XVERSE-Long-256K,无条件免费商用!元象大模型系列

免费下载元象大模型

  • GitHub:https://github.com/xverse-ai/XVERSE-13B
  • hugging face:https://huggingface.co/xverse/XVERSE-13B-256K
  • 魔搭:https://modelscope.cn/models/xverse/XVERSE-13B-256K
  • 问询发送:opensource@xverse.cn

用户可登录大模型官网(chat.xverse.cn)或小程序即刻体验 XVERSE-Long-256K。

 高性能定位评测表现出色
为确保业界对元象大模型有全面、客观和长期的认知,研究人员参考权威行业测评,制定了六个维度的9项综合测评体系。XVERSE-Long-256K 均表现出色,超越其他长文本模型。
 全球最长开源!元象开源大模型XVERSE-Long-256K,无条件免费商用!全球主流长文本开源大模型评测结果 

XVERSE-Long-256K 通过了常见的长文本大模型性能压力测试“大海捞针”。该测试在长文本语料中隐藏一个与其内容无关的句子,并通过自然语言提问让大模型准确提取该句子。

长篇小说 阅读理解

目前国内大多数大型模型只支持中英双语,但元象支持40多种语言。我们对16万字符的俄语经典小说《钢铁是怎样炼成的》和41万字符的德语历史传记《人类群星闪耀时》进行了测试。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

全球最长开源!元象开源大模型XVERSE-Long-256K,无条件免费商用!《钢铁是怎样炼成的(俄文版)》测试 全球最长开源!元象开源大模型XVERSE-Long-256K,无条件免费商用!

《人类群星闪耀时(德文版)》测试

法律法条 精准应用

以《中华人民共和国民法典》为例,展示对法律术语的解释,以及对案例进行逻辑分析、结合实际的灵活应用:

SCISPACE SCISPACE

AI论文研究助手,探索和解释论文的平台

SCISPACE 65 查看详情 SCISPACE

全球最长开源!元象开源大模型XVERSE-Long-256K,无条件免费商用!全球最长开源!元象开源大模型XVERSE-Long-256K,无条件免费商用!全球最长开源!元象开源大模型XVERSE-Long-256K,无条件免费商用!《民法典》测试 

手把手教你训练长文本大模型
 

 1.  技术挑战

  1. 模型训练:GPU显存的占用与序列长度的平方成正比,使训练量急剧上升。
  2. 模型结构:序列越长,模型的attention越分散,模型越容易忘记前序内容。
  3. 推理速度:模型序列越长,将大幅度降低模型推理速度。

 2. 元象技术路线
长文本大模型技术是在近一年内发展出来的新技术,其主要技术方案为:

  1. 直接进行长序列的预训练,但会导致训练量成平方倍的提升。
  2. 通过位置编码的插值或外推拓展序列长度,这种方法会降低位置编码的分辨率,从而降低大模型输出效果。

全球最长开源!元象开源大模型XVERSE-Long-256K,无条件免费商用!

元象长文本大模型训练流程

第一阶段:ABF+继续预训练

  • GitHub:https://github.com/xverse-ai/XVERSE-13B
  • hugging face:https://huggingface.co/xverse/XVERSE-13B-256K
  • 魔搭:https://modelscope.cn/models/xverse/XVERSE-13B-256K
  • 问询发送:opensource@xverse.cn

以上就是无条件免费商用的全球最长开源模型XVERSE-Long-256K的详细内容,更多请关注其它相关文章!


# 俄语  # 怎么做点货网站推广赚钱  # 营销推广地产方案模板  # seo人员值得关注的问题  # seo聚合页面种类  # 爱学SEO  # 赣州网站首页推广  # 电商网站建设概况  # 沈阳抖音关键词优化排名  # 蕲春网站建设ppt  # 延庆seo优化公司  # 德语  # 产业  # 阅读理解  # 卖得  # 越长  # 中国  # 高性能  # 丰田  # 本田  # 开源  # type  # ai agent  # hugging face 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 即将到来:AI婚纱设计软件实际测试,人工智能即将开创婚纱设计新纪元  微软向美国政府提供GPT的大模型,安全性如何保证?  人工智能在重症监护室的未来  腾讯自主研发机器狗 Max 升级,可“奔跑跳跃”完成避障动作  普渡机器人与变形金刚品牌合作,特别活动爆火,商品售罄!  搭载星火认知大模型 讯飞听见智慧屏开启AI办公新体验  如何用户外电源给无人机实现持久续航  人工智能时代的科幻译者怎么办?“做好翻译工作的高端10%”|文化观察  懒人必备的家居清洁好物,石头自清洁扫拖机器人G20  国内AI大模型“安卓时刻”到来!阿里云通义千问免费、开源、可商用  猿辅导推出Motiff,整合三大AI功能,助力UI设计生产力革新  会模仿笔迹的AI,为你创造专属字体  脑虎科技:奔跑在“脑机接口”最前沿 跨界融合取得阶段性成果  优化系统韧性:故障恢复与监控在RabbitMQ中的应用  13 个提高生产力的 AI 工具  小艺将具备大模型能力,鸿蒙4加速AI普及之路  人工智能和你聊天 成本有多高  比尔盖茨:AI确实存在风险,但可控  人工智能“Aria”现身 Opera浏览器100版本更新:新功能“标签岛”  机器人 展才能  Valve Index VR 头显销量下滑,上市四年的长青树渐失光彩  AI大模型,将为智慧城市带来哪些新变化?  最大助力35公斤 外骨骼机器人或在养老、医疗领域“大展身手”  清华系面壁智能开源中文多模态大模型VisCPM :支持对话文图双向生成,吟诗作画能力惊艳  消息称字节机器人团队已有约50人,计划年底扩充到上百人  小岛秀夫不反对使用AI 但认为人类应该凌驾于AI  苹果在韩举办首届中小企业智能制造论坛,加速推动工业4.0发展  亲身体验鸿蒙4:AI大模型带来的便利,告别单纯的旁观者状态  WHEE上线时间介绍  国内首款大尺寸仿鸵双足机器人“大圣”亮相,穿戴红色战袍  世界人工智能大会中西部县域数字就业中心组团亮相  管提需求,大模型解决问题:图表处理神器SheetCopilot上线  “踩油门,也要会踩刹车” 互联网企业高管谈人工智能发展  到中国科技馆体验“一滴油的奇妙旅行”,线上元宇宙展厅同步开启  农业产业升级:AI驱动的“崃·见田”开启农田未来展望  如布科技发布新产品AI口袋学习机S12  360发布认知型通用大模型“360智脑4.0” 全面接入360全家桶  广州团建公司方案 | 绝密飞行 → X-PLANE无人机团建主题团建  2025“春晖杯”人工智能专场对接活动举办  百度举办AIGC创作沙龙,现场传授AI绘画“咒语”技巧  Unity发布Sentis和Muse AI工具,助力创作游戏和3D内容  为什么很多人对纽约《人工智能招聘法》感到生气?  智能技术提高现代商业运营的7七种方式  探索人工智能在居家养老方面的应用  支持跨语言、人声狗吠互换,仅利用最近邻的简单语音转换模型有多神奇  参议院司法听证会:AI 不易管控,有可能被恶意分子利用来研发生化武器  酒店业将如何受益于人工智能的改变?  特斯拉机器人面世 未来将大幅提振磁材需求,引领人工智能时代  企业软件行业更将被AI全面重构!Moka李国兴:未来优秀组织和个人将一定是善于使用AI生产力的  在这里见未来!杭州未来科技城全球AI盛会邀您共探最前沿 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司