猎户星空大模型

猎户星空大模型简介

猎户星空大模型Orion-14B-Base是一个具有140亿参数的多语种大模型，该模型在一个包含2.5万亿token的多样化数据集上进行了训练，涵盖了中文、英语、日语、韩语等多种语言。在多语言环境下的一系列任务中展现出卓越的性能。在主流的公开基准评测中，Orion-14B系列模型表现优异，多项指标显著超越同等参数基本的其他模型。

开源地址:

https://github.com/OrionStarai/Orion

https://huggingface.co/OrionStarAI

猎户星空大模型Orion-14B系列大模型有以下几个特点：

• 基座20B参数级别大模型综合评测效果表现优异

• 多语言能力强，在日语、韩语测试集上显著领先

• 微调模型适应性强，在人类标注盲测中，表现突出

• 长上下文版本支持超长文本，在200k token长度上效果优异，最长可支持可达320k

• 量化版本模型大小缩小70%，推理速度提升30%，性能损失小于1%

具体而言，猎户星空大模型Orion-14B系列大语言模型包含：

• Orion-14B-Base： 基于2.5万亿tokens多样化数据集训练处的140亿参数量级的多语言基座模型。

• Orion-14B-Chat： 基于高质量语料库微调的对话类模型，旨在为大模型社区提供更好的用户交互体验。

• Orion-14B-LongChat： 在200k token长度上效果优异，最长可支持可达320k，在长文本评估集上性能比肩专有模型。

• Orion-14B-Chat-RAG： 在一个定制的检索增强生成数据集上进行微调的聊天模型，在检索增强生成任务中取得了卓越的性能。

• Orion-14B-Chat-Plugin： 专门针对插件和函数调用任务定制的聊天模型，非常适用于使用代理的相关场景，其中大语言模型充当插件和函数调用系统。

• Orion-14B-Base-Int4： 一个使用int4进行量化的基座模型。它将模型大小显著减小了70%，同时提高了推理速度30%，仅引入了1%的最小性能损失。

• Orion-14B-Chat-Int4： 一个使用int4进行量化的对话模型。

猎户星空（OrionStar）是一家全球领先的服务机器人解决方案公司，成立于2016年9月。猎户星空致力于基于人工智能技术打造下一代革命性机器人，使人们能够摆脱重复的体力劳动，使人类的工作和生活更加智能和有趣，通过技术使社会和世界变得更加美好。

猎户星空拥有完全自主开发的全链条人工智能技术，如语音交互和视觉导航。它整合了产品开发能力和技术应用能力。基于Orion机械臂平台，它推出了ORION STAR AI机器人问候、AI机器人问候迷你、Lucki、咖啡 Master等产品，并建立了Orion机器人的开放平台OrionOS。通过为 真正有用的机器人而生 的理念实践，它通过AI技术为更多人赋能。

凭借7年AI经验积累，猎户星空已推出的大模型深度应用"聚言"，并陆续面向行业客户提供定制化AI大模型咨询与服务解决方案，真正帮助客户实现企业经营效率领先同行目标。

猎户星空具备全链条大模型应用能力的核心优势，包括拥有从海量数据处理、大模型预训练、二次预训练、微调（Fine-tune）、Prompt Engineering 、Agent开发的全链条能力和经验积累;拥有完整的端到端模型训练能力，包括系统化的数据处理流程和数百张GPU的并行模型训练能力，现已在大政务、云服务、出海电商、快消等多个行业场景落地。