马斯克旗下的ai公司xAI开发的Grok-1大型语言模型,在经历几个月的训练和准备后,于2024年3月18日正式开源。Grok-1拥有高达3140亿的参数,超过了OpenAI的GPT-3.5模型,成为迄今为止开源的参数量最大的大语言模型。这一动作遵照Apache 2.0协议进行,意味着开发者可以自由地下载、使用、修改并分发Grok-1的模型权重和架构。
Grok官网:https://grok.x.ai/
Grok开源GitHub源码下载地址:https://github.com/xai-org/grok-1
Grok-1是基于大量文本数据训练的基础模型,未针对特定任务进行微调。它采用的是混合专家架构(Mixture-of-Experts, MOE),这是一种机器学习方法,通过结合多个子模型(专家)的输出,提高模型处理任务的效率。Grok-1的源权重数据大小约为300GB,并在GitHub上开源。
马斯克Grok为什么开源?
马斯克此举是在与OpenAI的关系紧张和对后者提出法律诉讼的背景下进行的,马斯克与OpenAI的联合创始人奥特曼之间存在着长期的矛盾。他公开批评OpenAI违背了其开源的初心,并将原本旨在对抗谷歌的机构转变为一个与微软合作的盈利性实体。因此,马斯克决定通过开源Grok-1来展示其对AI领域开放共享的承诺。
另外,通过开源,马斯克希望吸引更多的开发者和用户,扩大其影响力,同时也为xAI带来更多的数据资源,帮助其不断完善和优化技术。
马斯克Grok开源的意义
Grok-1的开源将直接推动AI技术的发展,促进竞争与多样性。它为AI领域提供了新的发展动力,并可能引发新的技术革命。同时,这也是对AI领域现有商业化策略的一次挑战,马斯克试图通过开源来改变AI技术的走向,使之更符合他个人的愿景。
1、本网站名称:熠熠码
2、本站永久网址:https://www.yiyima.com/
3、本网站的文章部分内容可能来源于网络,仅供大家学习与参考,如有侵权,请联系站长QQ进行删除处理。
4、本站一切资源不代表本站立场,并不代表本站赞同其观点和对其真实性负责。
5、本站一律禁止以任何方式发布或转载任何违法的相关信息,访客发现请向站长举报。