开源日报 | 微软AI程序员登场,马斯克开源Grok;Open-Sora全面开源
OSC开源社区
2024-03-19 14:44:56

原标题:开源日报 | 微软AI程序员登场,马斯克开源Grok;Open-Sora全面开源

欢迎阅读 OSCHINA 编辑部出品的开源日报,每天更新一期。

# 2024.3.18今日要点马斯克开源 Grok

马斯克旗下的 xAI 正式宣布在 Apache 2.0 协议下开源了大模型 Grok-1 的基本模型权重和网络架构。其参数量达到 3140 亿,远超 Meta 的 Llama 2 的 700 亿、Mistral 8x7B 的 120 亿以及 OpenAI GPT-3.5 的 1750 亿;这也是迄今参数量最大的开源大语言模型。

根据介绍,Grok 基础模型基于大量文本数据进行训练,未针对任何特定任务进行微调。其架构于 2023 年 10 月使用 JAX 和 Rust 之上的自定义训练堆栈开发,融合了神经网络设计的创新方法。该模型将 25% 的权重用于给定 token,旨在提高效率和有效性。

历时 20 年,GnuCOBOL 已达到工业成熟度

OCamlPro 创始人兼 GnuCOBOL 贡献者 Fabrice Le Fessant 表示,经过 20 年的发展,开源 GnuCOBOL“已经达到了工业成熟度,可以在所有环境中与专有产品竞争。”

今日观察

今日推荐

https://github.com/JanDeDobbeleer/oh-my-posh

事件点评

每日项目榜

每日 GitHub 精选

最后,欢

随时在线阅读完整日报内容 ↓

获取新鲜开源资讯

网罗全球开源软件

畅读硬核技术文章

品味高级趣味梗图

⬇️欢迎关注OSCHINA公众号

「设为星标」

相关内容

热门资讯

意大利要求Meta开放What... 来源:市场资讯 (来源:财联社) 财联社12月25日讯(编辑 夏军雄)当地时间周三(12月24日),...
南工大团队三项原创性突破让群体... 来源:滚动播报 (来源:新华日报) □ 本报记者 谢诗涵 通讯员 朱琳 无人机表演、工业协同与智能交...
【物理科普】如何给孩子解释“什... 如果小朋友问:“物理是什么?”您会如何回答呢? 如果打开百科,您得到的答案是:物理学(Physic...
【成员动态】深圳平湖实验室8英... 在国家科技重大专项支持下,深圳平湖实验室在高压1200V级GaN功率器件领域取得关键性突破,首次在8...
央视曝光!月入过万、15天赚2... 当下,人工智能AI培训 正在升温 然而一些不法分子 也瞄准了这个市场 近期,一种号称能让老年人“轻松...