https:arxivorgpdf240308763pdf大模型通常在很多很多的数据上进行预训练，但是一旦有新数据之后，可能需要开始训练。文章研究了继续预训练（Continually

2024年3月18日，马斯克兑现诺言，开源了其大模型Grok。有网友戏谑：这很马斯克，一言不合就开源，随后还不忘对OpenAI进行一番嘲笑。说起开源大模型，Meta早在2023年7月就开源了LLama

“出去玩了，来不及了，简单机翻，可以看原文ArXiv: https:arxivorgabs240212374Code: https:githubcomInfini-AI-LabS

内容简介：本文介绍了国外赚美元的一种方式：写作。作者先是在免费的博客网上写作，有了一定的粉丝后，建立了自己的WordPress网站，并接Mediavine的广告。然后把写作的内容做成电子书，在古莫道（

前几天 ElonMusk在线@xAI，宣布本周将开源Grok，没想到它真的来了，我满怀欣喜的打开 GitHub，然后Grok-1（OpenReleaseofGrok-1[1]）是一

GaLore的具体原理，可以参照上周的推文，今天的推文汇总一些网友的测试结果https:mpweixinqqcoms__biz=MzkyOTU5NzY1Mw==&mid=22474857