AI 文摘

Google孤注一掷,投入数亿美元,新模型将超越GPT-4,加入AlphaGo技术





作者: Founder Park  来源: [Founder Park](https://mp.weixin.qq.com/s/qK88QiC8GqBwMdEFHhm52Q)

在 Demis Hassabis 的理解里,更好的大模型不仅要精通语言文本,还要帮助人类执行任务、解决问题。

Google 在 4 月将 DeepMind 和 Google Brain 合并,随后 I/O 大会上预告了这个团队正在全力打造的大模型 Gemini (双子)。

Gemini 是 Google 寄予厚望的模型,一个 foundation model,不仅要完成 PaLM 追赶 GPT-4 的使命,还要重新确立 Google 在 AI 领域的领先地位。

新团队 Google DeepMind 的 CEO Demis Hassabis 很自信,他拥有全世界最好的 AI 团队,至少曾经是最好的。「如果你看看我们在 AI 领域的进展,我认为 80% - 90% 的创新来源于这两支(Brain & DeepMind)团队。

他刚刚向 WIRED 透露了更多有关 Gemini 的信息。

双子模型

多模态、规划、执行

Gemini 依然是一个 LLM(大语言模型),基于文本/语言,和 GPT-4 一样。

但不同的是,Google 会将 AlphaGo 背后探索的技术与 LLM 结合起来,赋予系统新的能力,比如规划或者解决问题等。

「抽象来看,你可以认为 Gemini 将 AlphaGo 类系统的一些优势,与大模型令人惊叹的语言能力结合起来。我们还有一些非常有趣的创新。」

他指的是 Alpha 系列不断探索的强化学习,以及一种被称为「树搜索」(tree search)的方法,用于探索和记忆棋盘上可能的动作。

Hassabis 认为语言模型的下一个巨大飞跃,会涉及它们在互联网和计算机上执行更多的任务。

在之前的 I/O 大会上,Google 提到,Gemini 从一开始就是以多模态高效集成工具、AP I ** 为目标打造的,为的是用内存** 和规划能力 支持未来的创新。「虽然还在早期,但我们已经看到之前模型中从未见过的令人印象深刻的多模态能力。

Gemini 还在开发过程中,还需要几个月时间,可能会耗费数千万乃至数亿美元的成本。 相比之下,Sam Altman 曾提到,GPT-4 的成本超过 1 亿美元。

经过微调和严格的安全测试后,Gemini 将会像 PaLM 2 一样,提供不同大小和特定功能的模型。

此前有传言称,Gemini 将拥有超过万亿的参数,并且训练过程中使用了数万颗 Google TPU 进行训练。

垂直专家

注强化学习的Alpha系列

一直以来,相比 OpenAI 的「通用」路径,DeepMind 相对更专注于垂直领域,多年来屡屡取得惊人的成果。

2016 年石破天惊的 AlphaGo ,无需介绍,它点燃了深度学习和第一轮 AI 产业热潮。

2017 年 AlphaGo Zero 在没有使用人类数据的前提下,迅速超越 AlphaGo/Master 的水平。

在游戏的路径上,2019 年 AlphaStar 在策略类游戏《星际争霸 2》中以 10:0 战胜人类职业选手。

生物医疗领域,2018 年,AlphaFold 成功预测 43 种蛋白质中 25 种最准确的结构,赢得 13 次蛋白质结构预测关键评估。

2020 年,AlphaFold 的预测达到了与实验室技术相当的准确度分数,评委称它「基本解决」了蛋白质折叠问题。

代码,今年 6 月初,在《自然》上发布 AlphaDev ,把排序理解为「单人汇编游戏」,用强化学习观察和生成算法,进而发现了一个新的排序算法,「可能彻底改变计算机科学的效率和效果」。

机器人,6 月 20 日,发布 RoboCat ,一个能自我改进的机器人 agent,基于多模态模型 Gato,只要 100 次演示,机械臂就能学会新任务。只花了几个小时就学会操作不同的机械臂,执行更加复杂的任务,「学习速度远超其他先进模型」。

报道 Hassabis 爆料的 WIRED 提到,Google DeepMind 团队会尝试利用其 AI 在其他领域的成果来强化 LLM 的技术

以上这些覆盖游戏(策略)、生物、代码和机器人等领域的研究,体现出 DeepMind 更倾向于「接近人类经验学习能力」的 AI 路径,这种能力与当下「大力出奇迹」依靠参数量获取能力的 LLM 或许能形成互补。

如果你关注大模型领域,欢迎扫码加入我们的大模型交流群,来一起探讨大模型时代的共识和认知,跟上大模型时代的这股浪潮。

更多阅读

**「线下·大型·面基会」AGI Playground,7.22 - 7.23 北京见!**

「文件夹」概念过时了!网盘巨头重新理解文件管理,重磅推出两款AI服务

a16z对话AI明星独角兽:大模型未来会如何进化?

OpenAI还要再做一个AppStore!将发布模型商店,做平台抢占AI生态

历史第一黄仁勋:创业30年,万亿美金,他还是CEO

扎克伯格深度访谈:超越个体的不只AI,还有公司和组织

对话Midjourney创始人:图片只是第一步,AI将彻底改变学习、创意和组织

创业者深度解读苹果Vision Pro,XR行业的未来在哪里?

闭门交流纪要:大模型在机器人领域的应用探讨

转载原创文章请添加微信:geekparker

可关注我们的公众号:每天AI新工具