Gemma 2

谷歌 推出了最新推出的开放模型 Gemma 2，这是一个轻量级、最先进的开放式模型系列，用创建 Gemini 模型的相同研究和技术构建，现已向全球的研究人员和开发者开放。与第一代相比，Gemma 2 在性能和推理效率上有了显著提升，支持9B和27B参数规模的小模型。其主要特点包括：

卓越性能：27B参数的Gemma 2在其规模类别中表现最佳，甚至可以与更大规模的模型竞争，9B Gemma 2 模型也提供一流的性能，优于 Llama 3 8B 和其他尺寸类别的开放式模型。 高效成本：27B Gemma 2 模型旨在在单个 Google Cloud TPU 主机、NVIDIA A100 80GB Tensor Core GPU 或 NVIDIA H100 Tensor Core GPU 上以全精度高效运行推理，从而在保持高性能的同时显著降低成本。这允许更易于访问且预算友好的 AI 部署。 快速推理：Gemma 2 经过优化，可在一系列硬件上以令人难以置信的速度运行，从功能强大的游戏笔记本电脑和高端台式机到基于云的设置。在 Google AI Studio 中全精度试用 Gemma 2，在 CPU 上使用 Gemma.cpp 的量化版本解锁本地性能，或者通过 Hugging Face Transformer 在配备 NVIDIA RTX 或 GeForce RTX 的家用计算机上试用。

Gemma 2 还改进了安全性和兼容性， 被设计成易于与现有的AI工具和框架（如Hugging Face、JAX、PyTorch、TensorFlow 等）集成。开发者可以通过Google AI Studio 和Kaggle 免费试用或下载Gemma 2的模型权重。

这款新模型的一些安全发展包括数据过滤、严格的测试和评估，以避免潜在的偏见和风险。