
| 基本信息 | 详情 |
|---|---|
| 开发公司 | |
| 上线时间 | 2023年5月(Google I/O 2023 发布) |
| 官网 | https://ai.google/discover/palm2 |
| 支持平台 | Google Cloud Vertex AI、Google AI Studio(MakerSuite) |
| 价格 | Bison:输入 $0.50/百万 token,输出 $1.50/百万 token(已停用,迁移至 Gemini) |
| 核心定位 | Google 对标 GPT-4 的旗舰语言模型,支撑 Bard 和 Duet AI 的核心引擎 |
PaLM 2 是 Google 在 2023 年 5 月 Google I/O 大会上发布的旗舰大语言模型,全称 Pathways Language Model 2。发布时它被定位为 Google 对 GPT-4 的回应,承担了 Bard 聊天机器人和 Duet AI for Workspace 的底层推理任务。训练数据覆盖 100 多种语言和 20 多种编程语言,在多语言推理和代码生成上是当时的强项。
和前代 PaLM 相比,PaLM 2 最大的改进在于推理能力。它在 WinoGrande 常识推理测试上拿到 90.2%,在 DROP、StrategyQA、CSQA 等推理 benchmark 上部分超过了 GPT-4。MMLU 约 78%,HumanEval 约 37%--这个代码生成成绩按现在的标准看一般,但 2023 年中已经是第一梯队。
但 PaLM 2 的时代已经结束了。Google 从 2023 年底开始推出 Gemini 系列,PaLM 2 的 API 端点在 2025 年正式停用。Google 建议所有用户迁移到 Gemini 1.5 或更新版本。如果你现在还在用 PaLM 2,不是因为你想用,是因为迁移还没做完。
核心功能
四档模型尺寸
Google 把 PaLM 2 做成了四个尺寸:Gecko(最小,能跑在手机上)、Otter、Bison(标准 API 模型)、Unicorn(最大)。这个梯度设计让你按需选择--轻量任务用 Gecko 省钱,复杂推理用 Unicorn。Bison 是 API 调用最常用的版本。
多语言能力
训练数据覆盖 100+ 种语言,包括斯瓦希里语等冷门语言。实际测试中,多语言翻译和跨语言推理是 PaLM 2 明显强于同代竞品的地方。用中文写一首诗然后翻译成阿拉伯语还能保留押韵,这种任务 PaLM 2 处理得不错。
推理与代码生成
支持 20+ 种编程语言的代码生成和理解。能解大学水平的数学和物理题,生成分步骤的证明过程。但 37% 的 HumanEval 成绩说明复杂代码任务不是它的强项--后来的 Gemini 和 GPT-4 把这个分数推到了 80%+。
专用变体
Google 基于 PaLM 2 做了几个垂直领域变体:Med-PaLM 2(医疗,和梅奥诊所合作)、Sec-PaLM(网络安全分析)、Codey(代码补全)。这些专用版本在各自领域做了额外训练,Med-PaLM 2 在医疗执照考试(USMLE)上的准确率超过 85%。
RLHF 安全对齐
用人类反馈强化学习(RLHF)做了安全对齐训练。响应里会内置安全过滤器,拒绝有害内容请求。但这也导致了一些过度拒绝的问题--合法查询有时被误判为不安全而拒绝回答。
适合谁
这个问题的答案比较特殊,因为 PaLM 2 已经停用。
曾经适合: 需要多语言处理的企业应用;医疗行业的 AI 辅助诊断;Google Cloud 生态内的开发者;需要和 Workspace 集成的团队。
现在应该迁移到 Gemini: 所有 PaLM 2 的用例都能被 Gemini 覆盖,而且做得更好。Gemini 1.5 支持 1M token 上下文(PaLM 2 只有 8K-32K),原生多模态(PaLM 2 纯文本),推理能力更强。
同类竞品对比
| 维度 | PaLM 2 (Google) | GPT-4 (OpenAI) | Llama 2 (Meta) |
|---|---|---|---|
| 发布时间 | 2023年5月 | 2023年3月 | 2023年7月 |
| 最大上下文 | 32K | 128K | 4K-32K |
| 多模态 | 否(纯文本) | 是(GPT-4V) | 否 |
| 多语言 | 100+ 语言 | 多语言 | 英语为主 |
| 代码生成 | 20+ 语言 | 强 | 中等 |
| 开源 | 否 | 否 | 是 |
| 当前状态 | 已停用 | 已升级 | 已升级 |
FAQ
PaLM 2 现在还能用吗?
不能。PaLM 2 的 API 端点在 2025 年正式停用。Google Cloud Vertex AI 上的 PaLM 2 端点已标记为 deprecated。你需要迁移到 Gemini API。
PaLM 2 和 Gemini 有什么区别?
Gemini 是 PaLM 2 的继任者。主要区别:Gemini 原生支持多模态(文本+图片+音频+视频),PaLM 2 只处理文本;Gemini 上下文窗口最大 1M token,PaLM 2 最大 32K;Gemini 推理能力更强,价格也更低。
PaLM 2 有几个版本?
四个:Gecko(最轻量,可在移动设备运行)、Otter、Bison(标准 API 版本)、Unicorn(最强,内部使用为主)。API 调用主要用 Bison。
Med-PaLM 2 和普通 PaLM 2 有什么不同?
Med-PaLM 2 是在 PaLM 2 基础上用医疗数据微调的专用版本。它在 USMLE(美国医疗执照考试)上的准确率超过 85%,能理解病历和医学影像描述。和梅奥诊所有合作,但主要用于研究和辅助诊断,不能替代医生。
从 PaLM 2 迁移到 Gemini 难吗?
不难。Google 提供了迁移文档和工具。API 接口结构类似,主要是把模型名称从 text-bison 改成 gemini-1.5-pro 之类的。prompt 可能需要微调,因为两个模型的响应风格略有不同。大多数代码改几行就能跑。
PaLM 2 的参数量是多少?
Google 从未官方公布过确切参数量。外界推测 Unicorn 版本约 3400 亿参数,但这是非官方数字。Google 的技术报告里只提到了"compute-optimal scaling"和训练效率优化,没有给出具体参数量。
更新动态
客户评价
汇总评分:3.8 / 5(基于历史使用反馈综合,模型已停用)
"PaLM 2 的多语言能力是我们选它的原因。我们的客服系统要处理 12 种语言,PaLM 2 是当时唯一一个小语种也不出大错的模型。迁移到 Gemini 后反而更稳定了。" - 跨国企业技术负责人
"Med-PaLM 2 在病历摘要上的表现让我印象深刻,但它毕竟是个研究工具,不是临床产品。过度依赖它的诊断建议是危险的。" - 医疗 AI 研究员
"Bison 版本的推理质量在 2023 年中是够用的,但 8K 上下文太短了。做 RAG 的时候塞不了多少文档进去。Gemini 1.5 的 1M 上下文是质的飞跃。" - 平台工程师
参考来源
- ▸Google | PaLM 2 技术报告, Google 官方发布的 PaLM 2 技术报告,包含训练方法和 benchmark 数据
- ▸Google Blog | PaLM 2 发布公告, Google 官方博客 PaLM 2 发布公告
- ▸Google Cloud | Vertex AI 模型弃用文档, Google Cloud 官方模型弃用与迁移指南
- ▸arXiv | PaLM 2 技术论文, PaLM 2 学术论文,包含详细技术分析
- ▸Google AI | Gemini API 定价, Gemini API 当前定价,PaLM 2 的继任者
