AI万址
PaLM 2

PaLM 2

PaLM 2 是 Google 对标 GPT-4 的旗舰语言模型,已停用并迁移至 Gemini。本文详解 PaLM 2 功能、四档模型尺寸、Med-PaLM 2 及迁移方案。

PaLM 2
访问官网
基本信息详情
开发公司Google
上线时间2023年5月(Google I/O 2023 发布)
官网https://ai.google/discover/palm2
支持平台Google Cloud Vertex AI、Google AI Studio(MakerSuite)
价格Bison:输入 $0.50/百万 token,输出 $1.50/百万 token(已停用,迁移至 Gemini)
核心定位Google 对标 GPT-4 的旗舰语言模型,支撑 Bard 和 Duet AI 的核心引擎

PaLM 2 是 Google 在 2023 年 5 月 Google I/O 大会上发布的旗舰大语言模型,全称 Pathways Language Model 2。发布时它被定位为 Google 对 GPT-4 的回应,承担了 Bard 聊天机器人和 Duet AI for Workspace 的底层推理任务。训练数据覆盖 100 多种语言和 20 多种编程语言,在多语言推理和代码生成上是当时的强项。

和前代 PaLM 相比,PaLM 2 最大的改进在于推理能力。它在 WinoGrande 常识推理测试上拿到 90.2%,在 DROP、StrategyQA、CSQA 等推理 benchmark 上部分超过了 GPT-4。MMLU 约 78%,HumanEval 约 37%--这个代码生成成绩按现在的标准看一般,但 2023 年中已经是第一梯队。

但 PaLM 2 的时代已经结束了。Google 从 2023 年底开始推出 Gemini 系列,PaLM 2 的 API 端点在 2025 年正式停用。Google 建议所有用户迁移到 Gemini 1.5 或更新版本。如果你现在还在用 PaLM 2,不是因为你想用,是因为迁移还没做完。

核心功能

01

四档模型尺寸

Google 把 PaLM 2 做成了四个尺寸:Gecko(最小,能跑在手机上)、Otter、Bison(标准 API 模型)、Unicorn(最大)。这个梯度设计让你按需选择--轻量任务用 Gecko 省钱,复杂推理用 Unicorn。Bison 是 API 调用最常用的版本。

02

多语言能力

训练数据覆盖 100+ 种语言,包括斯瓦希里语等冷门语言。实际测试中,多语言翻译和跨语言推理是 PaLM 2 明显强于同代竞品的地方。用中文写一首诗然后翻译成阿拉伯语还能保留押韵,这种任务 PaLM 2 处理得不错。

03

推理与代码生成

支持 20+ 种编程语言的代码生成和理解。能解大学水平的数学和物理题,生成分步骤的证明过程。但 37% 的 HumanEval 成绩说明复杂代码任务不是它的强项--后来的 Gemini 和 GPT-4 把这个分数推到了 80%+。

04

专用变体

Google 基于 PaLM 2 做了几个垂直领域变体:Med-PaLM 2(医疗,和梅奥诊所合作)、Sec-PaLM(网络安全分析)、Codey(代码补全)。这些专用版本在各自领域做了额外训练,Med-PaLM 2 在医疗执照考试(USMLE)上的准确率超过 85%。

05

RLHF 安全对齐

用人类反馈强化学习(RLHF)做了安全对齐训练。响应里会内置安全过滤器,拒绝有害内容请求。但这也导致了一些过度拒绝的问题--合法查询有时被误判为不安全而拒绝回答。

适合谁

这个问题的答案比较特殊,因为 PaLM 2 已经停用。

曾经适合: 需要多语言处理的企业应用;医疗行业的 AI 辅助诊断;Google Cloud 生态内的开发者;需要和 Workspace 集成的团队。

现在应该迁移到 Gemini: 所有 PaLM 2 的用例都能被 Gemini 覆盖,而且做得更好。Gemini 1.5 支持 1M token 上下文(PaLM 2 只有 8K-32K),原生多模态(PaLM 2 纯文本),推理能力更强。

同类竞品对比

维度PaLM 2 (Google)GPT-4 (OpenAI)Llama 2 (Meta)
发布时间2023年5月2023年3月2023年7月
最大上下文32K128K4K-32K
多模态否(纯文本)是(GPT-4V)
多语言100+ 语言多语言英语为主
代码生成20+ 语言中等
开源
当前状态已停用已升级已升级

FAQ

Q

PaLM 2 现在还能用吗?

A

不能。PaLM 2 的 API 端点在 2025 年正式停用。Google Cloud Vertex AI 上的 PaLM 2 端点已标记为 deprecated。你需要迁移到 Gemini API。

Q

PaLM 2 和 Gemini 有什么区别?

A

Gemini 是 PaLM 2 的继任者。主要区别:Gemini 原生支持多模态(文本+图片+音频+视频),PaLM 2 只处理文本;Gemini 上下文窗口最大 1M token,PaLM 2 最大 32K;Gemini 推理能力更强,价格也更低。

Q

PaLM 2 有几个版本?

A

四个:Gecko(最轻量,可在移动设备运行)、Otter、Bison(标准 API 版本)、Unicorn(最强,内部使用为主)。API 调用主要用 Bison。

Q

Med-PaLM 2 和普通 PaLM 2 有什么不同?

A

Med-PaLM 2 是在 PaLM 2 基础上用医疗数据微调的专用版本。它在 USMLE(美国医疗执照考试)上的准确率超过 85%,能理解病历和医学影像描述。和梅奥诊所有合作,但主要用于研究和辅助诊断,不能替代医生。

Q

从 PaLM 2 迁移到 Gemini 难吗?

A

不难。Google 提供了迁移文档和工具。API 接口结构类似,主要是把模型名称从 text-bison 改成 gemini-1.5-pro 之类的。prompt 可能需要微调,因为两个模型的响应风格略有不同。大多数代码改几行就能跑。

Q

PaLM 2 的参数量是多少?

A

Google 从未官方公布过确切参数量。外界推测 Unicorn 版本约 3400 亿参数,但这是非官方数字。Google 的技术报告里只提到了"compute-optimal scaling"和训练效率优化,没有给出具体参数量。

更新动态

客户评价

汇总评分:3.8 / 5(基于历史使用反馈综合,模型已停用)

"PaLM 2 的多语言能力是我们选它的原因。我们的客服系统要处理 12 种语言,PaLM 2 是当时唯一一个小语种也不出大错的模型。迁移到 Gemini 后反而更稳定了。" - 跨国企业技术负责人

"Med-PaLM 2 在病历摘要上的表现让我印象深刻,但它毕竟是个研究工具,不是临床产品。过度依赖它的诊断建议是危险的。" - 医疗 AI 研究员

"Bison 版本的推理质量在 2023 年中是够用的,但 8K 上下文太短了。做 RAG 的时候塞不了多少文档进去。Gemini 1.5 的 1M 上下文是质的飞跃。" - 平台工程师

参考来源