谷歌的又一波反擊！開放大語言模型PaLM API

反觀谷歌那邊，在第一波發(fā)布 Bard 失利之后，一直處于沉默狀態(tài)。
但在今日，谷歌組織了第二波反擊：開放自家的大語言模型 API 「PaLM API」，此外今天谷歌還發(fā)布了一款幫助開發(fā)者快速構(gòu)建 AI 程序的工具 MakerSuite。谷歌表示，此舉是為了幫助開發(fā)者們快速構(gòu)建生成式 AI 應(yīng)用。

但略為遺憾的是，谷歌目前是向選定的開發(fā)人員提供這些工具，而非全面開放。
基于 PaLM 模型的 API
毫無疑問，PaLM API 是今天谷歌發(fā)布的公告的核心。
谷歌介紹稱，PaLM API 是 Google 大型語言模型的入口，可用于各種應(yīng)用程序。它將為開發(fā)者提供面向?qū)喗换ザ鴥?yōu)化的模型，如內(nèi)容生成與對話。它也能為開發(fā)者提供摘要、分類等多種任務(wù)的通用模型。

從名字可以開出，此次開放的大語言模型 API 是基于谷歌去年發(fā)布的 PaLM。這是谷歌基于 Pathways 系統(tǒng)訓(xùn)練的一個(gè) 5400 億參數(shù)的大型語言模型。
為了訓(xùn)練這個(gè)模型，谷歌動(dòng)用了 6144 塊 TPU，讓 Pathways 在兩個(gè) Cloud TPU v4 Pods 上訓(xùn)練 PaLM。
強(qiáng)大的系統(tǒng)和算力投入帶來了驚艷的結(jié)果。谷歌在數(shù)百個(gè)語言理解和生成任務(wù)上評估了 PaLM，發(fā)現(xiàn)它在大多數(shù)任務(wù)上實(shí)現(xiàn)了 SOTA 少樣本學(xué)習(xí)性能，可以出色地完成笑話解讀、bug 修復(fù)、從表情符號中猜電影等語言、代碼任務(wù)。

隨著規(guī)模的增加，模型在處理多個(gè)任務(wù)時(shí)的性能逐漸提高，而且還在不斷解鎖新的能力
關(guān)于 PaLM，讀者們可以查看論文《PaLM: Scaling Language Modeling with Pathways》。
此外，谷歌公告稱，后續(xù)會(huì)開放更多規(guī)模與功能不同的模型。PaLM 是谷歌選擇的第一個(gè)版本，所以后續(xù)我們也可以期待下 LaMDA API 等。
MakerSuite 工具
在過去的幾年里，谷歌一直在構(gòu)建和部署大型語言模型 —— 從將 MUM 引入搜索到在 AI Test Kitchen 中使用 LaMDA 構(gòu)建 APP。谷歌表示，開發(fā)人員必須使用不同的工具來完成任務(wù)，例如制作和迭代 prompt、生成合成數(shù)據(jù)以及精調(diào)自定義模型。
MakerSuite 是一種簡化此工作流程的工具，讓用戶將能夠根據(jù) prompt 進(jìn)行迭代，使用合成數(shù)據(jù)擴(kuò)充數(shù)據(jù)集，并輕松調(diào)整自定義模型。當(dāng)你準(zhǔn)備好編程時(shí)，MakerSuite 允許將 prompt 導(dǎo)出為你最喜歡的語言和框架（如 Python 和 Node.js）的代碼。
谷歌表示，借助 MakerSuite，你能夠直接在瀏覽器中快速測試和迭代調(diào)整后的模型。

最后補(bǔ)充一句我們觀察到的結(jié)果：谷歌今日的兩篇博客發(fā)布后，似乎已經(jīng)引起了一些人的不滿：并非全面開放、也沒有定價(jià)。也許，可以說相比之前 ChatGPT API 的開放，谷歌這一波反擊，也略顯失敗。

原文鏈接：https://blog.google/technology/ai/ai-developers-google-cloud-workspace/