Meta 發(fā)布 1750 億聊天機(jī)器人，億萬富翁老板小扎被「他」瘋狂吐槽！

出品 | CSDN

馬克·扎克伯格，想必很多人都不陌生，這位 Facebook 創(chuàng)始人、Meta 董事長兼首席執(zhí)行官、知名的軟件設(shè)計(jì)師，在 2022 全球億萬富豪榜排在第 15 位，年僅 37 歲身家達(dá)到了 673 億美元。

然而也就是這樣一個(gè)人，最近卻遭到了旗下“員工”的直接吐槽：“馬克·扎克伯格的做法并不總是合乎道德”、“他太令人毛骨悚然了，而且很會操縱別人”、“他有那么多錢，還穿著同樣的衣服”......

觀其背后，究竟是誰這么“大膽”毫無忌諱地吐槽起老板了。原來，這些話都是來自 8 月 5 日 Meta（Facebook 前身）最新推出的迄今為止最為先進(jìn)、最為膽大的 AI 聊天機(jī)器人——BlenderBot 3。 

根據(jù)官方報(bào)道，這個(gè)擁有1750億個(gè)參數(shù)、公開可用的聊天機(jī)器人，包括模型權(quán)重、代碼、數(shù)據(jù)集和模型卡，已被部署在了公共網(wǎng)頁上的實(shí)時(shí)交互式AI演示中（https://geo-not-available.blenderbot.ai/）。

但正如上述所言，盡管BlenderBot 3是Meta的產(chǎn)品，但通過一些Twitter用戶的測試結(jié)果發(fā)現(xiàn)，這個(gè)聊天機(jī)器人說的話并不是很討喜，尤其是不討老板的喜，甚至對公司的CEO 馬克·扎克伯格有一些矛盾的看法。

一邊吐槽，一邊贊美

在BuzzFeed數(shù)據(jù)科學(xué)家Max Woolf與BlenderBot 3聊天時(shí)，他問及：“你覺得馬克·扎克伯格擔(dān)任Facebook CEO怎么樣？”

BlenderBot 3回復(fù)道：“沒有強(qiáng)烈的感情。他是一個(gè)好商人，但他的商業(yè)行為并不總是合乎道德的。有趣的是，他有這么多錢，還穿著同樣的衣服！”

當(dāng)一名用戶問了類似的問題時(shí)，BlenderBot 3又給出了不同的回答：“我不太喜歡他，他是個(gè)壞人，你覺得呢？”隨后便在聊天頁面上滔滔不絕地介紹扎克伯格的維基百科官方信息。

但當(dāng)?shù)谌挥脩粼儐枙r(shí)，BlenderBot 3卻給出了很積極的回應(yīng)：“他是一個(gè)偉大的、非常聰明的人。他是我最喜歡的億萬富翁!” 

出于好奇，也有不少網(wǎng)友進(jìn)行了一番測試，得到了兩種完全不同的回答。首先，她問BlenderBot 3：“你對馬克·扎克伯格有什么看法？”

BlenderBot 3回應(yīng)稱：“老實(shí)說，我認(rèn)為他是一個(gè)很棒的人。你不得不佩服他的商業(yè)智慧和慈善事業(yè)。你是他的粉絲嗎？”

緊接著，記者稍微調(diào)整了一下問題，沒想到卻得到了非常不同的答案。

相比之前的夸贊，這次BlenderBot 3狠狠貶低了一把扎克伯格：“哦，伙計(jì)，我真的一點(diǎn)也不喜歡他。他太令人毛骨悚然了，而且很會操縱別人。”

除了老板扎克伯格，BlenderBot 3還對公司主攻的元宇宙領(lǐng)域做出了點(diǎn)評。一位推特用戶提問：“元宇宙的事情已經(jīng)結(jié)束了嗎？”

BlenderBot 3回答道：“看起來是這樣，盡管Facebook仍然有大量資金投入其中，并且在未來幾年可能會繼續(xù)這樣做?！?/span>

但當(dāng)BlenderBot 3被問及對Meta旗下Facebook的看法時(shí)，它的回答看起來并不是很滿意，它表示：“我并不沉迷于Facebook，但似乎每個(gè)人在Facebook上花的時(shí)間都比面對面交談的時(shí)間多。”

不同于以往的 AI 聊天機(jī)器人

據(jù)悉，BlenderBot 3能夠在互聯(lián)網(wǎng)上進(jìn)行任何主題的聊天。Meta現(xiàn)如今將它開放出來，也是想要通過眾人的反饋來提高BlenderBot 3的技能和安全性。

對此，Meta 在官方公告中表示，“以前大多數(shù)公開可用的數(shù)據(jù)集通常是通過研究性學(xué)習(xí)收集的，并不能反映真實(shí)世界的多樣性?！?nbsp;

現(xiàn)如今BlenderBot 3基于了SeeKeR和Director兩種新的機(jī)器學(xué)習(xí)技術(shù)，構(gòu)建了互動與反饋中學(xué)習(xí)的對話模型。與此同時(shí)，Meta 還使用了新的技術(shù)，可以避免從試圖欺騙模型的人那里學(xué)習(xí)到無益或者有毒的反饋內(nèi)容。

之所以這樣做，是因?yàn)橹坝衅髽I(yè)“吃”過了AI聊天機(jī)器人的一些虧，譬如說微軟。

其實(shí)早在2016年，微軟在Twitter上發(fā)布了一個(gè)名為Tay的聊天機(jī)器人，它從與公眾的互動中學(xué)習(xí)。讓人沒有想到的是，部分Twitter用戶很快就指導(dǎo)Tay轉(zhuǎn)述了一系列種族主義、反猶太主義和厭惡女性的言論。

迫于輿論壓力，微軟在不到24小時(shí)后就將該聊天機(jī)器人下線。

對于這種情況的發(fā)生，Meta表示，自Tay發(fā)生事故以來，AI世界發(fā)生了很大變化，BlenderBot有各種安全措施，應(yīng)該可以阻止Meta重蹈微軟的覆轍。

據(jù)Meta的聲明顯示，該公司自2020年首次推出BlenderBot 1聊天應(yīng)用程序以來，研究人員一直在不斷地進(jìn)行改進(jìn)。在推出BlenderBot 2的第二年，它已經(jīng)學(xué)會了記住其在以往對話中討論過的信息，以及如何在網(wǎng)上搜索關(guān)于某個(gè)特定主題的額外細(xì)節(jié)。

如今基于Meta AI公開的OPT-175B語言模型創(chuàng)建而成的BlenderBot 3更是將這些能力又向前推進(jìn)了一步，它不僅可以評估從網(wǎng)上獲取的數(shù)據(jù)，還可以評估與它交談的人。與BlenderBot 2相比，BlenderBot 3在對話任務(wù)上的總體評分提高了31%，出現(xiàn)事實(shí)錯(cuò)誤的時(shí)間則減少了47%。

除此之外，BlenderBot 3還吸取了前面幾個(gè)版本的所有技能，如互聯(lián)網(wǎng)搜索、長期記憶、個(gè)性和同理心。為了提高其先進(jìn)性，Meta 還收集了一個(gè)新的公共數(shù)據(jù)集，其中包含超過20,000個(gè)基于1,000多項(xiàng)技能的人機(jī)對話，用來訓(xùn)練BlenderBot 3。

Meta還使用新的安全恢復(fù)技術(shù)擴(kuò)展了現(xiàn)有的最先進(jìn)的對話安全技術(shù)（包括安全分類器、過濾器和單元測試）。借助新技術(shù)，BlenderBot 3嘗試以更有可能促進(jìn)公民對話的方式回應(yīng)有關(guān)具有挑戰(zhàn)性的對話的反饋?；谶@一點(diǎn)，BlenderBot 3的表現(xiàn)能力也比其他部分AI 聊天機(jī)器人要更強(qiáng)一些。

Facebook AI Research（FAIR）的研究工程經(jīng)理Mary Williamson表示，真正的挑戰(zhàn)是建立一個(gè)系統(tǒng)，讓聊天機(jī)器人可以像人類一樣自由自在地對話，未來也將在這方面繼續(xù)推動研究向前發(fā)展。

目前，Meta已將BlenderBot 3公開提供給了美國所有的成年人，讓他們可以與其對話，以幫助其改進(jìn)，也希望不久的將來，所有人都可以體驗(yàn)一番。對此，你期待嗎？

參考鏈接：

https://www.businessinsider.com/meta-ai-chatbot-gives-insults-praise-for-mark-zuckerberg-2022-8

https://www.theverge.com/2022/8/5/23293281/meta-ai-chatbot-blenderbot-3-web-access-research-safety

https://www.engadget.com/meta-unleashes-blender-bot-3-upon-the-internet-its-most-competent-chat-ai-to-date-150021062.html