突發(fā)！ChatGPT被微軟內(nèi)部禁用！
發(fā)布人：傳感器技術(shù)
時(shí)間：2023-11-13
來(lái)源：工程師
發(fā)布文章
加入技術(shù)交流群
掃碼加入
和技術(shù)大咖面對(duì)面交流
海量資料庫(kù)查詢
而又在另一邊，OpenAI最親密盟友微軟內(nèi)部一度緊急禁用，網(wǎng)站上顯示的理由正是：出于安全和數(shù)據(jù)方面的考慮，許多AI工具不再供員工使用。自定制版GPT上線以來(lái)，各路大神分享自己GPTs整活鏈接。結(jié)果有網(wǎng)友一個(gè)不小心竟扒出了其中某個(gè)GPTs背后知識(shí)庫(kù)文件，里面各種科技大廠職級(jí)薪資的數(shù)據(jù)直接曝光……
只需幾句再簡(jiǎn)單不過(guò)的提示詞，GPTs就會(huì)乖巧地如數(shù)上傳。有網(wǎng)友表示：這是新的安全漏洞嗎？不少人開(kāi)始為企業(yè)定制擔(dān)憂。值得注意的是，就連OpenAI最親密盟友微軟，都曾暫時(shí)取消過(guò)對(duì)ChatGPT的內(nèi)部訪問(wèn)。數(shù)據(jù)和提示詞都被泄漏按照之前的說(shuō)法，用戶可深度定制機(jī)器人的身份、語(yǔ)言特征，以及建立自有知識(shí)庫(kù)。只需要在GPT Builder的引導(dǎo)之下用自然語(yǔ)言來(lái)描述，他能自動(dòng)完成除了自有知識(shí)庫(kù)以外的大部分設(shè)置。定制過(guò)后的GPTs可以自己用，也可以將鏈接分享給他人。
但問(wèn)題就出現(xiàn)在這里。一開(kāi)發(fā)者用他們?yōu)長(zhǎng)evels.fyi創(chuàng)建了基本GPT，可分析數(shù)據(jù)可視化，并開(kāi)放鏈接對(duì)外使用。
結(jié)果就被網(wǎng)友發(fā)現(xiàn)只需問(wèn)上幾句，就可以下載文件。一時(shí)間網(wǎng)友們都驚呆了：這應(yīng)該是限制的吧？
但也有人認(rèn)為這不是bug，而是他的功能。文件中的數(shù)據(jù)應(yīng)該是公開(kāi)的。
還有熱心的網(wǎng)友直接給出了解決方案：在設(shè)置時(shí)Uncheck代碼解釋器的能力。
不過(guò)即使沒(méi)被別人下，你上傳的數(shù)據(jù)也會(huì)變成OpenAI護(hù)城河的水。除此之外，還有網(wǎng)友發(fā)現(xiàn)，你的提示詞說(shuō)明文本也可能會(huì)被泄漏出來(lái)。
不過(guò)也有解決方式，那就是在自定義時(shí)就可以明確設(shè)置規(guī)則，然后就可以成功阻止了。
微軟內(nèi)部限制ChatGPT訪問(wèn)亮相3天后，就在昨天，GPTs面向付費(fèi)用戶全量開(kāi)放了。OpenAI官方是在GPTs頁(yè)面準(zhǔn)備了一些定制版機(jī)器人供用戶使用的，比如數(shù)學(xué)導(dǎo)師、烹飪助手、談判專家等。但這遠(yuǎn)遠(yuǎn)滿足不了用戶們的好奇心，不到一天時(shí)間，開(kāi)發(fā)者們已經(jīng)用這個(gè)功能做了很多稀奇古怪的東西。正經(jīng)嚴(yán)肅的，有能幫助人主動(dòng)書(shū)寫(xiě)prompt的、簡(jiǎn)歷修改的。稍微整活的，量子位觀察到有“爹味言論打分”，能幫用戶有力回?fù)粲憛挼腜UA說(shuō)教。再玄學(xué)一點(diǎn)，還有具備諸如MBTI 16人格分析、塔羅牌占卜的等等……
總之，大伙玩兒得不亦樂(lè)乎。但由于現(xiàn)在仍然有3小時(shí)50條的限制，不少網(wǎng)友無(wú)奈感慨，玩GPTs，很容易每日觸發(fā)這個(gè)數(shù)量限制。
不過(guò)也有網(wǎng)友仍持有保留態(tài)度，認(rèn)為這會(huì)像此前ChatGPT出場(chǎng)即巔峰，而后會(huì)逐漸歸于平靜期。
與此同時(shí)，馬斯克旗幟鮮明表達(dá)了對(duì)GPTs的態(tài)度，那就是對(duì)GPTs的不屑 一 顧。他直接引用奧特曼用GPTs手搓Grok的推特，不客氣地把“GPTs”解讀為“GPT-Snore”。
作為另一款大模型Grok的背后老板，一貫嘴炮全開(kāi)的馬斯克如此陰陽(yáng)怪氣，好像并不太稀奇。最令人睜大眼睛的，還得是前天——也就是OpenAI被黑客攻擊的那一天，微軟一度禁止員工使用ChatGPT。是的沒(méi)錯(cuò)，微軟，OpenAI最大合作伙伴、股東，禁止員工訪問(wèn)ChatGPT。據(jù)悉，微軟在其內(nèi)部網(wǎng)站上寫(xiě)道：出于安全和數(shù)據(jù)考慮，員工今后將無(wú)法使用部分AI工具。什么AI工具呢？點(diǎn)名的就是ChatGPT和設(shè)計(jì)網(wǎng)站Canva。而后，ChatGPT在微軟員工的內(nèi)部設(shè)備上被屏蔽。不僅如此，微軟當(dāng)時(shí)還表示，雖然咱確實(shí)投資了OpenAI，但對(duì)于微軟人來(lái)說(shuō)，ChatGPT是第三方工具。員工使用時(shí)應(yīng)當(dāng)慎之又慎，就像大伙兒使用Midjourney等外部AI工具時(shí)一樣。不過(guò)這個(gè)禁止令并沒(méi)有持續(xù)太久。很快，員工對(duì)ChatGPT的訪問(wèn)已經(jīng)恢復(fù)，并且官方聲明稱，這只是一次美麗的誤會(huì)，but還是推薦大家用Bing（doge）。
我們正在測(cè)試LLM的終端控制系統(tǒng)，無(wú)意中面向所有用戶開(kāi)啟了該選項(xiàng)。在發(fā)現(xiàn)錯(cuò)誤后不久，我們恢復(fù)了服務(wù)。> >正如我們之前所說(shuō)，我們鼓勵(lì)員工和客戶使用Bing Chat Enterprise和ChatGPT Enterprise等具有更高級(jí)別隱私和安全保護(hù)的服務(wù)。不知道是不是為了打破外界“貌合神離”的傳言，奧特曼還親自發(fā)了個(gè)推特，證明OpenAI并沒(méi)有因?yàn)檫@個(gè)事件產(chǎn)生心理波動(dòng)，傳言的OpenAI因此禁用Microsoft 365作為回?fù)舾菬o(wú)稽之談。
但這一系列事件說(shuō)來(lái)說(shuō)去，繞不開(kāi)“隱私”“數(shù)據(jù)安全”還是這個(gè)議題。也就是說(shuō)在現(xiàn)在，不僅僅是巨頭、公司發(fā)現(xiàn)使用ChatGPT/GPTs有“內(nèi)部數(shù)據(jù)共享”的隱患，如上文提到的，創(chuàng)業(yè)者、開(kāi)發(fā)者甚至普通用戶，也發(fā)現(xiàn)了這個(gè)問(wèn)題擺在面前。因此新一輪的討論就此如火如荼地展開(kāi)了：如果任何用戶在GPTs上傳的數(shù)據(jù)、文檔等不能保證私有性，該怎么邁出商業(yè)化的下一步呢？
對(duì)于想要打造ChatGPT時(shí)代“App Store”的OpenAI來(lái)說(shuō)，這似乎并不太妙。但一切剛剛開(kāi)始，不妨看看OpenAI的后續(xù)補(bǔ)救措施，讓子彈再飛一會(huì)。
來(lái)源：量子位
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀點(diǎn)，如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。
