Nature調(diào)查：1600余名科學家，僅4%認為AI當前是“必需品”

當被要求從可能的生成式 AI 負面影響列表中選擇時，68% 的研究人員擔心信息傳播不準確，另有 68% 的人認為這將使抄襲更容易，檢測更難，66% 的人擔心會引入錯誤或不準確的內(nèi)容到研究論文中。

此外，受訪者還提到，如果用于醫(yī)學診斷的 AI 工具是基于具有歷史偏見的數(shù)據(jù)進行訓練，他們擔心會出現(xiàn)偽造研究、虛假信息和偏見。科學家們已經(jīng)看到了這方面的證據(jù)：例如，美國的一個團隊報告說，當他們要求 GPT-4 為臨床案例研究提供診斷和治療建議時，答案會根據(jù)患者的種族或性別而變化。

英國布里斯托爾大學攻讀醫(yī)學 AI 博士學位的軟件工程師和前企業(yè)家 Isabella Degen 表示：“大型語言模型（LLMs）被濫用，存在不準確和虛假但聽起來專業(yè)的結(jié)果。在我看來，我們對于正確使用和濫用之間的界限認識還不夠清晰?！?/p>

研究人員認為，最明顯的好處是 LLMs 可以幫助非英語母語的研究人員，改進他們研究論文的語法和風格，總結(jié)或翻譯其他工作。新加坡國立大學材料科學家 Kedar Hippalgaonkar 指出，“盡管存在一小部分惡意玩家，但學術(shù)界可以展示如何善用這些工具。”

另外，一些科學家對 LLMs 的輸出并不滿意。一位使用 LLMs 來幫助編輯論文的研究人員寫道：“ChatGPT 好像復制了人類的所有不良寫作習慣。”芬蘭圖爾庫大學的物理學家 Johannes Niskanen 則表示：“如果我們開始使用 AI 來閱讀和撰寫文章，科學很快就會從‘由人類為人類（for humans by humans）’轉(zhuǎn)變?yōu)椤蓹C器為機器（‘for machines by machines）’。”

AI 發(fā)展面臨困境

在這項調(diào)查中，大約一半的科學家表示他們在開發(fā)或使用 AI 方面遇到了阻礙。直接研究 AI 的研究人員最擔心的問題包括計算資源不足、為其工作提供的融資不足以及獲取運行 AI 所需的高質(zhì)量數(shù)據(jù)不足。而那些在其他領(lǐng)域工作但在研究中使用 AI 的人則更擔心缺乏熟練的科學家和訓練資源，此外，他們還提到了安全和隱私方面的考慮。然而，不使用 AI 的研究人員表示他們不需要 AI 或認為它不實用，或者缺乏研究 AI 的經(jīng)驗和時間。

調(diào)查中出現(xiàn)的另一個主題是商業(yè)公司主導了 AI 的計算資源和 AI 工具的所有權(quán)。研究 AI 的科學家中有 23% 表示他們與開發(fā)這些工具的公司合作或在這些公司工作（其中最常提到的是谷歌和微軟），而使用 AI 的人中只有 7% 這樣做?？傮w而言，略多于一半的受訪者認為，使用 AI 的研究人員與這些公司的科學家合作是非常重要或有些重要的。

此前，已有研究人員多次警告稱，科學中對 AI 工具的天真使用可能導致錯誤、虛假陽性和無法重現(xiàn)的研究結(jié)果，從而潛在地浪費時間和精力。一些科學家表示，他們擔心使用 AI 的論文中存在質(zhì)量不佳的研究。

堪薩斯州立大學曼哈頓分校的計算機科學家 Lior Shamir 表示，“機器學習有時可能有用，但 AI 引發(fā)的問題比幫助多?？茖W家在不了解自己在做什么的情況下使用 AI，可能會導致虛假的發(fā)現(xiàn)。”

當問及期刊編輯和同行評審人是否能夠充分審查使用 AI 的論文時，受訪者意見不一。在那些使用 AI 進行工作但不直接開發(fā) AI 的科學家中，大約一半表示不知道， 1/4 認為審查是充分的，1/4 認為不充分。直接開發(fā) AI 的人傾向于對編輯和審查過程持更積極的看法。

另外，《自然》還詢問了受訪者對于 AI 在社會的 7 種潛在影響的擔憂程度，2/3 的人表示他們對此非常擔憂或很擔憂。自動化 AI 武器和 AI 輔助監(jiān)視也高居榜首，最不令人擔憂的是 AI 可能對人類構(gòu)成生存威脅的想法。