AI安全可信護(hù)航計(jì)劃啟動(dòng)！首批31家公司加入

在13日的北京人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展大會(huì)上，國(guó)家工業(yè)信息安全發(fā)展研究中心聯(lián)合北京市門頭溝區(qū)政府、中關(guān)村發(fā)展集團(tuán)、華為公司，共同發(fā)起“人工智能安全可信護(hù)航計(jì)劃”，旨在聯(lián)合有關(guān)單位共同探索人工智能安全可信管理解決方案。

中國(guó)聯(lián)通、奇安信、綠盟科技、山石網(wǎng)科、麒麟軟件、格靈深瞳、軟通動(dòng)力等31家首批伙伴加入，未來(lái)將參與理論研究、標(biāo)準(zhǔn)制定、評(píng)估評(píng)測(cè)等相關(guān)工作。

該計(jì)劃將面向不同行業(yè)和地區(qū)，設(shè)立“生態(tài)發(fā)展中心”，其中北京昇騰人工智能生態(tài)創(chuàng)新中心成為首個(gè)中心，重點(diǎn)面向北京市開(kāi)展人工智能安全可信管理實(shí)踐試點(diǎn)和推廣應(yīng)用工作。

什么是“安全可信”？

根據(jù)公開(kāi)論文定義，安全可信指的是網(wǎng)絡(luò)設(shè)備所具備的安全性能。即在設(shè)備工作的同時(shí)，內(nèi)含的安全部件進(jìn)行動(dòng)態(tài)并行實(shí)時(shí)全方位安全檢驗(yàn)，確保計(jì)算過(guò)程及資源不被破壞和篡改，正確完成計(jì)算任務(wù)。

這是“雙面”人工智能的另一個(gè)切面——AI帶來(lái)技術(shù)便利性的同時(shí)，風(fēng)險(xiǎn)也相伴而生。

以ChatGPT為例，這一聊天機(jī)器“黑馬”一路狂飆爆火之后，其安全可靠問(wèn)題備受關(guān)注，美國(guó)國(guó)會(huì)議員也正考慮是否應(yīng)該對(duì)其加強(qiáng)監(jiān)管，套上“韁繩”。

美國(guó)眾議院科學(xué)委員會(huì)民主黨籍眾議員Ted Lieu日前試著用ChatGPT起草了一項(xiàng)決議，內(nèi)容為國(guó)會(huì)應(yīng)該關(guān)注人工智能，以確保人工智能的開(kāi)發(fā)和部署符合安全和道德等原則，在尊重所有美國(guó)人的權(quán)利和隱私的同時(shí)，其收益能夠廣泛分配。

同樣，積極為其“帶貨”的微軟和亞馬遜允許員工使用ChatGPT，但也禁止員工向ChatGPT分享敏感數(shù)據(jù)，以防后者的輸出包含或出現(xiàn)類似公司機(jī)密信息——這是AI安全問(wèn)題的一類，即獲取數(shù)據(jù)方面的問(wèn)題。

“數(shù)據(jù)投毒”則是這一方面問(wèn)題的另一個(gè)案例。AI算法對(duì)數(shù)據(jù)具有較強(qiáng)依賴性，而“投毒”指在人工AI智能訓(xùn)練數(shù)據(jù)中加入偽裝數(shù)據(jù)、惡意樣本等，導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差。由微軟推出的另一聊天機(jī)器人Tay曾在這一問(wèn)題上“翻車”。彼時(shí)，Tay發(fā)出歧視性和攻擊性言論而被關(guān)閉，主要原因便是對(duì)話數(shù)據(jù)集中被惡意增加不當(dāng)數(shù)據(jù)。

另一類，則是惡意應(yīng)用導(dǎo)致的問(wèn)題。近年來(lái)，通過(guò)深度合成和生成式AI技術(shù)制造虛假音視頻圖像進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為已屢見(jiàn)不鮮。

▌AI安全可信成為全球共識(shí) 海內(nèi)外政策多點(diǎn)開(kāi)花

隨著AI技術(shù)迭代與應(yīng)用規(guī)模擴(kuò)大，發(fā)展安全可信的人工智能正在成為全球共識(shí)。

G20已提出“G20 人工智能原則”，強(qiáng)調(diào)要以人為本、發(fā)展可信人工智能；歐盟和美國(guó)也都將增強(qiáng)用戶信任、發(fā)展可信人工智能放在其人工智能倫理和治理的核心位置。

同時(shí)，我國(guó)網(wǎng)信辦等三部門已出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，其中針對(duì)深度合成技術(shù)服務(wù)提出的要求和管理措施，諸如禁止性要求、標(biāo)識(shí)要求、安全評(píng)估等，亦適用于AIGC。

此前，國(guó)家工業(yè)信息安全發(fā)展研究中心已聯(lián)合華為等，發(fā)布《人工智能算力基礎(chǔ)設(shè)施安全發(fā)展白皮書(shū)》指出，人工智能算力基礎(chǔ)設(shè)施不同于傳統(tǒng)的算力基礎(chǔ)設(shè)施，既是“基礎(chǔ)設(shè)施”又是“人工智能算力”也是“公共設(shè)施”，具有基建屬性、技術(shù)屬性、公共屬性三重屬性。

至于如何推進(jìn)AI安全可信？

北京航空航天大學(xué)劉祥龍教授表示，從技術(shù)上來(lái)看應(yīng)形成從安全性測(cè)試到安全性分析與安全性加固的完整技術(shù)手段，最終形成標(biāo)準(zhǔn)化的測(cè)試流程。未來(lái)的人工智能安全應(yīng)該圍繞從數(shù)據(jù)、算法到系統(tǒng)各個(gè)層次上的全面評(píng)測(cè)，同時(shí)配合一套整體的從硬件到軟件的安全可信計(jì)算環(huán)境。

落實(shí)到具體標(biāo)的上，除去本文開(kāi)頭提到的公司之外，民生證券還建議關(guān)注底層數(shù)據(jù)及算法安全廠商，包括電科網(wǎng)安、吉大正元、中新賽克、浩瀚深度、美亞柏科等。