自從生成式人工智能熱潮興起以來，有關數據安全性的爭議就始終不斷。事實證明，即便是“頭部大廠”微軟也有數據泄露的風險。據一家網絡安全公司的最新研究顯示，微軟公司的人工智能研究團隊數月前就曾意外在軟件開發(fā)平臺GitHub上泄露了大量私人數據，其中涵蓋了3萬多條微軟團隊的內部信息。雖然沒有涉及用戶信息，但正如在上周一場以管理人工智能為主題的閉門論壇上特斯拉CEO馬斯克所說，“對我們來說，重要的是要有一個裁判”。

訪問權限設置錯誤

一個小小的設置失誤，導致微軟在近三年的時間里將大量內部數據暴露在外。當地時間9月18日，據網絡安全公司Wiz報告，公司在對云托管數據的泄露問題進行持續(xù)調查時，發(fā)現(xiàn)微軟AI研究團隊在發(fā)布開源數據時意外泄露38TB的隱私數據，其中包含3萬多條員工內部信息。

據了解，導致該次數據泄露的源頭是微軟在GitHub存儲庫中提供了一個屬于微軟云存儲系統(tǒng)Azure Storage的網址鏈接，可以用來下載開源代碼和用于圖像識別的AI模型。然而，由于微軟的AI開發(fā)人員在網址中包含了一個過于寬松的共享訪問簽名（SAS）令牌，此鏈接竟被設置成授予整個存儲賬戶的權限。也就是說，點進該鏈接的任何人都能訪問與之相關的存儲賬戶的全部內容。

更可怕的是，該鏈接給予訪問者的權限不是只能觀看、不能修改的“只讀”，而是“完全控制”，意味著任何人都有可能在整個賬戶中刪除、替換或添加惡意內容。

在受到影響的全部數據中，包括了兩名微軟員工的個人電腦備份，還有用于微軟服務的密碼、秘鑰以及Teams上來自359名微軟員工的超3萬條內部群聊消息。

Wiz表示，這個網址鏈接從2020年就開始暴露數據，直到Wiz發(fā)現(xiàn)該問題并在今年6月22日和微軟分享了研究成果。微軟在兩天后的6月24日撤銷了有問題的SAS令牌，并在今年8月16日完成了對組織內部潛在影響的調查。

對于此事，微軟發(fā)言人表示，微軟已確認沒有用戶數據遭到泄露，也沒有其他內部服務受到威脅。微軟安全響應中心在當日發(fā)布的博客文章中表示，收到Wiz的研究結果之后，他們已經改進了GitHub的秘密掃描服務，該服務能夠監(jiān)控所有公開的開源代碼改動，其中包括那些過于寬松的SAS令牌。

AI安全如何確保

事件再一次引起了對于AI數據安全問題的關注。Wiz的聯(lián)合創(chuàng)始人兼首席技術官阿米·盧特瓦克（Ami Luttwak）指出：“很多開發(fā)團隊都需要處理大規(guī)模的數據，需要與同事共享數據或在公共開源項目上進行合作，像微軟這樣的案例將會變得越來越難以監(jiān)控和避免。”

一位從事IT研發(fā)的工程師也對北京商報記者表示，大模型時代需要跑通的數據更多，人工智能企業(yè)需要收集和利用大量數據來訓練算法模型，由此出現(xiàn)漏洞的概率也就更大。

在2021年，Wiz就曾指出過微軟Azure基礎設施中的一個“超級漏洞”，其開源應用Jupyter Notebook功能中的一系列錯誤配置讓黑客能夠訪問、修改和刪除數千名Azure客戶的數據。隨后，微軟發(fā)布聲明稱該問題已得到解決，并用電子郵件通知了數千名受其影響的云客戶。

在天使投資人、資深人工智能專家郭濤看來，人工智能行業(yè)保護用戶隱私和數據安全需要多方面協(xié)同發(fā)力，一方面，人工智能技術公司需要遵循嚴格的隱私數據保護相關的法律法規(guī)，采取相應的措施和技術手段來確保數據的安全性、完整性和機密性，如匿名化、去標識化等技術來保護用戶因素和數據安全；另一方面，提高數據利用的透明度，向用戶解釋如何收集和使用數據，以及為什么需要這些數據，用戶有權決定是否愿意提供這些數據。

“要有一個裁判”

與此同時，監(jiān)管部門也正在努力解決如何減輕風險。上周，美國商務部長雷蒙多等政府高官在白宮召集AI行業(yè)高管，宣布Adobe、Cohere、IBM、英偉達、Palantir、Salesforce、Scale AI和Stability 8家公司承諾，采取自愿監(jiān)管措施管理AI技術開發(fā)風險，包括在推出前展開安全測試、構建將安全放在首位的系統(tǒng)、為AI生成內容添加數字水印等。

具體來看，上述8家公司承諾：在發(fā)布AI系統(tǒng)前進行內部和外部安全測試、對網絡安全和內部威脅保障措施投資、推進第三方發(fā)現(xiàn)和報告AI系統(tǒng)存在的漏洞等。

此外，8家公司還承諾，對AI生成的內容加上水印以防止虛假信息的傳播，公開報告安全風險和社會風險，開發(fā)有助于解決癌癥預防、氣候變化等社會挑戰(zhàn)的AI系統(tǒng)等。

這8家為第二批承諾管控AI風險的公司。今年7月，已有7家領先的人工智能公司——亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI自愿承諾，將幫助推動AI技術安全且透明地發(fā)展。

當天，馬斯克、微軟公司聯(lián)合創(chuàng)始人比爾·蓋茨和Meta首席執(zhí)行官扎克伯格等科技公司大佬還受邀參加了一場人工智能峰會，商討未來人工智能的監(jiān)管方式。

作為推動人工智能立法的一部分，美國參議院多數黨領袖查克·舒默組織了這次私人論壇。他表示，他問了在場的每個人——包括約20名科技高管、倡導者和懷疑論者——政府是否應該在人工智能的監(jiān)督中發(fā)揮作用，“每個人都舉手了，盡管他們有不同的觀點，”他說。

在國會方面，雖然國會議員也同意需要加強立法，但對于具體行動也一直沒有達成共識。一些國會成員擔心監(jiān)管會“過度”，而另一些議員則認為沒有足夠的監(jiān)管將難以發(fā)現(xiàn)“潛在風險”。

“人工智能出錯的后果是嚴重的，所以我們必須積極主動，而不是被動反應。”馬斯克在離開前表示，需要一個監(jiān)管機構確保企業(yè)采取安全、符合公眾普遍利益的行動。“對我們來說，重要的是要有一個裁判。”

北京商報記者 方彬楠 趙天舒/文 新華社/圖