“一名戴帽子的小男孩被壓在倒塌的廢墟下，全身都是塵土。”這張AI“騙照”，因?yàn)榕湮娜湛t地震等關(guān)鍵詞讓人記憶猶新。

近日，一些網(wǎng)友為了流量，利用AI技術(shù)生成“災(zāi)區(qū)”群眾被埋、房屋坍塌等虛假照片進(jìn)行發(fā)布，造成大眾誤解。

盡管平臺(tái)給出提示，該圖片疑似使用AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別。但這張圖片借由人們對(duì)重大災(zāi)難事件的關(guān)切，被多個(gè)賬戶轉(zhuǎn)發(fā)，很快在平臺(tái)大面積傳播，很多網(wǎng)友在留言區(qū)關(guān)注男孩的生命安全。

如此造假，并非個(gè)例。不少短視頻博主都發(fā)布了AI生成的災(zāi)區(qū)圖片，以假亂真博取流量。

人們關(guān)注災(zāi)情，需要的是真實(shí)、準(zhǔn)確、及時(shí)的信息，而不是假圖、假視頻、假信息。此類虛假圖片不僅抓住了重大事件，還刻意聚焦兒童等弱勢(shì)群體，引起公眾矚目。

如此矚目一旦產(chǎn)生聚合效應(yīng)，后果不容小覷。一方面淆亂救援者對(duì)災(zāi)情之研判與施救，很可能對(duì)救援工作產(chǎn)生誤導(dǎo)，浪費(fèi)寶貴的救援資源。

另一方面，無論是有心為之還是無心之過，不僅消費(fèi)公眾情感，還擾亂公共秩序。有的AI造假圖，隨意將“災(zāi)區(qū)”移花接木，很容易引起社會(huì)恐慌情緒。

如今，AI應(yīng)用已經(jīng)深入到普通人生活工作，越是高頻次高滲透，越要謹(jǐn)慎安全、合規(guī)守法。不能讓AI謠言、AI假圖之類的不實(shí)信息來渾水摸魚。

治理AI造假，在技術(shù)愈加完善、生成內(nèi)容大幅增加的背景下，給各方提出了更高的要求。

根據(jù)我國治安管理處罰法規(guī)定，發(fā)布者編造虛假險(xiǎn)情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重?cái)_亂社會(huì)秩序，可能會(huì)面臨嚴(yán)重刑事責(zé)任。

面對(duì)虛假信息與真實(shí)信息共存、交融的局面，監(jiān)管必須層層加碼。嚴(yán)懲惡意造假博取流量，提高其違法成本，延長“禁言”期限，設(shè)置黑名單制度。

平臺(tái)監(jiān)管顧后也要“瞻前”，很多信息在發(fā)出后面對(duì)審核，實(shí)則錯(cuò)過了糾錯(cuò)環(huán)節(jié)，審核滯后等于間接給了轉(zhuǎn)發(fā)更多時(shí)間。

鑒于此，平臺(tái)應(yīng)在重大事件面前完善審核時(shí)效、制度、技術(shù)等，對(duì)用戶發(fā)布內(nèi)容進(jìn)行有效甄別，對(duì)于疑似AI生成內(nèi)容，及時(shí)進(jìn)行標(biāo)注、處理，主動(dòng)出手干預(yù)。

在真假信息大爆炸的時(shí)代，公眾也要提升辨別能力。一些AI圖片，經(jīng)不起仔細(xì)推敲，往往非常具有視覺沖擊力。在按下轉(zhuǎn)發(fā)鍵之前，一定要仔細(xì)甄別信息來源與真實(shí)性。

同時(shí)，對(duì)于明顯造假的不實(shí)內(nèi)容，積極使用平臺(tái)設(shè)置的舉報(bào)機(jī)制，確保有限的注意力留在真正需要的地方。

北京商報(bào)評(píng)論員 陶鳳