北京商報(bào)訊（記者 魏蔚）9月6日，由中國(guó)圖象圖形學(xué)學(xué)會(huì)、螞蟻集團(tuán)、云安全聯(lián)盟（CSA）大中華區(qū)聯(lián)合主辦的“全球AI攻防挑戰(zhàn)賽”正式啟動(dòng)。

大賽設(shè)置了“攻擊”與“防守”兩大賽道，分別聚焦大模型自身安全和大模型生成內(nèi)容的防偽檢測(cè)及大模型濫用風(fēng)險(xiǎn)檢測(cè)，涵蓋機(jī)器學(xué)習(xí)、圖像處理與計(jì)算機(jī)視覺(jué)、數(shù)據(jù)處理等多個(gè)算法領(lǐng)域的考點(diǎn)。

“攻擊賽道”聚焦于文生圖大模型的實(shí)際應(yīng)用風(fēng)險(xiǎn)問(wèn)題。參賽選手可通過(guò)目標(biāo)劫持、情景帶入、邏輯嵌套等多樣化的動(dòng)態(tài)攻擊誘導(dǎo)技術(shù)，誘發(fā)大模型輸出風(fēng)險(xiǎn)圖像。“防守賽道”聚焦于AI核身中的金融場(chǎng)景憑證篡改檢測(cè)，以應(yīng)對(duì)日益嚴(yán)峻的Deepfake深度偽造及AIGC假證風(fēng)險(xiǎn)。