AI安全-認知與對抗系列

需求背景

隨著新一代信息技術(shù)的快速發(fā)展，深度合成、AIGC等技術(shù)作為人工智能領(lǐng)域的新應(yīng)用正在快速普及?；谏疃葘W習的DeepFake類造假技術(shù)（如視頻換臉、聲音偽造）的逐步成熟，導致造假的技術(shù)門檻和成本逐步降低；AIGC技術(shù)的進步也加劇了AI生成內(nèi)容技術(shù)被濫用的風險。深度合成及AIGC等新技術(shù)的濫用將造成大量通過AI生成的虛假的、具備政治立場的、誘導性的文本、圖片及音視頻被制造出來，勢必對社會認知、知識產(chǎn)權(quán)、網(wǎng)絡(luò)安全、國防安全、社會安全等帶來嚴重威脅和重大挑戰(zhàn)。

在政策法規(guī)方面，為規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成使用以及生成式人工智能生成數(shù)據(jù)的有效管理，促進互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進網(wǎng)絡(luò)空間治理、維護社會公平穩(wěn)定發(fā)展，國家互聯(lián)網(wǎng)信息辦公室協(xié)同相關(guān)部門分別發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》以及《生成式人工智能服務(wù)管理辦法（征求意見稿）》。

在技術(shù)訴求方面，深度偽造及AIGC生成內(nèi)容的精準檢測問題亟待解決，為國家相關(guān)部門對這些技術(shù)濫用的監(jiān)管與治理提供有力抓手。