近日，中央網(wǎng)信辦向社會發(fā)布《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標識方法》國家標準的征求意見稿，這則消息迅速引起網(wǎng)友廣泛關(guān)注。有媒體認為，這一文件標志著我國在人工智能內(nèi)容生成技術(shù)及其應(yīng)用方面的規(guī)范化管理向前邁出了重要一步，也為數(shù)字經(jīng)濟和信息安全的協(xié)調(diào)發(fā)展奠定了基礎(chǔ)。

2024 年被眾多業(yè)內(nèi)人士、研究機構(gòu)和市場觀察者稱為 “AI元年”。我們也明顯感覺到，這一年，人工智能技術(shù)在諸多方面達到了一個新的高度，其影響深遠地滲透到了各行各業(yè)。但是，人工智能技術(shù)的飛速普及與應(yīng)用又是一把雙刃劍。一方面，AI技術(shù)為各行各業(yè)帶來了創(chuàng)新動力，推動了生產(chǎn)力的提升；但另一方面，隨著AI生成合成內(nèi)容的廣泛應(yīng)用，網(wǎng)絡(luò)內(nèi)容的真實性和安全性也面臨著前所未有的挑戰(zhàn)。

比如，在商業(yè)活動中，一些不法分子利用AI編造誤導(dǎo)性商業(yè)信息。去年12月，有網(wǎng)民利用AI工具專門制造“廣州即將成為全國首個限制外賣配送的城市”的謠言，并進行引流牟利。該謠言引發(fā)了不小的震動，影響了廣州多家外賣配送企業(yè)的正常運作、數(shù)以萬計的外賣騎手工作以及成百上千家餐飲和商戶的日常經(jīng)營。

還有利用AI技術(shù)編造虛假新聞?wù)`導(dǎo)公眾。河南鶴壁網(wǎng)民戶某為博眼球、蹭流量，在網(wǎng)上利用AI拼圖技術(shù)生成直升機飛躍麥田的圖片，并配文“省領(lǐng)導(dǎo)XXX到?？h視察小麥倒伏情況”，編造虛假新聞，引發(fā)網(wǎng)民關(guān)注，擾亂公共秩序。有網(wǎng)民為博取流量，對網(wǎng)上看到的一篇關(guān)于“小孩偷鉛筆”內(nèi)容的文章，通過AI軟件生成視頻，編造為茂名市下轄某縣級市發(fā)生的案件，并在三個網(wǎng)絡(luò)社交短視頻平臺發(fā)布傳播，造成惡劣影響。

而更多的是遍布在各個網(wǎng)絡(luò)平臺的虛假文章，如江西南昌的一個MCN機構(gòu)利用具有語音交互功能的AI軟件，輸入關(guān)鍵詞自動收集網(wǎng)絡(luò)上的信息，生成幾百到上千字的文章，并配上虛假圖片。這些虛假文章被廣泛傳播于多個網(wǎng)絡(luò)平臺，最高產(chǎn)時一天能達到4000至7000篇。這些文章內(nèi)容看似信息豐富，實際上卻是捏造的，騙取公眾的流量，甚至欺騙公眾的感情。

不少網(wǎng)友感嘆，現(xiàn)在網(wǎng)絡(luò)平臺上充斥著這類紛繁雜亂真假莫辨的信息。這不僅會影響信息的正常傳播和交流，有時甚至?xí)l(fā)公眾恐慌尤其是涉及到安全、健康、災(zāi)害等方面的虛假信息，可能會導(dǎo)致一些社會公眾的不理智行為，影響社會的正常秩序。

因此，如何從國家層面立法和規(guī)范這種AI合成信息，顯然是勢在必行，制定《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標識方法》也是恰逢其時。

制定該標識方法可以明確不同場景下、不同類型內(nèi)容的標識要求，為行業(yè)提供具體的操作指南，規(guī)范行業(yè)發(fā)展。例如，對于文本、音頻、視頻等不同形式的內(nèi)容，規(guī)定其顯式標識和隱式標識的具體方式和位置等，避免企業(yè)在實施過程中出現(xiàn)標識不明顯、不規(guī)范等問題。

對于用戶來說，在使用人工智能生成合成內(nèi)容時，往往對內(nèi)容的真實性和可靠性存在疑慮。一旦有了明確的標識方法，就可以讓用戶清楚地知道哪些內(nèi)容是人工智能生成的，哪些是真實的人類創(chuàng)作，增強用戶對人工智能技術(shù)的理解，促進人工智能技術(shù)的良性發(fā)展。

總的來說，《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標識方法》的出臺，是我國在人工智能管理領(lǐng)域邁出的重要一步。這將不僅促進行業(yè)的健康發(fā)展，還有助于提升公眾的自我保護能力，抵御網(wǎng)絡(luò)謠言及虛假信息的侵擾，讓我們的網(wǎng)絡(luò)空間更加清朗。

詳情請見：https://review.jschina.com.cn/tingjian/202409/t20240919_3462648.shtml