AI狂奔，安全監(jiān)管莫氣喘

半月談評論員 杜康

2023年，ChatGPT聊天機器人程序火出圈，越來越多的人開始對人工智能(AI)的功能和使用產(chǎn)生興趣。今年初，Sora一段“文生視頻”再次爆火，通過一段文字描述，AI可以生成60秒鐘的高清視頻。人工智能的能力正在不斷突破人們的想象。

然而，技術大爆發(fā)永遠是一把雙刃劍。不少科學家擔心：在不久的未來，人工智能技術會超越人類的智慧，甚至會失控造成嚴重后果。他們呼吁，應該把防范人工智能帶來的風險作為全球優(yōu)先事項。

正如這些科學家所擔心的那樣，隨著生成式人工智能技術的發(fā)展和普及，技術門檻大幅降低，為不法分子提供了機會。2024年6月，公安部網(wǎng)安局披露了多起涉及人工智能技術的深度偽造典型案例。其中一起案件為犯罪嫌疑人白某某利用人工智能軟件，對被害人的圖片進行所謂的“一鍵去衣”處理，批量生成了近7000張淫穢圖片并通過網(wǎng)絡進行販賣。

目前人工智能帶來的威脅大致可分為數(shù)據(jù)隱私與安全、虛假信息與虛假內(nèi)容傳播、知識產(chǎn)權侵權、模型偏見與歧視、安全漏洞與攻擊等幾類。以數(shù)據(jù)隱私與安全為例，生成式人工智能模型通常需要大量的數(shù)據(jù)進行訓練，這些數(shù)據(jù)可能包括個人隱私信息，如醫(yī)療記錄、個人照片、社交媒體內(nèi)容等。這些數(shù)據(jù)一旦泄露或被不當使用，可能導致隱私泄露、身份盜竊等問題。

除了這些可以明顯感知到的風險，未來，還可能有更多“未知風險”，乃至技術失控風險。面對AI的一路狂奔，應從法律、技術、倫理等多方面設置“安全閥門”，及時防范人工智能帶來的風險。

在位于安徽省蕪湖市的“中國視谷”展廳，工作人員為參觀者介紹一款智能焊接機器人 肖本祥 攝

在法律層面，我國已經(jīng)先后出臺了系列法律法規(guī)，包括《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》《科技倫理審查辦法(試行)》《人工智能生成合成內(nèi)容標識辦法(征求意見稿)》《生成式人工智能服務安全基本要求(征求意見稿)》《生成式人工智能數(shù)據(jù)標注安全規(guī)范(征求意見稿)》等規(guī)章、標準或草案。

在上述規(guī)章標準的基礎上，我國近年逐步建立起算法備案、大模型備案和倫理審查登記等制度，作為AI安全治理的主要抓手。未來，還需通過完善相關法規(guī)，加強對AI生成技術的約束和規(guī)范，督促服務提供者和網(wǎng)絡平臺承擔起應有的法律責任，為AI生成內(nèi)容添加顯著提示標識，禁止生成和發(fā)布涉及違法違規(guī)、侵權欺詐的內(nèi)容，從根源上消除可能造成的危害和不良影響。

人工智能這項技術的特殊性在于，其存在脫離人類控制等極端風險，因此，除了政策法規(guī)監(jiān)管之外，安全技術的發(fā)展是讓AI不脫軌的另一項重要保障。

無論是從研究的體系化程度、人才密集度、商業(yè)驅動力、算力的投入度等方面來看，AI模型安全能力方面的提升，還遠遠落后于性能的提升。所以，技術層面上，要加大對AI安全方面的投入，強化數(shù)據(jù)安全、隱私保護等技術的研發(fā)，加強對人工智能算法與模型的可溯源研究和審查評估研究，運用技術手段反制和鑒別人工智能所生成的內(nèi)容，努力打造安全可信的人工智能。

在倫理層面，要把嚴格的倫理規(guī)范貫穿技術研發(fā)全過程?？萍紓惱硎情_展科學研究、技術開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范，人工智能技術的發(fā)展需要遵循倫理先行、敏捷治理的要求，加強倫理風險預警與跟蹤研判，及時動態(tài)調整治理方式和倫理規(guī)范，以實現(xiàn)負責任的創(chuàng)新。人工智能技術研發(fā)人員要堅守科技倫理底線，發(fā)現(xiàn)違背科技倫理要求的行為，要主動報告、堅決抵制。

人工智能的未來充滿不確定性。面對人工智能帶來的風險，我們要保持理性和審慎的態(tài)度，既充分發(fā)揮人工智能的優(yōu)勢，又最大限度地減少其可能帶來的負面影響，讓人工智能成為推動人類社會發(fā)展的強大動力。