常 晉

重視AI安全，不是給這輛疾馳向未來的列車套上枷鎖，而是鋪平軌道，讓其沿著健康可持續(xù)的方向，跑得更快、更穩(wěn)

人工智能浪潮奔涌向前，帶來前所未有的發(fā)展機(jī)遇，也帶來不容忽視的風(fēng)險(xiǎn)挑戰(zhàn)。“聲音克隆”導(dǎo)致電信詐騙防不勝防，“換臉視頻”引發(fā)的造謠誹謗時(shí)有出現(xiàn)，“AI幻覺”讓生成內(nèi)容真假難辨……今天，技術(shù)的“雙刃劍”效應(yīng)愈發(fā)具象化。經(jīng)濟(jì)合作與發(fā)展組織數(shù)據(jù)顯示，2024年AI風(fēng)險(xiǎn)事件總數(shù)比2022年增加了約21.8倍，并呈快速發(fā)展態(tài)勢(shì)。

有人認(rèn)為，當(dāng)下正值A(chǔ)I搶位發(fā)展關(guān)鍵期，不應(yīng)做過多限制;有人則覺得，技術(shù)問題會(huì)隨發(fā)展自行得到解決，不必過早干涉。其實(shí)不然。要看到，一方面，“先放手后治理”，可能讓“小風(fēng)險(xiǎn)”逐步疊加，變?yōu)?ldquo;大問題”，治理代價(jià)會(huì)更大;另一方面，規(guī)范并不等于“設(shè)限”，如果放任技術(shù)沿著有違公序良俗、有悖產(chǎn)業(yè)規(guī)律的方向狂奔，有可能導(dǎo)致錯(cuò)失發(fā)展良機(jī)。重視AI安全，不是給這輛疾馳向未來的列車套上枷鎖，而是鋪平軌道，讓其沿著健康可持續(xù)的方向，跑得更快、更穩(wěn)。

習(xí)近平總書記指出：“要把握人工智能發(fā)展趨勢(shì)和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，構(gòu)建技術(shù)監(jiān)測(cè)、風(fēng)險(xiǎn)預(yù)警、應(yīng)急響應(yīng)體系，確保人工智能安全、可靠、可控。”落實(shí)好這一重要要求，才能平衡技術(shù)發(fā)展與安全，推動(dòng)人工智能更好造福社會(huì)。

技術(shù)每前進(jìn)一步，治理就要跟進(jìn)一步。時(shí)時(shí)有邊界，技術(shù)方能在合理框架內(nèi)有序前行，不越界;規(guī)矩跟得上，技術(shù)才會(huì)在正確軌道上穩(wěn)健發(fā)展，不逾矩。技術(shù)發(fā)展的歷程，也應(yīng)是政策法規(guī)不斷完善的過程。

持續(xù)織密安全防護(hù)網(wǎng)，既要為發(fā)展劃定紅線，也要為創(chuàng)新留足空間。從發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，實(shí)行包容審慎和分類分級(jí)監(jiān)管;到公布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，要求給相關(guān)AI內(nèi)容“進(jìn)行顯著標(biāo)識(shí)”;再到印發(fā)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，推進(jìn)從生成到傳播全鏈條治理……近年來，以網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等為依據(jù)，AI領(lǐng)域的政策文件不斷出臺(tái)，推動(dòng)人工智能治理沿著法治軌道向前邁進(jìn)。始終跟隨技術(shù)前進(jìn)的步伐動(dòng)態(tài)完善政策法規(guī)，方能實(shí)現(xiàn)促進(jìn)發(fā)展和依法管理的有機(jī)統(tǒng)一。

企業(yè)是推動(dòng)人工智能發(fā)展的重要力量，也是直面用戶的第一道安全防線，必須擔(dān)負(fù)起主體責(zé)任。人工智能技術(shù)日新月異，但無論形勢(shì)如何變化，情況如何復(fù)雜，“技術(shù)向善”應(yīng)始終是企業(yè)追求的原則。以生成式人工智能為例，騰訊宣布，對(duì)違規(guī)“AI洗稿”發(fā)文行為的主體進(jìn)行限制和清理;抖音明確，對(duì)不當(dāng)利用AI生成虛擬人物的內(nèi)容嚴(yán)格處罰;今日頭條披露，2024年處理低質(zhì)AI內(nèi)容超93萬條。企業(yè)“立規(guī)矩、明邊界”，既有效防范了風(fēng)險(xiǎn)，也促進(jìn)了生成式人工智能健康發(fā)展。企業(yè)增強(qiáng)責(zé)任感，不斷擰緊“安全閥”、系緊“安全帶”，確保技術(shù)進(jìn)步服務(wù)于人、造福于人，才能在激烈市場(chǎng)競(jìng)爭(zhēng)中贏得信任和支持。

發(fā)展的問題要靠發(fā)展來解決。以技術(shù)對(duì)技術(shù)，以技術(shù)管技術(shù)，才能真正筑牢安全的底線。針對(duì)AI造假，合合信息推出新型檢測(cè)技術(shù)，可捕捉圖像篡改過程中留下的細(xì)微痕跡，慧眼辨?zhèn)?面向網(wǎng)絡(luò)詐騙，浙江一團(tuán)隊(duì)開發(fā)“電子標(biāo)識(shí)”，嵌入的音視頻若被用于AI加工，就會(huì)觸發(fā)“引信”，破壞生成后的內(nèi)容;奇富科技研發(fā)智能風(fēng)控系統(tǒng)，2024年發(fā)布AI反詐提醒13.8萬次，勸阻潛在被騙者超2.9萬人。善用“技防”，以技術(shù)之盾抵御技術(shù)之矛，“通過魔法打敗魔法”，安全防護(hù)會(huì)更及時(shí)、更智能、更高效。

在規(guī)范中釋放活力，在創(chuàng)新中筑牢防線，這是保障人民群眾合法權(quán)益的必需，也是推動(dòng)我國(guó)人工智能健康有序發(fā)展的必然。

標(biāo)簽：