半月談評(píng)論員 馮維健 落飛麟

2024年2月，陜西警方成功告破一起利用AI換臉技術(shù)實(shí)施的詐騙案件，犯罪分子僅憑十幾分鐘錄音和幾張照片，便偽造出逼真的“領(lǐng)導(dǎo)”視頻，輕易突破傳統(tǒng)安全防線，涉案金額達(dá)186萬(wàn)元。

數(shù)據(jù)顯示，2024年全球發(fā)生的AI風(fēng)險(xiǎn)事件，超過(guò)30%與利用AI深度偽造相關(guān)。黑龍江大學(xué)計(jì)算機(jī)與大數(shù)據(jù)學(xué)院院長(zhǎng)王磊說(shuō)：“掌握十幾分鐘音頻加上幾張照片就能實(shí)現(xiàn)‘換臉’并模仿這個(gè)聲音，現(xiàn)實(shí)中，一個(gè)普通高中生就可以做到。”

現(xiàn)今，人工智能在諸多領(lǐng)域展現(xiàn)出的潛力巨大的“類人”能力，在令行業(yè)振奮的同時(shí)，也引發(fā)更深層次的擔(dān)憂：一旦發(fā)生法律糾紛，責(zé)任如何認(rèn)定?當(dāng)人工智能技術(shù)以指數(shù)級(jí)速度迭代，監(jiān)管如何跟上它的步伐?

2024年8月，歐盟《人工智能法案》正式生效，將AI應(yīng)用按風(fēng)險(xiǎn)等級(jí)分類監(jiān)管;美國(guó)則發(fā)布《人工智能權(quán)利藍(lán)圖》，著手以立法強(qiáng)化技術(shù)倫理框架。當(dāng)我們?yōu)榻衲暌詠?lái)中國(guó)人工智能的巨大進(jìn)步叫好時(shí)，也應(yīng)當(dāng)想一想，該如何給人工智能這匹狂奔的馬駒，拴上法律的韁繩?

直面四大難點(diǎn)

縱觀過(guò)去三個(gè)世紀(jì)人類科技的進(jìn)步史，技術(shù)的革命時(shí)刻也是法治體系的挑戰(zhàn)時(shí)刻。在人工智能風(fēng)起云涌的當(dāng)下，一系列新的挑戰(zhàn)確實(shí)需要我們?cè)谥秩斯ぶ悄芰⒎ㄖ白屑?xì)思量。

在北京市石景山區(qū)首鋼園，觀眾拍攝四足機(jī)器人表演 魏夢(mèng)佳 攝

——技術(shù)迭代的“時(shí)間差”。法律追求穩(wěn)定性，但AI技術(shù)日新月異。2023年ChatGPT引發(fā)的版權(quán)爭(zhēng)議，暴露出現(xiàn)有法律難以預(yù)見(jiàn)技術(shù)演進(jìn)的窘境。對(duì)此，南通大學(xué)法學(xué)院副院長(zhǎng)王曉燕表示，盡管我國(guó)近年來(lái)逐步出臺(tái)了有關(guān)算法備案、大模型備案和倫理審查登記等領(lǐng)域的指導(dǎo)意見(jiàn)，但技術(shù)發(fā)展之快已超出現(xiàn)有法律制度的規(guī)范。在這樣的技術(shù)背景下，如何做到前瞻性立法，以及立法如何隨技術(shù)升級(jí)進(jìn)行動(dòng)態(tài)調(diào)整，需要提出新的思路。

——跨國(guó)治理的“復(fù)雜性”。人工智能安全沒(méi)有國(guó)界，防范風(fēng)險(xiǎn)需要共筑防線。AI技術(shù)具有天然的跨國(guó)屬性，一個(gè)在中國(guó)訓(xùn)練的AI，被境外人員用于制造虛假信息，該適用哪國(guó)法律?一家外企研發(fā)的自動(dòng)駕駛汽車若在中國(guó)出現(xiàn)交通事故，責(zé)任如何追溯?“數(shù)字經(jīng)濟(jì)時(shí)代，數(shù)據(jù)作為關(guān)鍵生產(chǎn)要素，其順暢的跨境流動(dòng)對(duì)于促進(jìn)跨國(guó)企業(yè)全球資源有效整合具有重要意義。”樂(lè)高玩具(上海)有限公司政府事務(wù)負(fù)責(zé)人楊晴紅表示。對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可說(shuō)，如何在現(xiàn)有數(shù)據(jù)安全法的基礎(chǔ)上細(xì)化跨境數(shù)據(jù)規(guī)則，同時(shí)推動(dòng)雙邊或多邊司法協(xié)作，避免管轄權(quán)真空，成為立法中需要考量的問(wèn)題。

——倫理與法律的“銜接難”。2023年9月，科技部等十部門聯(lián)合發(fā)布《科技倫理審查辦法(試行)》，規(guī)定具有輿論社會(huì)動(dòng)員能力和社會(huì)意識(shí)引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)需要開(kāi)展倫理審查復(fù)核。隨著AI倫理審查成為行業(yè)習(xí)慣，相關(guān)倫理原則如何轉(zhuǎn)化為法律條文成為重要課題。例如，“公平”“透明”等抽象倫理要求，需轉(zhuǎn)化為具體的算法透明度標(biāo)準(zhǔn)、數(shù)據(jù)采集規(guī)范，而這無(wú)疑對(duì)立法提出新的要求。同時(shí)，AI立法涉及技術(shù)企業(yè)、用戶、政府等多方訴求，如何確保立法既尊重技術(shù)規(guī)律，又符合公共利益，是對(duì)立法者的考驗(yàn)。

——安全與發(fā)展的“平衡木”。過(guò)度監(jiān)管可能扼殺創(chuàng)新活力。清華大學(xué)教授申衛(wèi)星強(qiáng)調(diào)，人工智能立法尤其要堅(jiān)持安全和發(fā)展并重，二者之間如何協(xié)調(diào)是立法最大的難題之一。北京理工大學(xué)智能科技法律研究中心研究員張心宇也表示，加強(qiáng)人工智能法治保障必須以促進(jìn)社會(huì)整體利益為導(dǎo)向，避免法律規(guī)范不當(dāng)擠壓人工智能發(fā)展的空間。就現(xiàn)實(shí)而言，需要在給予實(shí)驗(yàn)性AI應(yīng)用適當(dāng)容錯(cuò)空間的同時(shí)，完善相關(guān)風(fēng)險(xiǎn)分擔(dān)機(jī)制。這樣既可以降低企業(yè)合規(guī)成本，又能有效促進(jìn)AI健康發(fā)展。

如何做好準(zhǔn)備?

人工智能治理，不是簡(jiǎn)單的“管住”，而是讓技術(shù)在制度的“土壤”里更為茁壯地生長(zhǎng)。對(duì)于接下來(lái)人工智能立法的路線圖，多位專家也表達(dá)了自己的思考。

一科技公司工作人員講解人工智能技術(shù)應(yīng)用于教學(xué) 鄧華 攝

有專家表示，當(dāng)前關(guān)于推動(dòng)人工智能健康發(fā)展的法律條款，散見(jiàn)于網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等法規(guī)中。要想徹底解決“九龍治水”問(wèn)題，推動(dòng)人工智能法治化管理“握指成拳”，作為頂層設(shè)計(jì)，可首先考慮制定人工智能促進(jìn)法，明確AI發(fā)展的基本原則、監(jiān)管框架與促進(jìn)措施，統(tǒng)籌發(fā)展與安全。以這部法律為“地基”，人工智能治理的大廈才好建造。

中國(guó)科學(xué)院院士房建成等專家認(rèn)為，AI技術(shù)的不斷革新對(duì)立法者提出了極高要求，但既懂技術(shù)又懂法律的專業(yè)人才仍十分稀缺。要倡導(dǎo)在法學(xué)學(xué)科基礎(chǔ)上拓寬人工智能等專業(yè)教學(xué)內(nèi)容，重視人工智能與法學(xué)教育的交叉融合，有了具備法學(xué)素養(yǎng)并熟悉人工智能技術(shù)原理的復(fù)合型人才，將人工智能發(fā)展納入法治軌道才不是一句空話。

在具體監(jiān)管實(shí)踐中，有專家提到了“沙盒監(jiān)管”的可行性。它是一種新型的監(jiān)管模式，旨在通過(guò)在特定范圍內(nèi)對(duì)經(jīng)營(yíng)主體實(shí)施包容審慎的監(jiān)管措施，破解傳統(tǒng)監(jiān)管中“一管就死、一放就亂”的困局。目前，我國(guó)已在多地自貿(mào)區(qū)數(shù)據(jù)跨境流動(dòng)監(jiān)管中探索實(shí)行分級(jí)分類的“沙盒監(jiān)管”，接下來(lái)，可以在雄安新區(qū)、深圳等改革前沿地區(qū)開(kāi)展試點(diǎn)，允許地方針對(duì)自動(dòng)駕駛、智慧醫(yī)療等人工智能前沿領(lǐng)域探索“沙盒監(jiān)管”，為人工智能日常治理積累經(jīng)驗(yàn)。