半月談評論員 馮維健 落飛麟

2024年2月，陜西警方成功告破一起利用AI換臉技術實施的詐騙案件，犯罪分子僅憑十幾分鐘錄音和幾張照片，便偽造出逼真的“領導”視頻，輕易突破傳統安全防線，涉案金額達186萬元。

數據顯示，2024年全球發生的AI風險事件，超過30%與利用AI深度偽造相關。黑龍江大學計算機與大數據學院院長王磊說：“掌握十幾分鐘音頻加上幾張照片就能實現‘換臉’并模仿這個聲音，現實中，一個普通高中生就可以做到。”

現今，人工智能在諸多領域展現出的潛力巨大的“類人”能力，在令行業振奮的同時，也引發更深層次的擔憂：一旦發生法律糾紛，責任如何認定?當人工智能技術以指數級速度迭代，監管如何跟上它的步伐?

2024年8月，歐盟《人工智能法案》正式生效，將AI應用按風險等級分類監管;美國則發布《人工智能權利藍圖》，著手以立法強化技術倫理框架。當我們為今年以來中國人工智能的巨大進步叫好時，也應當想一想，該如何給人工智能這匹狂奔的馬駒，拴上法律的韁繩?

直面四大難點

縱觀過去三個世紀人類科技的進步史，技術的革命時刻也是法治體系的挑戰時刻。在人工智能風起云涌的當下，一系列新的挑戰確實需要我們在著手人工智能立法之前仔細思量。

在北京市石景山區首鋼園，觀眾拍攝四足機器人表演 魏夢佳 攝

——技術迭代的“時間差”。法律追求穩定性，但AI技術日新月異。2023年ChatGPT引發的版權爭議，暴露出現有法律難以預見技術演進的窘境。對此，南通大學法學院副院長王曉燕表示，盡管我國近年來逐步出臺了有關算法備案、大模型備案和倫理審查登記等領域的指導意見，但技術發展之快已超出現有法律制度的規范。在這樣的技術背景下，如何做到前瞻性立法，以及立法如何隨技術升級進行動態調整，需要提出新的思路。

——跨國治理的“復雜性”。人工智能安全沒有國界，防范風險需要共筑防線。AI技術具有天然的跨國屬性，一個在中國訓練的AI，被境外人員用于制造虛假信息，該適用哪國法律?一家外企研發的自動駕駛汽車若在中國出現交通事故，責任如何追溯?“數字經濟時代，數據作為關鍵生產要素，其順暢的跨境流動對于促進跨國企業全球資源有效整合具有重要意義。”樂高玩具(上海)有限公司政府事務負責人楊晴紅表示。對外經濟貿易大學數字經濟與法律創新研究中心主任許可說，如何在現有數據安全法的基礎上細化跨境數據規則，同時推動雙邊或多邊司法協作，避免管轄權真空，成為立法中需要考量的問題。

——倫理與法律的“銜接難”。2023年9月，科技部等十部門聯合發布《科技倫理審查辦法(試行)》，規定具有輿論社會動員能力和社會意識引導能力的算法模型、應用程序及系統的研發需要開展倫理審查復核。隨著AI倫理審查成為行業習慣，相關倫理原則如何轉化為法律條文成為重要課題。例如，“公平”“透明”等抽象倫理要求，需轉化為具體的算法透明度標準、數據采集規范，而這無疑對立法提出新的要求。同時，AI立法涉及技術企業、用戶、政府等多方訴求，如何確保立法既尊重技術規律，又符合公共利益，是對立法者的考驗。

——安全與發展的“平衡木”。過度監管可能扼殺創新活力。清華大學教授申衛星強調，人工智能立法尤其要堅持安全和發展并重，二者之間如何協調是立法最大的難題之一。北京理工大學智能科技法律研究中心研究員張心宇也表示，加強人工智能法治保障必須以促進社會整體利益為導向，避免法律規范不當擠壓人工智能發展的空間。就現實而言，需要在給予實驗性AI應用適當容錯空間的同時，完善相關風險分擔機制。這樣既可以降低企業合規成本，又能有效促進AI健康發展。

如何做好準備?

人工智能治理，不是簡單的“管住”，而是讓技術在制度的“土壤”里更為茁壯地生長。對于接下來人工智能立法的路線圖，多位專家也表達了自己的思考。

一科技公司工作人員講解人工智能技術應用于教學 鄧華 攝

有專家表示，當前關于推動人工智能健康發展的法律條款，散見于網絡安全法、數據安全法等法規中。要想徹底解決“九龍治水”問題，推動人工智能法治化管理“握指成拳”，作為頂層設計，可首先考慮制定人工智能促進法，明確AI發展的基本原則、監管框架與促進措施，統籌發展與安全。以這部法律為“地基”，人工智能治理的大廈才好建造。

中國科學院院士房建成等專家認為，AI技術的不斷革新對立法者提出了極高要求，但既懂技術又懂法律的專業人才仍十分稀缺。要倡導在法學學科基礎上拓寬人工智能等專業教學內容，重視人工智能與法學教育的交叉融合，有了具備法學素養并熟悉人工智能技術原理的復合型人才，將人工智能發展納入法治軌道才不是一句空話。

在具體監管實踐中，有專家提到了“沙盒監管”的可行性。它是一種新型的監管模式，旨在通過在特定范圍內對經營主體實施包容審慎的監管措施，破解傳統監管中“一管就死、一放就亂”的困局。目前，我國已在多地自貿區數據跨境流動監管中探索實行分級分類的“沙盒監管”，接下來，可以在雄安新區、深圳等改革前沿地區開展試點，允許地方針對自動駕駛、智慧醫療等人工智能前沿領域探索“沙盒監管”，為人工智能日常治理積累經驗。