智道 欄目主持人：於興中

如果將立法意圖、立法進(jìn)展和執(zhí)法進(jìn)展一同納入分析，不難發(fā)現(xiàn)，這是一部發(fā)展明確優(yōu)于安全、對(duì)競(jìng)爭(zhēng)力影響有限的立法

□ 朱悅

歐盟《人工智能法》將于今年8月1日生效。就像對(duì)歐盟其他數(shù)字立法的批評(píng)一樣，國(guó)內(nèi)外多有《人工智能法》主張安全先于發(fā)展、阻礙前沿技術(shù)創(chuàng)新、損害歐盟競(jìng)爭(zhēng)力的觀點(diǎn)。這些觀點(diǎn)常常存在兩點(diǎn)問(wèn)題：解釋法律文本時(shí)沒(méi)有充分考慮立法意圖，推演法律適用時(shí)不了解后續(xù)立法進(jìn)展。如果將立法意圖、立法進(jìn)展和執(zhí)法進(jìn)展一同納入分析，不難發(fā)現(xiàn)，這是一部發(fā)展明確優(yōu)于安全、對(duì)競(jìng)爭(zhēng)力影響有限的立法。

發(fā)展先于安全體現(xiàn)在法律文本中

結(jié)合《人工智能法》的歷次醞釀、審議、談判和抄清文件，特別是3次政治談判以及談判前后形成的清晰反映立法意圖的文件，可以從六個(gè)層面說(shuō)明為何發(fā)展先于安全的理念清晰地體現(xiàn)在這部立法的文本當(dāng)中：

一是適用范圍的除外條款。其中三類(lèi)條款體現(xiàn)出鮮明的發(fā)展導(dǎo)向：科學(xué)研究除外、開(kāi)源除外和個(gè)人非職業(yè)使用除外?？茖W(xué)研究除外對(duì)相當(dāng)比例的人工智能豁免了法律適用。對(duì)于其中一部分人工智能，這一豁免可以進(jìn)一步拓展到技術(shù)的原型。如果再與開(kāi)源除外結(jié)合，非商業(yè)場(chǎng)景中的人工智能基本無(wú)需為遵守《人工智能法》而煩惱。個(gè)人非職業(yè)使用的除外使得個(gè)體用戶(hù)面臨的法律風(fēng)險(xiǎn)也相當(dāng)有限。

二是為禁止性的人工智能實(shí)踐附加了多項(xiàng)條件。通過(guò)細(xì)讀早期版本、最終版本和談判紀(jì)要，可以看到禁止范圍實(shí)際是相當(dāng)有限的。

三是從四個(gè)方面降低高風(fēng)險(xiǎn)人工智能的合規(guī)負(fù)擔(dān)。首先，賦予企業(yè)四個(gè)排除條款，可以由此排除相當(dāng)一部分高風(fēng)險(xiǎn)人工智能，將合規(guī)資源集中在最突出的人工智能上。其次，盡可能明確附件一和附件三這兩個(gè)類(lèi)別的高風(fēng)險(xiǎn)人工智能的范圍。其三，附件一的高風(fēng)險(xiǎn)人工智能只限歐盟其他產(chǎn)品立法明確規(guī)定的范圍，很多合規(guī)義務(wù)可以簡(jiǎn)并。其四，附件三的高風(fēng)險(xiǎn)人工智能通常只需要完成自評(píng)估。

四是簡(jiǎn)化有限風(fēng)險(xiǎn)的人工智能的合規(guī)?；旧现恍枰男袀浒负蜆?biāo)注義務(wù)。參考我國(guó)實(shí)際，這些義務(wù)帶來(lái)的負(fù)擔(dān)程度上相對(duì)溫和。

五是刪去通用目的人工智能的幾乎所有實(shí)體性義務(wù)。通過(guò)細(xì)讀早期版本、最終版本和談判紀(jì)要，可以看到這里在立法沿革中刪去了幾乎百分之九十的義務(wù)，只留下繁復(fù)但確切的透明性義務(wù)和起草并遵從自律性守則的義務(wù)。換言之，強(qiáng)制要求的只有程序性的合規(guī)工作，實(shí)體性的，特別是穿透技術(shù)的實(shí)體義務(wù)都是自愿性的。歐盟立法機(jī)關(guān)為此作了很大的簡(jiǎn)化、退讓和“留白”。

六是不斷拓展人工智能監(jiān)管沙盒的適用范圍。特別是，通過(guò)允許真實(shí)世界中的監(jiān)管試點(diǎn)，并且相應(yīng)設(shè)置免責(zé)條款，為通用人工智能的紅隊(duì)測(cè)試和分階段發(fā)布、人工智能應(yīng)用的灰度測(cè)試和AB試驗(yàn)、自動(dòng)駕駛車(chē)輛的封閉路試和開(kāi)放路試、人工智能醫(yī)療的臨床試驗(yàn)和人工智能工廠的量化放大試驗(yàn)等相關(guān)實(shí)踐留下空間。

多項(xiàng)后續(xù)立法重視人工智能發(fā)展

《人工智能法》還有很多條款需要通過(guò)后續(xù)立法和執(zhí)法實(shí)踐來(lái)進(jìn)一步細(xì)化。這部立法如何處理發(fā)展和安全的關(guān)系，需要放在具體的立法進(jìn)展和執(zhí)法進(jìn)展中來(lái)考慮。由此六個(gè)方面共同佐證了《人工智能法》中發(fā)展先于安全的觀點(diǎn)。

一是通過(guò)起草一系列的次級(jí)立法和監(jiān)管指南，為開(kāi)展合規(guī)提供足夠的確定性。即使只看2024年的工作計(jì)劃，也將有通用目的人工智能監(jiān)管的次級(jí)立法和人工智能范疇界定的監(jiān)管指南等重要文件出臺(tái)。這些文件將以數(shù)十頁(yè)的篇幅，進(jìn)一步提供很多貼近現(xiàn)實(shí)、以要點(diǎn)或案例形式呈現(xiàn)的法律適用指導(dǎo)，從而顯著消解法律文本的模糊之處。

二是統(tǒng)一標(biāo)準(zhǔn)。如果符合這一技術(shù)標(biāo)準(zhǔn)，則可推定為符合《人工智能法》的相應(yīng)要求。也就是說(shuō)，進(jìn)一步將法律文本轉(zhuǎn)化為可落地、可評(píng)估、可審計(jì)的標(biāo)準(zhǔn)檢查項(xiàng)。目前，標(biāo)準(zhǔn)起草進(jìn)度順利。

三是監(jiān)管口徑。歐盟相關(guān)部門(mén)正在針對(duì)部分疑難條款中的具體項(xiàng)目，起草一系列更加細(xì)致的口徑文件。從《無(wú)線電設(shè)備指令》和《人工智能法》的沖突化解等若干已初步完成的口徑來(lái)看，不僅達(dá)到了合規(guī)可以“開(kāi)箱即用”的確定性，還采取了非常寬松的適用尺度。

四是行為守則。如前所述，通用目的人工智能的實(shí)體性監(jiān)管幾乎完全通過(guò)自律性守則來(lái)開(kāi)展。在守則的起草上，歐盟委員會(huì)可以說(shuō)給到了頭部人工智能企業(yè)最大的自由度，此舉還引起了一些批評(píng)。

五是監(jiān)管沙盒。沙盒能否切實(shí)發(fā)揮促進(jìn)發(fā)展的作用，主要看試驗(yàn)環(huán)境建設(shè)的建設(shè)是否順利、法定免責(zé)條款的適用是否順?biāo)?。歐盟多個(gè)成員國(guó)的沙盒環(huán)境正在建設(shè)或接近完成。從已經(jīng)通過(guò)或正在審議的相關(guān)國(guó)內(nèi)立法看，主要國(guó)家多傾向以更寬松的方式適用免責(zé)條款。

六是《通用數(shù)據(jù)保護(hù)條例》（GDPR）等歐盟數(shù)字法律的過(guò)往執(zhí)法實(shí)踐。到2024年為止，距離GDPR的生效執(zhí)行已經(jīng)過(guò)去了6年?；仡櫠?，當(dāng)時(shí)對(duì)GDPR阻礙甚至窒息數(shù)字產(chǎn)業(yè)發(fā)展的批判性前瞻，幾乎都沒(méi)有實(shí)現(xiàn)。執(zhí)法集中在少數(shù)大企業(yè)，對(duì)中小微企業(yè)影響有限。

全面準(zhǔn)確地理解和比較《人工智能法》

綜上，通盤(pán)考慮歐盟《人工智能法》的立法意圖、立法進(jìn)展和執(zhí)法進(jìn)展之后，很難再得出這是一部安全先于發(fā)展、損害技術(shù)競(jìng)爭(zhēng)力的法律的結(jié)論。隨著法律的完善和執(zhí)法的展開(kāi)，其發(fā)展先于安全的立場(chǎng)將會(huì)更加明顯。由此，可以進(jìn)一步做出三方面總結(jié)：

一是理解和比較歐盟數(shù)字立法時(shí)，務(wù)求全面準(zhǔn)確?！度斯ぶ悄芊ā肪褪呛芎玫睦?。數(shù)百頁(yè)的法律文本很多時(shí)候只是一個(gè)骨架，或者說(shuō)一個(gè)目錄。是大體素描骨架、掃讀法律目錄，還是細(xì)致勾勒血肉、逐個(gè)條款考究，看到的可能是兩部“風(fēng)景”很不相同的法律。如果再把執(zhí)法的很多具體元素考慮進(jìn)來(lái)，差別就更大了。

二是擺脫歐盟只重視立法、立法只重視安全的思維定勢(shì)。對(duì)其過(guò)去的一些數(shù)字立法，這個(gè)觀點(diǎn)很有道理。然而，對(duì)《人工智能法》來(lái)說(shuō)，這一點(diǎn)一開(kāi)始就不盡準(zhǔn)確。畢竟，即使是2021年最早版本的第一條宗旨，其中表述也是發(fā)展多于安全、發(fā)展先于安全。

三是我國(guó)人工智能立法者如何看待歐盟《人工智能法》。這是當(dāng)前的焦點(diǎn)問(wèn)題。筆者認(rèn)為，以下幾點(diǎn)值得注意：其一，僅因片面認(rèn)為歐盟立法重視安全優(yōu)于發(fā)展而加以拒斥，很難說(shuō)是正確的態(tài)度；其二，歐盟立法中的一些重點(diǎn)條款，非常有助于設(shè)計(jì)一部真正促進(jìn)人工智能發(fā)展的法律；其三，要更好地借鑒上述條款，既要向后看其立法過(guò)程所蘊(yùn)含的意圖，也要向前看立法和執(zhí)法的進(jìn)展；其四，不能照搬照抄歐盟立法，這種做法容易忽視應(yīng)當(dāng)嚴(yán)管的問(wèn)題；最后，如果著眼未來(lái)深度參與人工智能?chē)?guó)際治理，需要為《人工智能法》產(chǎn)生比GDPR還更強(qiáng)的“布魯塞爾效應(yīng)”（即歐盟通過(guò)其龐大的內(nèi)部市場(chǎng)和制度架構(gòu)，單方面影響全球監(jiān)管標(biāo)準(zhǔn)）的可能性做好準(zhǔn)備。

（作者系同濟(jì)大學(xué)法學(xué)院助理教授、上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心研究員）