智道

欄目主持人：於興中

新法案的一大亮點(diǎn)是對(duì)“關(guān)機(jī)能力”的要求：當(dāng)人工智能模型未獲得積極的安全決定時(shí)，開發(fā)人員必須為此類模型實(shí)現(xiàn)關(guān)機(jī)功能

□俞飛

今年5月，美國(guó)加州參議院以32：1的懸殊表決，通過參議員斯科特·維納發(fā)起的《前沿人工智能模型安全可靠創(chuàng)新法案》。8月，加州眾議院將對(duì)新法案進(jìn)行表決。

上述新法案推出多項(xiàng)人工智能大模型開發(fā)者民事、行政和刑事責(zé)任機(jī)制。也就是說，一旦該法案落地，開發(fā)者可能承擔(dān)人工智能遭濫用的天價(jià)罰金，甚至還可能面臨牢獄之災(zāi)。一時(shí)間，這一法案激起千層浪，各方激辯不休。

加州新法案的一大亮點(diǎn)

“從根本上說，我希望人工智能取得成功，繼續(xù)創(chuàng)新下去，但讓我們先擺脫安全風(fēng)險(xiǎn)?！?月，維納領(lǐng)銜提出法案，“這是一項(xiàng)輕觸監(jiān)管的法案，僅要求開發(fā)人員訓(xùn)練大型模型進(jìn)行基本的安全評(píng)估，以識(shí)別重大風(fēng)險(xiǎn)并采取合理措施減輕風(fēng)險(xiǎn)?！?/p>

上述新法案旨在規(guī)范高級(jí)人工智能模型的開發(fā)和使用，其關(guān)注深度偽造等潛在危害，為大規(guī)模人工智能系統(tǒng)的開發(fā)設(shè)置了多重“安全護(hù)欄”。值得一提的是，新法案并未一刀切地將所有人工智能系統(tǒng)納入監(jiān)管機(jī)制，其所規(guī)范的對(duì)象——“涵蓋的人工智能模型”僅限于部分模型。

根據(jù)上述法案，開發(fā)人員在訓(xùn)練人工智能模型之前應(yīng)評(píng)估其安全性，不會(huì)對(duì)公共安全或福利構(gòu)成風(fēng)險(xiǎn)。此外，開發(fā)人員必須落實(shí)書面安全和安保協(xié)議，為第三方提供足夠的細(xì)節(jié)來測(cè)試模型的安全性。

上述法案還規(guī)定了強(qiáng)制報(bào)告義務(wù)，開發(fā)者必須在發(fā)生“人工智能安全事件”后72小時(shí)內(nèi)通知監(jiān)管部門。法案同時(shí)納入保護(hù)和鼓勵(lì)人工智能開發(fā)實(shí)體內(nèi)部舉報(bào)條款，確保員工有權(quán)舉報(bào)公司違反法案的行為，而不必?fù)?dān)心遭到打擊報(bào)復(fù)。

新法案的一大亮點(diǎn)是對(duì)“關(guān)機(jī)能力”的要求：當(dāng)人工智能模型未獲得積極的安全決定時(shí)，開發(fā)人員必須為此類模型實(shí)現(xiàn)關(guān)機(jī)功能。這意味著開發(fā)人員能夠?qū)崿F(xiàn)在極端情況下關(guān)閉或限制AI模型的功能。

值得一提的是，法案還明確規(guī)定，對(duì)不遵守法定要求的組織進(jìn)行處罰；違法實(shí)體可能面臨禁令、高額罰款和其他處罰。

人工智能領(lǐng)域觀點(diǎn)兩極分化

人工智能技術(shù)的飛速發(fā)展，引發(fā)人們對(duì)其安全性的強(qiáng)烈擔(dān)憂。

6月4日，13名現(xiàn)任和美國(guó)人工智能研發(fā)機(jī)構(gòu)OpenAI前員工發(fā)表公開信，警告前沿人工智能公司“沒有得到政府的充分監(jiān)管，對(duì)人類構(gòu)成嚴(yán)重風(fēng)險(xiǎn)”；人工智能企業(yè)受利益驅(qū)使缺乏有效監(jiān)管，現(xiàn)有企業(yè)治理架構(gòu)不足以改變這一點(diǎn)。不受監(jiān)管的人工智能存在觸發(fā)虛假信息傳播、系統(tǒng)喪失獨(dú)立性等風(fēng)險(xiǎn)。多位人工智能資深研究者大力支持新法案，他們擔(dān)心人工智能對(duì)人類生存造成威脅。就連OpenAI的早期投資者埃隆·馬斯克也一度在公開場(chǎng)合對(duì)這種威脅表示擔(dān)憂。不過，今年5月，馬斯克又為其旗下人工智能初創(chuàng)企業(yè)xAI籌得60億美元的巨額資金。

據(jù)英國(guó)《金融時(shí)報(bào)》報(bào)道，加州新法案背后的推手是人工智能安全中心（CAIS）。該中心由計(jì)算機(jī)科學(xué)家丹·亨德里克斯經(jīng)營(yíng)，他正是xAI公司的安全顧問。“競(jìng)爭(zhēng)壓力正在影響人工智能組織，它們基本上激勵(lì)員工在安全方面偷工減料。加州法案現(xiàn)實(shí)合理，大多數(shù)人希望強(qiáng)化監(jiān)管?！焙嗟吕锟怂拐f。

與此同時(shí)，另一批人表示了對(duì)加州法案的強(qiáng)烈反對(duì)。互聯(lián)網(wǎng)巨頭Meta旗下生成式AI的首席產(chǎn)品經(jīng)理阿倫·拉奧表示，加州法案不可行，因?yàn)槠鋵⒔K結(jié)大模型開源。他認(rèn)為：“隨著公司和高薪員工的離開，摧毀人工智能行業(yè)和將公司‘趕出去’的凈稅收流失達(dá)到數(shù)十億美元?！?/p>

一些科學(xué)家也對(duì)加州法案表示反對(duì)?！叭绻腥讼胫贫ǚㄒ?guī)來扼殺創(chuàng)新，那幾乎是不可能的！它為科幻小說中渲染的風(fēng)險(xiǎn)帶來了開發(fā)者巨大的責(zé)任，激起了任何敢于創(chuàng)新的人的巨大恐懼。”計(jì)算機(jī)科學(xué)家吳恩達(dá)說。

不少硅谷風(fēng)險(xiǎn)投資者、人工智能企業(yè)家痛斥法案會(huì)給開發(fā)者帶來無法承受的責(zé)任，因?yàn)樗麄儫o法保證自己的服務(wù)不被壞人濫用。5月，加州商會(huì)抨擊法案“模糊且不切實(shí)際”，很可能造成重大監(jiān)管不確定性并阻礙創(chuàng)新。美國(guó)科技游說團(tuán)體TechNet執(zhí)行董事迪蘭·霍夫曼表示：“我們不應(yīng)該對(duì)位于加州的行業(yè)進(jìn)行過度監(jiān)管，完全沒有必要這樣做?！?/p>

面對(duì)批評(píng)的聲音，維納反駁：“科技行業(yè)不喜歡有任何監(jiān)管，所以對(duì)我來說，有阻力一點(diǎn)也不奇怪?！彼硎?，法案正在修訂中，開源開發(fā)人員不對(duì)“經(jīng)過大量調(diào)整”的大模型負(fù)責(zé)；“死亡開關(guān)”要求不適用于開源模型。

“我更希望這個(gè)問題在美國(guó)聯(lián)邦層面處理，但正如我們?cè)跀?shù)據(jù)隱私、社交媒體、網(wǎng)絡(luò)中立所看到的那樣，即使是在兩黨大力支持的技術(shù)問題上，國(guó)會(huì)采取行動(dòng)也非常困難，無法達(dá)到立法的目的?！本S納表示。

加州立法為何一馬當(dāng)先

除最近強(qiáng)制出售或禁止社交媒體應(yīng)用TikTok的立法外，盡管提出了多項(xiàng)提案，但美國(guó)國(guó)會(huì)多年來尚未通過重大科技監(jiān)管立法。

據(jù)美國(guó)布魯金斯學(xué)會(huì)約書亞·特納觀察：“盡管有一系列法案、框架和聽證會(huì)，但美國(guó)國(guó)會(huì)未能通過任何立法來針對(duì)特定的人工智能風(fēng)險(xiǎn)，或廣泛地確保人工智能系統(tǒng)的負(fù)責(zé)任開發(fā)和部署?！?/p>

在沒有關(guān)于人工智能的美國(guó)聯(lián)邦立法的情況下，美國(guó)各州越來越多地推動(dòng)自己的法規(guī)。其中，加州的一系列行動(dòng)尤為值得關(guān)注。近幾個(gè)月來，全美各州的立法者提出了400項(xiàng)有關(guān)人工智能的新法律。加州以50項(xiàng)法案遙遙領(lǐng)先。

加州優(yōu)勢(shì)在于本州經(jīng)濟(jì)和科技全球一枝獨(dú)秀，該州執(zhí)政黨偏好監(jiān)管。誰人不知，福布斯全球人工智能公司50強(qiáng)中32家在加州，這里聚集著OpenAI、Meta、xAI等領(lǐng)先的人工智能前沿參與者。此外，加州GDP占美國(guó)GDP的14.5%。

數(shù)十年來，美國(guó)民主黨長(zhǎng)期執(zhí)政的加州，立法機(jī)構(gòu)向來支持監(jiān)管大公司、保護(hù)消費(fèi)者，反對(duì)各種歧視，堪稱傲視全美。該州2020年通過隱私法，限制收集用戶數(shù)據(jù)。2002年，又通過兒童安全法，為18歲以下未成年人提供上網(wǎng)保障。尤其是加州消費(fèi)者隱私法案的巨大成功，讓州議員更加自信。

“我們處于一個(gè)獨(dú)特的位置……這里擁有如此多的科技創(chuàng)新者?！奔又荼娮h院議員喬?！ぢ逦乃柋硎荆凹又萑似谕覀兂蔀槊绹?guó)人工智能立法領(lǐng)域的領(lǐng)導(dǎo)者，我們也希望自己能成為領(lǐng)導(dǎo)者?！?/p>

（作者系中國(guó)政法大學(xué)比較法學(xué)研究院講師）