智道

欄目主持人：於興中

司法領(lǐng)域的AI應(yīng)用并不鮮見，然而，荷蘭的這個(gè)例子卻讓不少人對(duì)于新技術(shù)的沖擊產(chǎn)生了更多憂慮

視覺中國供圖

□俞飛

今年8月，一名荷蘭法官利用ChatGPT收集太陽能電池板相關(guān)信息用于判決，這種做法引起了眾多專家的關(guān)注。 

近年來，AI技術(shù)可謂“紅透半邊天”，ChatGPT更算得上是其中的佼佼者。司法領(lǐng)域的AI應(yīng)用并不鮮見，然而，荷蘭的這個(gè)例子卻讓不少人對(duì)于新技術(shù)的沖擊產(chǎn)生了更多憂慮。

當(dāng)法官“部分基于 ChatGPT估計(jì)”

近日，荷蘭一家網(wǎng)站報(bào)道，奈梅亨的一名法官承認(rèn)，其在審判案件時(shí)使用ChatGPT收集重要信息。該案涉及兩名房主，被告將房子加蓋一層，鄰居以此舉嚴(yán)重侵犯采光權(quán)，影響自家太陽能電池板發(fā)電效率起訴。

本案關(guān)鍵在于確定侵權(quán)損害賠償金額，而這就要法官能精準(zhǔn)掌握太陽能電池板的平均壽命以及平均電價(jià)。于是，這位荷蘭法官想到了ChatGPT?！胺ü俨糠只?ChatGPT估計(jì)：從2009年開始，太陽能電池板的平均壽命在25到30年。對(duì)于本案，我們將其定為27.5年。”判決書坦陳。此外，法官還向ChatGPT詢問了荷蘭平均電價(jià)。

消息一出，許多專家紛紛發(fā)表對(duì)此事件的看法。  

荷蘭互聯(lián)網(wǎng)專家亨克·艾斯抨擊：“這太荒謬了，我們必須對(duì)每一個(gè)AI都持保留態(tài)度。因?yàn)閷＜覍?duì)太陽能電池板的壽命存在分歧，有人說它們最長可以使用40年?！?/p>

“ChatGPT一無所知，它不是一個(gè)數(shù)據(jù)庫。”荷蘭AI專家雅諾·杜爾斯瑪說，“這是一個(gè)計(jì)算機(jī)系統(tǒng)，可以猜測(cè)句子中的下一個(gè)單詞，僅此而已?！?nbsp;

荷蘭一家網(wǎng)絡(luò)安全公司相關(guān)負(fù)責(zé)人戴夫·馬斯蘭則表示，AI可以減少等待時(shí)間、簡化流程，對(duì)法律系統(tǒng)有很大幫助，但必須徹底檢查其使用過程和答案。他認(rèn)為：“生成式人工智能仍處于起步階段，‘幻覺’并不罕見。”

早在2019年，信息技術(shù)運(yùn)用廣泛的愛沙尼亞就宣稱“首創(chuàng)AI法官”，表示今后車禍、超速等小型訴訟案通通交給AI“審理”，一度引發(fā)巨大爭議。

有資料顯示，愛沙尼亞的“AI法官”將處理7000歐元以內(nèi)的小額民事訴訟，原告方輸入訴訟對(duì)象、金額、起訴理由等?！癆I法官”系統(tǒng)從過往判例中學(xué)習(xí)、解析法條，最終作出判決?！癆I法官”的判決具有法律約束力，如果當(dāng)事人不服，可以向人類法官提出上訴。

說起來容易，做起來難?！癆I法官”計(jì)劃需要海量判決數(shù)據(jù)進(jìn)行訓(xùn)練，并且經(jīng)由人類法律工作者持續(xù)修正。這也難怪，愛沙尼亞的“AI法官”至今還是“只聽樓梯響，不見人下來”。

要說AI首次披上法官袍，還是在拉美國家哥倫比亞。2023年1月30日，該國法官胡安·帕迪拉向ChatGPT提問，并將AI提供的答案包含在判決書中，堪稱全球“AI審判第一案”。

胡安表示，自己并非是讓AI取代法官作決定，而是節(jié)省起草判決書時(shí)間。案件涉及自閉癥兒童是否應(yīng)該獲得相應(yīng)的醫(yī)療保障。法官詢問：“自閉癥兒童是否可免除支付治療費(fèi)用？哥倫比亞憲法法院判例是否曾在類似案件中作出有利裁決？”ChatGPT回答：“是的，這是正確的。根據(jù)哥倫比亞法規(guī)，被診斷患有自閉癥的未成年人可免除看診治療費(fèi)用?！弊罱K，法官的判決是：因患兒父母負(fù)擔(dān)不起醫(yī)療費(fèi)用，孩子的全部醫(yī)療費(fèi)用和交通費(fèi)用，由其醫(yī)保公司支付。

胡安堅(jiān)稱，裁決過程中，自己“并沒有停止作為法官的思考”。對(duì)此，哥倫比亞最高法院法官奧克塔維奧·特杰羅表示，人工智能的橫空出世引發(fā)了道德恐慌，人們擔(dān)心程序或機(jī)器人將取代法官。他說：“我還沒有用過ChatGPT，但將來會(huì)考慮使用?！?/p>

不過，哥倫比亞羅薩里奧大學(xué)教授古提瑞茲對(duì)此持批判意見，自己也對(duì)ChatGPT提出相同問題，卻得到不同答案。他認(rèn)為：“法官使用ChatGPT判決，既不負(fù)責(zé)任，也不道德，應(yīng)該首先培養(yǎng)法官的數(shù)字素養(yǎng)。”

將AI引入司法 各國態(tài)度不同

2019年，法國推出第2019-222號(hào)法律，明確規(guī)定“不得為了評(píng)價(jià)、分析、比較或預(yù)測(cè)法官和司法行政人員的職業(yè)行為而重復(fù)使用其身份數(shù)據(jù)”，違者處以最高5年徒刑。這是世界上第一部禁止對(duì)法官行為進(jìn)行統(tǒng)計(jì)分析的法律。由此可見，對(duì)于將AI引入司法活動(dòng)，法國的態(tài)度更是保守。

不過，法律AI的預(yù)測(cè)功能，卻讓犯罪率、累犯率居全球之冠的美國寄予厚望。在美國，多州法官采用COMPAS等三種軟件輔助量刑，希望新技術(shù)精確評(píng)估哪些囚犯會(huì)在被釋后再次犯罪，從而降低累犯率。

然而，COMPAS算法存在偏見：一方面，黑人被算法標(biāo)記為再犯的風(fēng)險(xiǎn)遠(yuǎn)高于白人（盡管實(shí)際上這些黑人并沒有再次犯罪）；另一方面，白人被標(biāo)記為再犯的風(fēng)險(xiǎn)很低，但實(shí)際上這些白人卻繼續(xù)犯罪。

2017年，著名的盧米斯訴威斯康星州一案，被告認(rèn)為一審法官使用算法COMPAS作為量刑參考違反正當(dāng)程序原則；主張自己有權(quán)檢查法律AI算法，法院必須公開算法信息；算法的科學(xué)有效性和正確性值得懷疑；算法量刑侵犯了量刑個(gè)別化的權(quán)利。州最高法院駁回被告的訴訟請(qǐng)求，但要求下級(jí)法官必須解釋量刑決定考量因素，提醒法官警惕使用算法的偏見。

去年年底，美國最高法院首席大法官約翰·羅伯茨發(fā)布年終報(bào)告，闡述AI在法律體系發(fā)揮的積極作用及潛在威脅，敦促對(duì)此保持謹(jǐn)慎和謙遜?！暗彝瑯佑行判念A(yù)測(cè)，司法工作——尤其是審判層面——將受到人工智能的顯著影響?！彼麖?qiáng)調(diào)，歷史上，法院一直在努力適應(yīng)新技術(shù)。

其實(shí)，早在2017年，就有人問羅伯茨：“是否有一天，由人工智能驅(qū)動(dòng)的智能機(jī)器將協(xié)助法庭進(jìn)行事實(shí)調(diào)查，甚至參與更有爭議的司法決策？”羅伯茨當(dāng)時(shí)的回答是：“這一天已經(jīng)到來了。這給司法部門的行事方式帶來了巨大壓力?！?/p>

去年9月，專門研究知識(shí)產(chǎn)權(quán)法的英國比爾斯大法官使用 ChatGPT總結(jié)了他不熟悉的法律領(lǐng)域，并將結(jié)果復(fù)制粘貼到正式裁決中。他稱贊，AI非常有用?！叭绻惚凰蜕嫌ㄍ?，機(jī)器人可能會(huì)幫助決定你的法律命運(yùn)?！睂?duì)此，英國報(bào)紙頗有意味地寫道。

去年年底，英國司法辦公室發(fā)布指南，引導(dǎo)法官使用AI。指南警告AI存在潛在隱患，要求法官在檢查AI回復(fù)的準(zhǔn)確性，提醒可能泄露隱私和個(gè)人信息。此外，“司法機(jī)構(gòu)使用AI的任何行為都必須符合司法機(jī)構(gòu)保護(hù)司法公正的首要義務(wù)。使用AI工具之前，確保對(duì)其功能和潛在限制有基本了解。AI提供的信息可能不準(zhǔn)確、不完整、有誤導(dǎo)性或有偏見。目前可用的大語言模型對(duì)法律的看法很大程度上基于美國法律”。

指南還提醒法官：“不推薦使用AI進(jìn)行法律研究和法律分析：AI工具是一種糟糕的研究方式，您無法獨(dú)立驗(yàn)證新信息；目前的公共人工智能聊天機(jī)器人無法生成令人信服的法律分析或推理?！?/p>

事實(shí)上，將AI引入司法活動(dòng)的負(fù)面案例并不罕見。

去年11月，巴西國家司法委員會(huì)要求法官羅德里格斯解釋，他何以會(huì)公布一份由ChatGPT生成、內(nèi)容充滿法律謬誤的裁決。羅德里格斯辯解，之所以錯(cuò)誤地引用了AI提供的巴西最高法院的判例，只是人工智能的失誤。接著，他歸咎于法官工作負(fù)擔(dān)過重，無暇仔細(xì)審查。

巴西國家司法委員會(huì)表示：“我們認(rèn)為這是巴西第一起這類案例，給予了法官15天時(shí)間作出進(jìn)一步說明?！睂?shí)際上，依賴AI工具的巴西法官不勝枚舉，該國許多專家認(rèn)為亟待制定新法進(jìn)行監(jiān)督。

總而言之，將AI引入司法活動(dòng)，有助于增加貧困當(dāng)事人訴諸司法的機(jī)會(huì)，協(xié)助法院更快、更低成本地解決案件，但同時(shí)，形形色色的歧視、算法黑箱、信息不透明等棘手問題也不容忽視。在足夠久遠(yuǎn)的未來，AI是會(huì)成為正義女神的化身，還是成為失控的弗蘭肯斯坦？目前還無人可以斷言。

（作者系中國政法大學(xué)比較法學(xué)研究院講師）