歐盟即將出臺(tái)首部AI法案：強(qiáng)調(diào)以人為本，AIGC需標(biāo)明訓(xùn)練數(shù)據(jù)版權(quán)

經(jīng)過了半年的醞釀之后，全球首部AI法案終于在上周末形成了初步協(xié)議。

12月9日，歐盟委員會(huì)成員Thierry Breton在社交媒體稱，“歐洲成為首個(gè)清晰敲定了AI使用法規(guī)的大陸，AI法案（AI Act）不只是一個(gè)規(guī)則手冊(cè)，它是歐洲初創(chuàng)公司和調(diào)研者引領(lǐng)全球AI競(jìng)賽的發(fā)射臺(tái)。”

據(jù)路透社報(bào)道，歐盟國家和歐洲議會(huì)成員在經(jīng)歷了接近15個(gè)小時(shí)的談判之后終于達(dá)成了協(xié)議，此前一天還進(jìn)行了將近24小時(shí)的辯論。雙方還將在未來幾天敲定細(xì)節(jié)，最終立法還有可能會(huì)變化。

對(duì)于游戲業(yè)內(nèi)較為關(guān)心的版權(quán)歸屬問題，法案給出的規(guī)定是必須讓用戶有知情權(quán)（即告知用于他們?cè)谑褂没蛘吲cAI內(nèi)容互動(dòng)），還必須明確標(biāo)出受版權(quán)保護(hù)的數(shù)據(jù)摘要，意味著AIGC內(nèi)容版權(quán)需要視訓(xùn)練數(shù)據(jù)的版權(quán)歸屬?zèng)Q定。

全球首個(gè)AI法案初步成型

作為最近一年多來紅遍全球的創(chuàng)新技術(shù)，AI的優(yōu)勢(shì)和爭(zhēng)議都很明顯。業(yè)內(nèi)已經(jīng)有不少公司開始通過生成型AI進(jìn)行創(chuàng)意迭代或者提升研發(fā)效率，甚至還被越來越多地運(yùn)用到手游買量領(lǐng)域。然而，對(duì)于版權(quán)的擔(dān)憂，以及可能引發(fā)的行業(yè)裁員，也是這項(xiàng)技術(shù)被懷疑、被特定行業(yè)抵制的原因之一。

歐盟想要監(jiān)管AI以確保這項(xiàng)創(chuàng)新技術(shù)更好的研發(fā)和使用條件。AI可以創(chuàng)造很多利益，比如更好的意料、更安全和整潔的交通、更有效率的制造，以及更廉價(jià)和更可持續(xù)的能源。在2021年4月份，歐盟委員會(huì)提出了首個(gè)歐盟AI監(jiān)管框架，該框架表示，可以用于不同應(yīng)用的AI系統(tǒng)將根據(jù)其對(duì)用戶構(gòu)成的風(fēng)險(xiǎn)進(jìn)行分析和分類。不同的風(fēng)險(xiǎn)水平將意味著或多或少的監(jiān)管，一旦獲得批準(zhǔn)，這將是世界上第一條關(guān)于AI的監(jiān)管規(guī)則。

歐盟在AI法案介紹的時(shí)候提到，“鑒于這些技術(shù)的快速發(fā)展，AI監(jiān)管已經(jīng)成了歐盟的核心政策問題，政策制定者承諾制定‘以人為本’的AI法案，以確保歐洲人能夠從先進(jìn)的新技術(shù)中受益，并根據(jù)歐盟的價(jià)值觀和原則運(yùn)作?！?/p>

歐盟議會(huì)的首要任務(wù)是確保歐盟使用的AI系統(tǒng)是安全、透明、可追蹤、非歧視和環(huán)保的。AI系統(tǒng)應(yīng)該由人來監(jiān)督，而不是由自動(dòng)化來監(jiān)督，以防止有害的結(jié)果。這個(gè)法案要求ChatGPT這樣的基礎(chǔ)模型和通用AI系統(tǒng)在投放到市場(chǎng)之前遵守透明度義務(wù)。這些包括起草技術(shù)文件、遵守歐盟版權(quán)法以及傳播有關(guān)訓(xùn)練內(nèi)容的詳細(xì)摘要等。

簡(jiǎn)而言之，就是，帶有系統(tǒng)性風(fēng)險(xiǎn)的高影響力基礎(chǔ)模型必須進(jìn)行模型評(píng)價(jià)、評(píng)估和減輕系統(tǒng)性風(fēng)險(xiǎn)，進(jìn)行對(duì)抗性測(cè)試，向歐盟委員會(huì)報(bào)告嚴(yán)重事件，確保網(wǎng)絡(luò)安全，并報(bào)告其能源效率。存在系統(tǒng)性風(fēng)險(xiǎn)的通用AI可能會(huì)依據(jù)行業(yè)準(zhǔn)則來遵守新法規(guī)。

Thierry Breton告訴媒體稱：“歐盟將自己定位為先驅(qū)者，理解其作為全球標(biāo)準(zhǔn)制定者角色的重要性，我相信，今天是具有歷史意義的一天”。

AI法案還對(duì)不同風(fēng)險(xiǎn)程度做出了差異化的規(guī)定，主要分為不可接受的風(fēng)險(xiǎn)等級(jí)、高風(fēng)險(xiǎn)和有限風(fēng)險(xiǎn)。

不可接受的風(fēng)險(xiǎn)AI系統(tǒng)指的是被認(rèn)為會(huì)給人們帶來威脅的系統(tǒng)，而且將被封禁，它們包括：

1）對(duì)人或特定弱勢(shì)群體的認(rèn)知行為操縱：例如，鼓勵(lì)兒童危險(xiǎn)行為的聲控玩具；

2）社會(huì)評(píng)分：根據(jù)行為、社會(huì)經(jīng)濟(jì)地位或個(gè)人特征對(duì)人進(jìn)行分類；

3）實(shí)時(shí)和遠(yuǎn)程生物識(shí)別系統(tǒng)，如面部識(shí)別。

一系列例外情況是被允許的：例如，“后”遠(yuǎn)程生物識(shí)別系統(tǒng)，如果在重大延遲后進(jìn)行識(shí)別將被允許用于起訴嚴(yán)重犯罪，但僅在法院批準(zhǔn)后才能進(jìn)行。

高風(fēng)險(xiǎn)指的是對(duì)安全或基本權(quán)利產(chǎn)生負(fù)面影響的AI系統(tǒng)將被視為高風(fēng)險(xiǎn)系統(tǒng)，并將分為兩類：

1）在歐盟產(chǎn)品安全立法范圍內(nèi)的產(chǎn)品中使用的AI系統(tǒng)，這包括玩具、航空、汽車、醫(yī)療設(shè)備和電梯。

2）AI系統(tǒng)分為8個(gè)必須在歐盟數(shù)據(jù)庫中注冊(cè)的特定領(lǐng)域：自然人的生物識(shí)別和分類；重要基礎(chǔ)設(shè)施的管理和運(yùn)營；教育和職業(yè)培訓(xùn)；就業(yè)、工人管理和自主創(chuàng)業(yè)機(jī)會(huì)；獲得和享受基本私人服務(wù)、公共服務(wù)和福利；法律執(zhí)行；移民、庇護(hù)和邊境管制管理；法律解釋和法律適用里的協(xié)助。

所有高風(fēng)險(xiǎn)AI系統(tǒng)將在投放市場(chǎng)之前，包括在它們的生命周期之中，都要進(jìn)行評(píng)估。

對(duì)于ChatGPT這樣的生成型AI，法案的規(guī)定是必須遵守透明度要求：公布內(nèi)容由AI生成；設(shè)計(jì)模型以防止非法內(nèi)容生成；發(fā)布用于訓(xùn)練數(shù)據(jù)的受版權(quán)保護(hù)的數(shù)據(jù)摘要。

法案還規(guī)定，有限風(fēng)險(xiǎn)的AI系統(tǒng)應(yīng)符合最低透明度要求，允許用戶做出明智的決策。在與應(yīng)用程序交互之后，用戶可以決定是否繼續(xù)使用它。當(dāng)用戶與AI交互時(shí)，應(yīng)讓他們中調(diào)，這包括生成或操作圖像、音頻或者視頻內(nèi)容的AI系統(tǒng)，例如深度偽造（deepfake）。

一旦雙方正式批準(zhǔn)，該法案預(yù)計(jì)將于明年初生效，并應(yīng)在兩年后正式施行。消費(fèi)者有權(quán)對(duì)AI技術(shù)應(yīng)用提出投訴并得到有意義的解釋，而違規(guī)罰款數(shù)額將從750萬歐元（810萬美元）或營業(yè)額的1.5%到3500萬歐元或全球營業(yè)額的7%不等。

AI圈的擔(dān)憂：不能因?yàn)橛酗L(fēng)險(xiǎn)就因噎廢食

對(duì)于“突如其來”的監(jiān)管，歐洲很多公司同樣表達(dá)了擔(dān)憂，甚至有開發(fā)者借機(jī)暗諷歐盟“管太寬”，導(dǎo)致歐洲的AI技術(shù)落后于世界其他地區(qū)。

比如有同行專門對(duì)Thierry Breton之前發(fā)的一張全球AI法案分布圖進(jìn)行對(duì)比，指出AI可能是唯一一個(gè)沒有AI發(fā)展的大陸。

法國AI公司Mistral CEO Arthur Mensch說，“我們不能對(duì)缺乏使用的發(fā)動(dòng)機(jī)進(jìn)行監(jiān)管，我們并沒有因?yàn)镃語言可以研發(fā)惡意軟件就封禁它，而是禁止惡意軟件?！?/p>

隱私權(quán)集團(tuán)European Digital Rights也對(duì)此持批評(píng)態(tài)度，其高級(jí)政策咨詢師Ella Jakubowska說，“很難對(duì)一項(xiàng)在歐盟首次實(shí)施、使整個(gè)歐盟的實(shí)時(shí)公共面部識(shí)別合法化的法律感到興奮。盡管議會(huì)努力限制其損害，但生物識(shí)別監(jiān)控和特征分析的整體方案充其量只是不冷不熱?！?/p>

對(duì)于隱私，法案規(guī)定政府只能在公共場(chǎng)所對(duì)某些犯罪的受害者進(jìn)行實(shí)時(shí)生物識(shí)別監(jiān)測(cè)，防止真正的、當(dāng)前的或可預(yù)見的威脅，如恐怖襲擊，以及搜查涉嫌嚴(yán)重犯罪的人。該協(xié)議禁止認(rèn)知行為操作、無針對(duì)性地從互聯(lián)網(wǎng)或閉路電視錄像中抓取面部圖像，社交評(píng)分和生物識(shí)別分類系統(tǒng)來推斷政治、宗教、哲學(xué)信仰、性取向和種族。

企業(yè)集團(tuán)DigitalEurope批評(píng)該規(guī)定和其最近的立法一樣，是給企業(yè)增加的另一個(gè)負(fù)擔(dān)。其總干事Cecilia Bonefeld-Dahl表示，“我們有了一個(gè)協(xié)議，但代價(jià)是什么？我們完全支持對(duì)AI安全使用的方式，而不是技術(shù)本身，但最新的監(jiān)管嘗試將本末倒置了。”