歐盟正式通過(guò)AI監(jiān)管草案：生成式AI需更加透明，版權(quán)問(wèn)題或?qū)⒔鉀Q

繼OpenAI的Sam Altman等一眾行業(yè)領(lǐng)袖發(fā)布警告，稱AI有朝一日可能毀滅人類后，歐盟的監(jiān)管部門作出了行動(dòng)，最近通過(guò)了一項(xiàng)被視為具有里程碑意義的人工智能（AI）法規(guī)的草案，即歐盟人工智能法案（EU AI Act），旨在確保歐盟使用的生成式AI工具的安全性、透明度，并明確一部分問(wèn)責(zé)制度。

據(jù)悉，歐盟的AI法案試圖通過(guò)針對(duì)AI工具潛在的不同風(fēng)險(xiǎn)級(jí)別，引入不同的規(guī)則來(lái)解決這些風(fēng)險(xiǎn)。其中包括了嚴(yán)格限制AI實(shí)時(shí)生物特征識(shí)別系統(tǒng)，堅(jiān)決禁止有爭(zhēng)議的“社會(huì)評(píng)分”系統(tǒng)（類似黑鏡里的那種）等。

而在該法案中，生成式AI被劃定為高風(fēng)險(xiǎn)，因?yàn)樗鼈儠?huì)對(duì)用戶或第三方的安全、基本權(quán)利等產(chǎn)生負(fù)面影響。根據(jù)法規(guī)的草案規(guī)定，高風(fēng)險(xiǎn)的AI在投入使用之前需要承擔(dān)嚴(yán)格的義務(wù)。這些義務(wù)包括：

·進(jìn)行合格評(píng)定以驗(yàn)證系統(tǒng)是否符合法律要求

·在歐盟數(shù)據(jù)庫(kù)中注冊(cè)系統(tǒng)

·向用戶提供有關(guān)系統(tǒng)功能、限制和用途的清晰準(zhǔn)確的信息

·確保人為監(jiān)督和干預(yù)系統(tǒng)運(yùn)行

·實(shí)施技術(shù)和組織措施以確保數(shù)據(jù)質(zhì)量、安全和隱私

·建立風(fēng)險(xiǎn)管理體系和上市后監(jiān)控體系

·向當(dāng)局報(bào)告所有嚴(yán)重事件或系統(tǒng)故障

除此之外，歐盟人工智能法案還要求生成式AI的開(kāi)發(fā)人員，在AI投入使用后發(fā)布用于訓(xùn)練系統(tǒng)的受版權(quán)保護(hù)材料的摘要，包括數(shù)據(jù)庫(kù)中有版權(quán)的書(shū)籍、文章、歌詞或代碼等。

對(duì)于這一規(guī)定，根據(jù)歐盟官方公示的信息，以及此前各種新聞報(bào)道，內(nèi)容出版和發(fā)行業(yè)自然無(wú)比歡迎，此前生成式AI因?yàn)橛?xùn)練時(shí)會(huì)依賴大量受版權(quán)保護(hù)的材料而沒(méi)有支付相應(yīng)的版權(quán)費(fèi)用，就被美術(shù)、編劇等多個(gè)創(chuàng)作行業(yè)而抵制，認(rèn)為AI開(kāi)發(fā)團(tuán)隊(duì)的這種行為構(gòu)成了對(duì)其知識(shí)產(chǎn)權(quán)的未經(jīng)授權(quán)使用。

而發(fā)布培訓(xùn)數(shù)據(jù)摘要將使他們能夠確定并為他們的成果索取適當(dāng)?shù)膱?bào)酬。

但AI相關(guān)技術(shù)開(kāi)發(fā)人員則表示，發(fā)布訓(xùn)練數(shù)據(jù)摘要這一要求是“不切實(shí)際且成本高昂的，因?yàn)榇笮蜕墒紸I在訓(xùn)練中通常會(huì)使用來(lái)自各種來(lái)源的數(shù)十億的數(shù)據(jù)”。

歐盟對(duì)于不同風(fēng)險(xiǎn)級(jí)別AI工具的態(tài)度

不過(guò)無(wú)論如何，僅從草案的內(nèi)容來(lái)看，歐盟的人工智能監(jiān)管法確實(shí)解決了當(dāng)下AI領(lǐng)域很重要的幾大問(wèn)題，包括AI的監(jiān)管，以及一直在社交網(wǎng)絡(luò)處于風(fēng)口浪尖的版權(quán)問(wèn)題，或許會(huì)對(duì)歐美國(guó)家整體AI監(jiān)管的風(fēng)向產(chǎn)生影響，甚至其中對(duì)于透明度的強(qiáng)調(diào)，可能還會(huì)影響未來(lái)AI是會(huì)走向以開(kāi)源為主，還是以O(shè)penAI為代表的閉源為主。

根據(jù)歐盟官方的說(shuō)法，該法律旨在為人工智能開(kāi)發(fā)者和用戶創(chuàng)造更多的確定性、透明度和相互信任，以此進(jìn)一步刺激企業(yè)、基金等對(duì)于歐洲AI企業(yè)更多投資，推動(dòng)歐洲具有創(chuàng)新、高質(zhì)量和道德等特點(diǎn)的AI解決方案的出現(xiàn)。

當(dāng)下全球AI的發(fā)展硬件方面由英偉達(dá)領(lǐng)頭，谷歌、亞馬遜、甲骨文、微軟等公司緊隨其后，軟件方面也以O(shè)penAI、Anthroic以及英國(guó)的Stability AI等企業(yè)聲量最大，歐盟再一次在互聯(lián)網(wǎng)發(fā)展的關(guān)鍵進(jìn)程中暫時(shí)失聲，也不難理解為何歐盟如此激進(jìn)，試圖通過(guò)明確的法規(guī)為歐洲人工智能市場(chǎng)擴(kuò)大競(jìng)爭(zhēng)力和吸引力。

但在歐盟宣稱該草案將刺激歐洲AI市場(chǎng)的同時(shí)，也有人質(zhì)疑該法律中的部分條款，比如上文中提到的公布訓(xùn)練數(shù)據(jù)摘要，可能會(huì)為AI開(kāi)發(fā)者和用戶帶來(lái)更多負(fù)擔(dān)和障礙，尤其是缺乏資源或技術(shù)積累的中小型企業(yè)或初創(chuàng)企業(yè)。

當(dāng)然，這一歐盟人工智能法案目前尚未最終確定，它仍需要得到歐盟理事會(huì)（代表成員國(guó)）的批準(zhǔn)，然后由議會(huì)和理事會(huì)正式通過(guò)，最多可能還需要數(shù)年的時(shí)間。而即便該法律在歐盟生效，成員國(guó)轉(zhuǎn)化為國(guó)家法律也有兩年的緩沖期。

并且目前許多歐美國(guó)家還有更迫在眉睫的問(wèn)題需要處理，比如美國(guó)的債務(wù)危機(jī)等，從歐盟人工智能法案這一框架，到具體詳細(xì)的監(jiān)管落地，AI距離戴上鐐銬還有很長(zhǎng)的時(shí)間。