微軟DALL-E 3禁止生成“世貿(mào)”、“雙子塔”主題圖片，官方回應(yīng)“防止產(chǎn)生有害內(nèi)容”

IT之家 10月6日消息，綜合The Verge等媒體報(bào)道，日前一些使用微軟DALL-E 3工具的用戶創(chuàng)作出“人物或動(dòng)漫角色駕駛飛機(jī)撞向兩座高樓（通常指“雙子塔”，Twin Tower）”的圖片，引起不小爭(zhēng)議。

微軟DALL-E 3禁止生成“世貿(mào)”、“雙子塔”主題圖片，官方回應(yīng)“防止產(chǎn)生有害內(nèi)容”

圖源Pixabay

在微軟公關(guān)總監(jiān)Caitlin Roulston給The Verge的一封電子郵件聲明中回應(yīng)稱(chēng)：“公司正計(jì)劃改進(jìn)其系統(tǒng)，以幫助防止產(chǎn)生有害內(nèi)容”。

與任何新興技術(shù)一樣，有人試圖以非本意的方式來(lái)使用它。正因?yàn)槿绱?，我們正?shí)施一系列防護(hù)措施、過(guò)濾措施，使必應(yīng)的圖片生成工具為用戶帶來(lái)積極、有益的體驗(yàn)。

而經(jīng)過(guò)The Verge測(cè)試，與“世界貿(mào)易中心”“雙子塔”等詞匯有關(guān)的圖片起初是可以生成的，而當(dāng)其聯(lián)系微軟之后，上述詞匯均已被屏蔽。從截圖來(lái)看，該工具產(chǎn)生了一個(gè)彈窗提示：警告，可能會(huì)違反內(nèi)容政策，因而被封鎖。

微軟DALL-E 3禁止生成“世貿(mào)”、“雙子塔”主題圖片，官方回應(yīng)“防止產(chǎn)生有害內(nèi)容”

▲圖源The Verge

IT之家此前報(bào)道，不久前，微軟宣布OpenAI最新的DALL-E 3圖像生成器現(xiàn)在可供所有Bing Chat和Bing Image Creator用戶免費(fèi)使用。據(jù)微軟介紹，DALL-E 3是文本到圖像生成的突破，由深度神經(jīng)網(wǎng)絡(luò)提供支持，可以從自然語(yǔ)言提示生成逼真且多樣化的圖像。

在9月舉行的開(kāi)發(fā)者大會(huì)上，微軟宣布深化和OpenAI的合作，在Bing Chat中引入對(duì)DALL-E 3的支持，并于當(dāng)月晚些時(shí)候宣布免費(fèi)開(kāi)放。該功能在過(guò)去一周左右的時(shí)間里逐漸開(kāi)放使用，首先是針對(duì)必應(yīng)企業(yè)用戶，然后是必應(yīng)圖像創(chuàng)建器，現(xiàn)在該功能已對(duì)所有人開(kāi)放。