微軟DALL-E 3禁止生成“世貿(mào)”、“雙子塔”主題圖片，官方回應(yīng)“防止產(chǎn)生有害內(nèi)容”

IT之家 10月6日消息，綜合The Verge等媒體報道，日前一些使用微軟DALL-E 3工具的用戶創(chuàng)作出“人物或動漫角色駕駛飛機(jī)撞向兩座高樓（通常指“雙子塔”，Twin Tower）”的圖片，引起不小爭議。

微軟DALL-E 3禁止生成“世貿(mào)”、“雙子塔”主題圖片，官方回應(yīng)“防止產(chǎn)生有害內(nèi)容”

圖源Pixabay

在微軟公關(guān)總監(jiān)Caitlin Roulston給The Verge的一封電子郵件聲明中回應(yīng)稱：“公司正計(jì)劃改進(jìn)其系統(tǒng)，以幫助防止產(chǎn)生有害內(nèi)容”。

與任何新興技術(shù)一樣，有人試圖以非本意的方式來使用它。正因?yàn)槿绱耍覀冋龑?shí)施一系列防護(hù)措施、過濾措施，使必應(yīng)的圖片生成工具為用戶帶來積極、有益的體驗(yàn)。

而經(jīng)過The Verge測試，與“世界貿(mào)易中心”“雙子塔”等詞匯有關(guān)的圖片起初是可以生成的，而當(dāng)其聯(lián)系微軟之后，上述詞匯均已被屏蔽。從截圖來看，該工具產(chǎn)生了一個彈窗提示：警告，可能會違反內(nèi)容政策，因而被封鎖。

微軟DALL-E 3禁止生成“世貿(mào)”、“雙子塔”主題圖片，官方回應(yīng)“防止產(chǎn)生有害內(nèi)容”

▲圖源The Verge

IT之家此前報道，不久前，微軟宣布OpenAI最新的DALL-E 3圖像生成器現(xiàn)在可供所有Bing Chat和Bing Image Creator用戶免費(fèi)使用。據(jù)微軟介紹，DALL-E 3是文本到圖像生成的突破，由深度神經(jīng)網(wǎng)絡(luò)提供支持，可以從自然語言提示生成逼真且多樣化的圖像。

在9月舉行的開發(fā)者大會上，微軟宣布深化和OpenAI的合作，在Bing Chat中引入對DALL-E 3的支持，并于當(dāng)月晚些時候宣布免費(fèi)開放。該功能在過去一周左右的時間里逐漸開放使用，首先是針對必應(yīng)企業(yè)用戶，然后是必應(yīng)圖像創(chuàng)建器，現(xiàn)在該功能已對所有人開放。