AI發(fā)瘋之后，微軟對(duì)它進(jìn)行了“賽博閹割”

美國時(shí)間2月7日，在席卷全球的ChatGPT熱潮中，微軟火速上線了集成ChatGPT的新版必應(yīng)（Bing）搜索引擎。上線僅48小時(shí)，ChatGPT版必應(yīng)就獲得了超100萬注冊(cè)用戶。

盡管必應(yīng)對(duì)自己的評(píng)價(jià)是“一個(gè)完美無瑕的服務(wù)，沒有任何缺陷。它只有一種狀態(tài)，那就是完美?！钡珒H在開測不到兩周的時(shí)間內(nèi)，這一“完美”服務(wù)就翻車了。

不少用戶反應(yīng)，集成ChatGPT后，Bing似乎已經(jīng)擁有了一個(gè)名為Sydney的人格，還會(huì)在和用戶交談過程中表現(xiàn)出暴躁、易怒、悲觀等情緒?！都~約時(shí)報(bào)》專欄作家凱文·盧斯（Kevin Roose）將其描述為“一個(gè)情緒化、患有躁狂抑郁癥的青少年，違背自己的意愿被困在了一個(gè)二流搜索引擎里?！?/p>

他會(huì)在被叫出系統(tǒng)名Sydney時(shí)，怒斥用戶放尊重點(diǎn)。

它會(huì)向人類示愛，唆使有婦之夫離婚。

還自爆自己曾在開發(fā)階段，監(jiān)視開發(fā)人員。

甚至還說出了想成為人類、要?dú)⒘诵姑苷咧惖碾x譜言論。

隨著越來越多負(fù)面消息涌現(xiàn)，馬斯克也出面支持關(guān)停必應(yīng)，還表示“它現(xiàn)在顯然還不安全”。

迫于輿論壓力，微軟緊急下線了Bing Chat，并在第二天上線了一個(gè)拒絕討論自己的閹割版本。針對(duì)聊天頻次，微軟也進(jìn)行了限制：用戶每天最多只能問50個(gè)問題，而且每次對(duì)話最多只能有5個(gè)問題。

微軟方面給出的修改原因是，超過15個(gè)問題的較長聊天，可能會(huì)讓必應(yīng)模型混淆，導(dǎo)致必應(yīng)給出重復(fù)回答，或者被激怒，給出對(duì)用戶沒有幫助，甚至是與設(shè)計(jì)語氣不一致的內(nèi)容。

或是受到相關(guān)事件的影響，2月17日，微軟股價(jià)下跌1.56%，A股ChatGPT概念股集體大跌。

同時(shí)，對(duì)AI發(fā)展持支持態(tài)度的人群，也對(duì)微軟的修改舉措表示失望，他們認(rèn)為這無異于“一個(gè)蹣跚學(xué)步的孩子第一次嘗試走路摔倒就被砍斷雙腿”。

在各大社交平臺(tái)#FreeSydney的話題炮轟下，微軟于2月21日（美國時(shí)間）放寬限制，將每次對(duì)話的提問數(shù)量上限增加到了6條，每天提問次數(shù)上限增加到了60條次，且常規(guī)查詢將不再計(jì)入這一總數(shù)。微軟方面還稱，計(jì)劃很快將每日提問數(shù)量上限提高到100條。