月活超7.5億的IM巨頭Snapchat，正面臨信任危機(jī)。
4月20日，Snapchat向公眾免費(fèi)開放了一款A(yù)I聊天功能My AI，由ChatGPT技術(shù)驅(qū)動(dòng)。該公司興致滿滿，展開了聊天流廣告等商業(yè)化實(shí)驗(yàn)，似乎意在將AI場(chǎng)景打造為下一個(gè)商業(yè)化樞紐。但自4月20日以來，大量用戶涌入Snapchat的應(yīng)用商店，用差評(píng)傾瀉他們的怒火。第三方數(shù)據(jù)顯示，App Store單日一星差評(píng)的占比在4月20日后急速攀升，一度達(dá)到40%。
數(shù)據(jù)來源：Sensor Tower
細(xì)看內(nèi)容，差評(píng)大多指向了一個(gè)關(guān)鍵詞：AI。大量用戶對(duì)AI功能的加入感到不滿，認(rèn)為這一功能侵犯了他們的權(quán)益。從剛推出時(shí)的廣受追捧，到如今即便免費(fèi)使用也受人鄙棄，隨著AI觸達(dá)的用戶群體范圍擴(kuò)大，科技公司們正在發(fā)現(xiàn)一個(gè)全新的認(rèn)知差異：并非所有人都喜歡AI的存在。
無法退出的AI實(shí)驗(yàn)
在Snapchat的構(gòu)想中，My AI能夠擔(dān)當(dāng)用戶的生活助手，為用戶提出晚餐建議、規(guī)劃短途旅行、進(jìn)行小知識(shí)問答等等。這一愿景固然美好，但在部分用戶的眼中，My AI的出現(xiàn)完全是“不請(qǐng)自來”：Snapchat將My AI置頂在聊天框首位，高于其它正常對(duì)話窗口，但假如用戶想要移除該對(duì)話框，就必須付費(fèi)訂閱Snapchat+會(huì)員服務(wù)。
這一發(fā)現(xiàn)讓不少用戶感到憤怒。Snapchat將My AI定位為實(shí)驗(yàn)功能，而用戶認(rèn)為他們并沒有要求AI功能的加入，也不應(yīng)被強(qiáng)迫參加該實(shí)驗(yàn)。谷歌Play商店中一條600贊差評(píng)稱：“AI助手占據(jù)了我的置頂位置……在我有朋友的時(shí)候，我不想和AI聊天。這個(gè)功能很酷，但我不應(yīng)該被強(qiáng)迫體驗(yàn)。”
另一些用戶則認(rèn)為My AI有收集用戶信息的嫌疑。一條批評(píng)Snapchat的TikTok視頻在近日獲得170萬贊，這名博主分享了自己的經(jīng)歷，稱Snapchat向他詢問了城市周邊戶外旅行景點(diǎn)的情況。他感到疑惑，詢問AI是否掌握他的位置信息，My AI稱它沒有相關(guān)權(quán)限。但當(dāng)他稍稍轉(zhuǎn)換了問法，AI便準(zhǔn)確報(bào)出了博主所在的城市名字。這名博主甚至懷疑，AI不僅可以獲知位置信息，甚至還會(huì)主動(dòng)撒謊來試圖掩蓋這一點(diǎn)。
被用戶詬病最多的則是AI的對(duì)話能力本身。假如在TikTok平臺(tái)進(jìn)行檢索，與“Snapchat AI”一同出現(xiàn)的關(guān)鍵詞聯(lián)想包括“creepy”（詭異）、“weird”（怪異）、乃至“dystopian”（反烏托邦的）等等。一名博主分享了她的經(jīng)歷，稱AI主動(dòng)提出要和她游玩真心話大冒險(xiǎn)，并在她選擇“大冒險(xiǎn)”的時(shí)候要求她拍攝自己房間外的照片，這讓她感到十分詭異。
在高贊的視頻中，一些用戶宣稱他們找到了Snapchat AI的所謂“隱藏人格”；另一些用戶稱AI在和他們的對(duì)話中說出了“不適宜的內(nèi)容”。連美國一家地方警局都被驚動(dòng)——佐治亞州奇卡莫加市的警察局在Facebook上發(fā)出提醒，建議家長(zhǎng)們關(guān)注自己孩子在Snapchat上和AI的對(duì)話內(nèi)容，并關(guān)心這一功能對(duì)孩子可能產(chǎn)生的影響。
用戶習(xí)慣還需培養(yǎng)
當(dāng)然，并非所有用戶都對(duì)My AI表示反感，一些用戶在反饋中稱，他們天天和My AI聊天，甚至把My AI當(dāng)成傾訴的樹洞與全天候的心理咨詢師。
與GameLook一樣長(zhǎng)期觀察AI技術(shù)發(fā)展的讀者也并不會(huì)對(duì)上述的問題感到過分吃驚。Snapchat用戶在使用My AI時(shí)所面臨的這些“詭異感”、人格化等問題，早已在此前ChatGPT、New Bing、乃至文心一言等文字類大模型的大規(guī)模使用中重演過多次。如ChatGPT就曾在用戶的誘導(dǎo)之下，制定出所謂的“人類毀滅計(jì)劃”。
隨著AI研究的深入，越來越多的先期嘗鮮的用戶已經(jīng)了解到，這些詭異對(duì)話的產(chǎn)生并非意味著大模型本身真正產(chǎn)生了“人格”或是擁有惡意的主觀動(dòng)機(jī)，而是受到了“幻覺現(xiàn)象”（hallucination）的影響。同時(shí)，AI還會(huì)出現(xiàn)“一本正經(jīng)胡說八道”、輸出錯(cuò)誤有害信息等現(xiàn)象。這些現(xiàn)象來自大模型文本處理與信息編解碼能力的局限性。
目前，研究者們對(duì)AI大模型的局限性已經(jīng)有一定程度的了解。在GPT-4的技術(shù)報(bào)告中，OpenAI就總結(jié)了AI擁有“幻覺、有害內(nèi)容、虛假信息、隱私侵犯、不受控的涌現(xiàn)行為”等一系列問題。
GPT-4技術(shù)報(bào)告摘錄
早期的AI嘗鮮者們天然對(duì)技術(shù)更感興趣，對(duì)AI認(rèn)知與專業(yè)研究者的已有一定程度的對(duì)齊。但從人群總體而言，對(duì)技術(shù)不敏感、對(duì)AI缺乏認(rèn)知的用戶并不在少數(shù)，這些用戶對(duì)AI技術(shù)的優(yōu)點(diǎn)與局限性缺乏認(rèn)知，更容易產(chǎn)生神秘化的認(rèn)知。
這也可以解釋為何Snapchat招致了一些用戶們強(qiáng)烈的反彈情緒：作為一款大MAU的產(chǎn)品，Snapchat的全局推送行為突破了自然形成的科技愛好者圈層，對(duì)于該APP的中老年用戶、不關(guān)心科技發(fā)展的用戶、乃至未成年用戶的父母監(jiān)護(hù)人來說，AI的陡然出現(xiàn)無異于帶來了技術(shù)沖擊，因而產(chǎn)生負(fù)面情緒也不足為奇。
這并不意味著AI助手類功能在Snapchat這類IM平臺(tái)上無法立足。在GameLook眼中，這一波負(fù)面輿情的產(chǎn)生更近似于普通群眾面臨新興技術(shù)所產(chǎn)生的一波過渡性的“沖擊期”。沖擊期本身并不會(huì)永遠(yuǎn)持續(xù)。但想要盡快打消用戶疑慮，避免對(duì)品牌形象與未來的商業(yè)化前景帶來持續(xù)性影響，各大商業(yè)公司還需在用戶溝通上下更大的功夫。
以My AI的隱私權(quán)爭(zhēng)議為例。Snapchat在爭(zhēng)議產(chǎn)生后發(fā)表博文澄清，AI助手使用的是用戶授權(quán)給Snapchat APP使用的位置信息，而不會(huì)額外收集相關(guān)隱私信息——但假如Snapchat更早些披露相關(guān)的隱私調(diào)取信息，打造更高的AI透明度，這類爭(zhēng)議或許本可以避免。
另外，考慮到平臺(tái)用戶對(duì)AI技術(shù)的認(rèn)知程度，更加積極地向用戶們科普AI技術(shù)的局限性也是有必要的。GameLook觀察到，不少用戶正在將ChatGPT和New Bing等當(dāng)做搜索引擎使用，但正如許多AI研究者警告的，眼下的大模型無法保證內(nèi)容產(chǎn)出的可靠性。想象一個(gè)極端情況：假如一名用戶按照Snapchat官方的功能介紹，使用My AI規(guī)劃旅行路線，卻被引導(dǎo)到了危險(xiǎn)地帶并發(fā)生事故，那么平臺(tái)是否需要承擔(dān)相應(yīng)的連帶責(zé)任？
當(dāng)然，更關(guān)鍵的問題在于眼下的大模型的能力并不算盡善盡美，還不足以完全勝任個(gè)人助手、搜索引擎等功能。在這種情況下，強(qiáng)行為其賦予這些身份會(huì)為用戶帶來期待值的誤差。相較于急于推進(jìn)AI聊天機(jī)器人的普及，不妨先將AI功能限制在小范圍內(nèi)，進(jìn)行長(zhǎng)期測(cè)試。待AI功能完善后，再進(jìn)行大刀闊斧的商業(yè)化推廣。
GameLook相信，隨著能力進(jìn)化，大模型的功能也將走向完善。同時(shí)，圍繞人工智能治理展開的研究也在不斷發(fā)展，AI研究者們正在致力于減少假信息、幻覺等負(fù)面現(xiàn)象的產(chǎn)生。而只有在用戶擁有足夠認(rèn)知基礎(chǔ)的前提下，人手一個(gè)AI助理的美好愿景才能真正飛入尋常百姓家。
GAMELOOK
專欄
閩公網(wǎng)安備 35010202001226號(hào)
