解密New Bing，新一代GPT智能產(chǎn)品是如何誕生的

一年半前，我們就在準(zhǔn)備發(fā)動一場搜索革命——通過應(yīng)用深度學(xué)習(xí)模型，讓搜索更加現(xiàn)代化、直觀化，以顯著提高用戶體驗(yàn)。彼時，愿景還遠(yuǎn)未得到實(shí)現(xiàn)。

最近發(fā)布的新版Bing朝著這一愿景邁出了一大步。在預(yù)覽版發(fā)布的幾周時間里，我們收到了很多問題。因此我們想分享一些關(guān)于新版Bing及其產(chǎn)生背后的更多故事。

01 幕后故事：新Bing是如何誕生的

去年夏天，OpenAI與我們分享了他們的下一代GPT模型，這是一場改變游戲規(guī)則的變革。新模型比驅(qū)動ChatGPT的GPT-3.5更加強(qiáng)大，并且在合成、總結(jié)、聊天和創(chuàng)作方面更加出色。

這個新模型啟發(fā)了我們探索如何將GPT的能力集成到Bing搜索產(chǎn)品中，以便為任何查詢（包括長、復(fù)雜、自然的查詢）提供更準(zhǔn)確、更完整的搜索結(jié)果。

02 技術(shù)創(chuàng)新：Prometheus

新的GPT模型代表了大型語言模型（LLM）的突破。但與其他LLM一樣，它是通過一定時間內(nèi)的數(shù)據(jù)訓(xùn)練而構(gòu)建的。因此，我們認(rèn)為通過將其與Bing后端的強(qiáng)大功能結(jié)合起來，可以使用戶體驗(yàn)更加豐富，使搜索更具相關(guān)性和準(zhǔn)確性。

更具體地說，我們開發(fā)了一項(xiàng)我們稱之為Prometheus的專有技術(shù)。它是一種首創(chuàng)的AI模型，將全面而新鮮的Bing索引、排名和答案結(jié)果與OpenAI最先進(jìn)的GPT模型的創(chuàng)造性推理能力相結(jié)合。

Prometheus利用Bing和GPT的強(qiáng)大功能，通過Bing Orchestrator組件迭代生成一組內(nèi)部查詢，旨在于給定的對話上下文中為用戶查詢提供準(zhǔn)確而豐富的答案，并全部在毫秒內(nèi)完成。我們將這個由Prometheus生成的答案稱為Chat答案。

選擇相關(guān)的內(nèi)部查詢，并利用相應(yīng)的Bing搜索結(jié)果是Prometheus的關(guān)鍵組成部分。因?yàn)樗鼮槟Ｐ吞峁┝讼嚓P(guān)和新鮮的信息，使其能夠回答最近的問題并減少不準(zhǔn)確性，這種方法稱為基礎(chǔ)。換句話說，模型在Bing提供的數(shù)據(jù)上進(jìn)行推理，因此通過Bing Orchestrator基礎(chǔ)于Bing數(shù)據(jù)。

下圖說明了Prometheus在高層次上的工作原理：

最后一步，Prometheus將相關(guān)的Bing搜索答案（如天氣、股票、體育、新聞等）附加到Chat答案，為用戶提供更豐富、更引人入勝的用戶體驗(yàn)，進(jìn)一步利用Bing的強(qiáng)大功能。

結(jié)合Bing grounding技術(shù)，Prometheus還能夠?qū)⒁谜系紺hat答案的句子中，以便用戶可以輕松點(diǎn)擊訪問這些來源，并驗(yàn)證信息。將流量發(fā)送到來源對于構(gòu)建健康的Web生態(tài)系統(tǒng)至關(guān)重要，這也是Bing的核心目標(biāo)之一。

03 下一步：確保為所有人提供有益的

包容性體驗(yàn)

盡管grounding是一項(xiàng)卓越的創(chuàng)新，但它是一項(xiàng)新技術(shù)，我們需要考慮如何負(fù)責(zé)任地應(yīng)用它，包括進(jìn)一步減少不準(zhǔn)確性、防止冒犯和有害內(nèi)容。這就是為什么新Bing預(yù)覽版的一個關(guān)鍵目標(biāo)是收集用戶反饋，以幫助我們進(jìn)一步改進(jìn)Prometheus。

我們已經(jīng)收到了寶貴的用戶反饋，且在之前幾周的時間里，我們從真實(shí)用戶那里學(xué)到的東西比在實(shí)驗(yàn)室里幾個月學(xué)到的都多。我們正在根據(jù)反饋積極采取行動。例如，我們計劃將發(fā)送給模型的grounding數(shù)據(jù)增加4倍，以提高Chat答案的準(zhǔn)確性；我們還考慮添加一個切換按鈕，讓用戶能夠根據(jù)自己的任務(wù)和目標(biāo)優(yōu)化他們的體驗(yàn)。

另一個重要的反饋是，非常長的聊天會使底層的聊天模型感到困惑，導(dǎo)致Chat答案不太準(zhǔn)確，或者以用戶預(yù)料不到的語氣回答。這就是為什么我們最近在聊天體驗(yàn)中引入了上限。我們正在根據(jù)用戶反饋情況，改進(jìn)模型的grounding和語氣，從而逐步擴(kuò)大這些限制。

04 產(chǎn)品創(chuàng)新：合并搜索和聊天

Prometheus是一項(xiàng)非常卓越和開創(chuàng)性的基于人工智能的創(chuàng)新，但從用戶體驗(yàn)的角度來看，如何將其能力整合到Bing中仍然不是很清晰。我們的團(tuán)隊(duì)有兩種主要的觀點(diǎn)：

一些人認(rèn)為，搜索是一種根深蒂固的習(xí)慣，我們需要保持現(xiàn)有的Web搜索用戶體驗(yàn)，只是在主要的用戶體驗(yàn)上添加Prometheus-powered的Chat answer。就像其它答案一樣，Chat answer將根據(jù)查詢結(jié)果的相關(guān)性贏得搜索頁面上的展示位置。

其他人則認(rèn)為，這是一個改變搜索范式，從經(jīng)典的Web和答案結(jié)果轉(zhuǎn)向新的互動式、基于聊天的搜索方式的機(jī)會。

這兩種觀點(diǎn)都部分正確，但也缺乏完整的考量。主張經(jīng)典搜索的團(tuán)隊(duì)通常使用導(dǎo)航查詢來支持他們的觀點(diǎn)，而推動對話式方法的團(tuán)隊(duì)則會提出類似購物或旅行這樣的研究性搜索會話。

下圖可以說明這一觀察結(jié)果：

這時，很明顯有些查詢會在傳統(tǒng)的「搜索」模式下表現(xiàn)更好，而其它一些查詢則在「對話」或「聊天」模式下表現(xiàn)更佳。此外，一些用戶可能會根據(jù)不同的查詢而選擇不同的模式。因此，理想的Bing搜索產(chǎn)品需要根據(jù)用戶的意圖和偏好，在「搜索」和「聊天」模式之間平滑切換。

我們的設(shè)計團(tuán)隊(duì)接受了這一挑戰(zhàn)，并經(jīng)過多次迭代，開發(fā)出了一個新的UX，將搜索和聊天統(tǒng)一在一個界面中。用戶可以通過單擊頁面上的UX元素，或者簡單地上下滾動或向下滑動，來輕松地在兩種模式之間切換。

05 以人為本的創(chuàng)新

Prometheus的力量和新的Search-Chat交互模型與其它創(chuàng)新結(jié)合在一起，幫助微軟創(chuàng)造了新的Bing搜索，將搜索帶入了創(chuàng)新的新階段。

新的Bing用戶將獲得更完整和上下文相關(guān)的答案，在某些情況下可能會為他們節(jié)省數(shù)小時的搜索時間，這意味著他們有更多的時間用于專注真正重要的事情。我們希望在此過程中，用戶也能發(fā)現(xiàn)搜索的交互性和樂趣。

微軟新一代開源大語言模型應(yīng)用開發(fā)框架將為企業(yè)應(yīng)用「GPT化」釋放無限的想象空間。行動起來吧，如需進(jìn)一步了解如何將此框架在企業(yè)內(nèi)部落地，請聯(lián)系您的微軟客戶經(jīng)理，申請GPT App Innovation In A Day Workshop，由專家為您提供進(jìn)一步的指導(dǎo)。