解密New Bing，新一代GPT智能產(chǎn)品是如何誕生的

一年半前，我們就在準備發(fā)動一場搜索革命——通過應用深度學習模型，讓搜索更加現(xiàn)代化、直觀化，以顯著提高用戶體驗。彼時，愿景還遠未得到實現(xiàn)。

最近發(fā)布的新版Bing朝著這一愿景邁出了一大步。在預覽版發(fā)布的幾周時間里，我們收到了很多問題。因此我們想分享一些關于新版Bing及其產(chǎn)生背后的更多故事。

01 幕后故事：新Bing是如何誕生的

去年夏天，OpenAI與我們分享了他們的下一代GPT模型，這是一場改變游戲規(guī)則的變革。新模型比驅(qū)動ChatGPT的GPT-3.5更加強大，并且在合成、總結、聊天和創(chuàng)作方面更加出色。

這個新模型啟發(fā)了我們探索如何將GPT的能力集成到Bing搜索產(chǎn)品中，以便為任何查詢（包括長、復雜、自然的查詢）提供更準確、更完整的搜索結果。

02 技術創(chuàng)新：Prometheus

新的GPT模型代表了大型語言模型（LLM）的突破。但與其他LLM一樣，它是通過一定時間內(nèi)的數(shù)據(jù)訓練而構建的。因此，我們認為通過將其與Bing后端的強大功能結合起來，可以使用戶體驗更加豐富，使搜索更具相關性和準確性。

更具體地說，我們開發(fā)了一項我們稱之為Prometheus的專有技術。它是一種首創(chuàng)的AI模型，將全面而新鮮的Bing索引、排名和答案結果與OpenAI最先進的GPT模型的創(chuàng)造性推理能力相結合。

Prometheus利用Bing和GPT的強大功能，通過Bing Orchestrator組件迭代生成一組內(nèi)部查詢，旨在于給定的對話上下文中為用戶查詢提供準確而豐富的答案，并全部在毫秒內(nèi)完成。我們將這個由Prometheus生成的答案稱為Chat答案。

選擇相關的內(nèi)部查詢，并利用相應的Bing搜索結果是Prometheus的關鍵組成部分。因為它為模型提供了相關和新鮮的信息，使其能夠回答最近的問題并減少不準確性，這種方法稱為基礎。換句話說，模型在Bing提供的數(shù)據(jù)上進行推理，因此通過Bing Orchestrator基礎于Bing數(shù)據(jù)。

下圖說明了Prometheus在高層次上的工作原理：

最后一步，Prometheus將相關的Bing搜索答案（如天氣、股票、體育、新聞等）附加到Chat答案，為用戶提供更豐富、更引人入勝的用戶體驗，進一步利用Bing的強大功能。

結合Bing grounding技術，Prometheus還能夠?qū)⒁谜系紺hat答案的句子中，以便用戶可以輕松點擊訪問這些來源，并驗證信息。將流量發(fā)送到來源對于構建健康的Web生態(tài)系統(tǒng)至關重要，這也是Bing的核心目標之一。

03 下一步：確保為所有人提供有益的

包容性體驗

盡管grounding是一項卓越的創(chuàng)新，但它是一項新技術，我們需要考慮如何負責任地應用它，包括進一步減少不準確性、防止冒犯和有害內(nèi)容。這就是為什么新Bing預覽版的一個關鍵目標是收集用戶反饋，以幫助我們進一步改進Prometheus。

我們已經(jīng)收到了寶貴的用戶反饋，且在之前幾周的時間里，我們從真實用戶那里學到的東西比在實驗室里幾個月學到的都多。我們正在根據(jù)反饋積極采取行動。例如，我們計劃將發(fā)送給模型的grounding數(shù)據(jù)增加4倍，以提高Chat答案的準確性；我們還考慮添加一個切換按鈕，讓用戶能夠根據(jù)自己的任務和目標優(yōu)化他們的體驗。

另一個重要的反饋是，非常長的聊天會使底層的聊天模型感到困惑，導致Chat答案不太準確，或者以用戶預料不到的語氣回答。這就是為什么我們最近在聊天體驗中引入了上限。我們正在根據(jù)用戶反饋情況，改進模型的grounding和語氣，從而逐步擴大這些限制。

04 產(chǎn)品創(chuàng)新：合并搜索和聊天

Prometheus是一項非常卓越和開創(chuàng)性的基于人工智能的創(chuàng)新，但從用戶體驗的角度來看，如何將其能力整合到Bing中仍然不是很清晰。我們的團隊有兩種主要的觀點：

一些人認為，搜索是一種根深蒂固的習慣，我們需要保持現(xiàn)有的Web搜索用戶體驗，只是在主要的用戶體驗上添加Prometheus-powered的Chat answer。就像其它答案一樣，Chat answer將根據(jù)查詢結果的相關性贏得搜索頁面上的展示位置。

其他人則認為，這是一個改變搜索范式，從經(jīng)典的Web和答案結果轉向新的互動式、基于聊天的搜索方式的機會。

這兩種觀點都部分正確，但也缺乏完整的考量。主張經(jīng)典搜索的團隊通常使用導航查詢來支持他們的觀點，而推動對話式方法的團隊則會提出類似購物或旅行這樣的研究性搜索會話。

下圖可以說明這一觀察結果：

這時，很明顯有些查詢會在傳統(tǒng)的「搜索」模式下表現(xiàn)更好，而其它一些查詢則在「對話」或「聊天」模式下表現(xiàn)更佳。此外，一些用戶可能會根據(jù)不同的查詢而選擇不同的模式。因此，理想的Bing搜索產(chǎn)品需要根據(jù)用戶的意圖和偏好，在「搜索」和「聊天」模式之間平滑切換。

我們的設計團隊接受了這一挑戰(zhàn)，并經(jīng)過多次迭代，開發(fā)出了一個新的UX，將搜索和聊天統(tǒng)一在一個界面中。用戶可以通過單擊頁面上的UX元素，或者簡單地上下滾動或向下滑動，來輕松地在兩種模式之間切換。

05 以人為本的創(chuàng)新

Prometheus的力量和新的Search-Chat交互模型與其它創(chuàng)新結合在一起，幫助微軟創(chuàng)造了新的Bing搜索，將搜索帶入了創(chuàng)新的新階段。

新的Bing用戶將獲得更完整和上下文相關的答案，在某些情況下可能會為他們節(jié)省數(shù)小時的搜索時間，這意味著他們有更多的時間用于專注真正重要的事情。我們希望在此過程中，用戶也能發(fā)現(xiàn)搜索的交互性和樂趣。

微軟新一代開源大語言模型應用開發(fā)框架將為企業(yè)應用「GPT化」釋放無限的想象空間。行動起來吧，如需進一步了解如何將此框架在企業(yè)內(nèi)部落地，請聯(lián)系您的微軟客戶經(jīng)理，申請GPT App Innovation In A Day Workshop，由專家為您提供進一步的指導。