“十問”向量數(shù)據(jù)庫

1、能否用最通俗的語言介紹下什么是向量，什么是向量數(shù)據(jù)庫，它和傳統(tǒng)數(shù)據(jù)庫有什么區(qū)別？

向量數(shù)據(jù)庫因為AI大模型最近很火。向量數(shù)據(jù)庫是一種專門用于存儲、管理、查詢、檢索向量的數(shù)據(jù)庫，主要應(yīng)用于人工智能、機器學(xué)習(xí)、數(shù)據(jù)挖掘等領(lǐng)域。向量是一組數(shù)值，可以表示一個點在多維空間中的位置。

簡單理解就是在AI的世界中，處理的所有數(shù)據(jù)都是向量的形式，比如“我愛吃荔枝”，在大模型處理的過程中，計算機會轉(zhuǎn)化為向量的形式：

我:【0.1,0.3,-0.2,...,-0.1】

喜歡:【-0.3,0.5,0.2,...,0.4】

吃:【0.4,-0.1,0.2,...,-0.3】

荔枝:【-0.4,0.3,0.2,...,0.3】。

相對傳統(tǒng)數(shù)據(jù)庫，向量數(shù)據(jù)庫不僅能夠完成基本的CRUD（添加、讀取查詢、更新、刪除），標(biāo)量數(shù)據(jù)過濾、范圍查詢等操作，還能夠?qū)ο蛄繑?shù)據(jù)進(jìn)行更快速的相似性搜索。

2、向量數(shù)據(jù)庫和大模型什么關(guān)系？為什么說向量數(shù)據(jù)庫是大模型的黃金搭檔？

向量數(shù)據(jù)庫通常被認(rèn)為是大模型的“海馬體”或者“記憶海綿”。目前的大模型都是預(yù)訓(xùn)練模型，對于訓(xùn)練截止日之后發(fā)生的事情一無所知。第一是沒有實時的數(shù)據(jù)，第二是缺乏私域數(shù)據(jù)或者企業(yè)數(shù)據(jù)，向量數(shù)據(jù)庫可以通過存儲最新信息或者企業(yè)數(shù)據(jù)有效彌補了這些不足，讓大模型突破在時間和空間上的限制，加速大模型落地行業(yè)場景。同時，通過向量數(shù)據(jù)的本地存儲，還能夠協(xié)助解決目前企業(yè)界最擔(dān)憂的大模型泄露隱私的問題。

3、向量數(shù)據(jù)庫背后有哪些核心技術(shù)？打造一款向量數(shù)據(jù)庫主要的門檻是什么？

要打造一款高效的向量數(shù)據(jù)庫，背后涉及眾多的底層技術(shù)，其中主要包括：

向量索引技術(shù)：向量索引是向量數(shù)據(jù)庫的核心技術(shù)之一，它通過構(gòu)建高效的索引結(jié)構(gòu)來實現(xiàn)快速的向量檢索。常見的向量索引包括FLAT、HNSW、IVF等。

向量相似度計算技術(shù)：向量相似度計算是向量數(shù)據(jù)庫的另一個核心技術(shù)，它用于度量向量之間的相似度。常見的向量相似度計算方法包括余弦相似度、歐幾里得距離等。

Embedding技術(shù)：利用Embedding技術(shù)將高維度的數(shù)據(jù)（例如文字、圖片、音頻）映射到低維度空間，即把圖片、音頻和文字轉(zhuǎn)化為向量來表示，將這些向量存儲起來就構(gòu)成向量數(shù)據(jù)庫。

4、向量數(shù)據(jù)庫在LLM中有什么用？目前有哪些典型的落地？

向量數(shù)據(jù)庫可以用于存儲和管理大規(guī)模的文本向量數(shù)據(jù)，原始的長文本內(nèi)容可以通過文本分割轉(zhuǎn)換成文本段，再由Embedding模型生成對應(yīng)的向量并存儲在向量數(shù)據(jù)庫中，從而構(gòu)建起外部知識庫。

在使用LLM進(jìn)行訓(xùn)練或預(yù)測時，可以從向量數(shù)據(jù)庫中快速地加載和查詢需要的文本向量數(shù)，這些數(shù)據(jù)可以作為大模型的外部知識輸入，幫助大模型生成更加準(zhǔn)確、包含更多私域知識的答案。同時，向量數(shù)據(jù)庫還可以使用一些特殊的算法和數(shù)據(jù)結(jié)構(gòu)，例如向量索引和相似度計算等，來提高LLM的查詢精度和效率。目前，向量數(shù)據(jù)庫已經(jīng)在很多知名的大模型中應(yīng)用。

5、目前國內(nèi)外向量數(shù)據(jù)庫市場的情況是怎樣的？

據(jù)第三方調(diào)研數(shù)據(jù)預(yù)測，全球向量數(shù)據(jù)庫到2030年預(yù)計將迎來超過500億美元的市場。國內(nèi)也將以每年超過20%的速度在增長。目前全球已有的向量數(shù)據(jù)庫產(chǎn)品主要包括Pinecone、Milvus、Weaviate、Vespa、Tencent Cloud VectorDB等。其中，超過一半的向量數(shù)據(jù)庫具有云化部署的能力。

6、騰訊發(fā)布的向量數(shù)據(jù)庫有哪些核心能力？

騰訊云剛剛發(fā)布的向量數(shù)據(jù)庫Tencent Cloud VectorDB主要具備以下能力：

高性能向量存儲、檢索：騰訊云向量數(shù)據(jù)庫具備高性能的向量存儲和檢索能力，單索引能夠輕松支持10億級別的向量規(guī)模。在分布式彈性擴(kuò)展的架構(gòu)下，單實例可支持百萬級別QPS，AI場景下向量檢索的P99響應(yīng)延遲可控制在20ms以內(nèi)，能夠覆蓋絕大多數(shù)AI場景對向量存儲和檢索的業(yè)務(wù)需求。

可視化數(shù)據(jù)管理：在向量存儲、檢索能力之上，騰訊云向量數(shù)據(jù)庫還提供了可視化的數(shù)據(jù)管理界面，進(jìn)一步降低向量數(shù)據(jù)庫的接入和使用門檻。用戶可以通過控制臺進(jìn)行數(shù)據(jù)庫、集合層面的數(shù)據(jù)管理，還可以快速執(zhí)行向量檢索等常用操作。此外，騰訊云向量數(shù)據(jù)庫還提供了可視化的數(shù)據(jù)上傳能力，幫助用戶快速構(gòu)建專屬知識庫。

一站式向量檢索方案：為了進(jìn)一步提升產(chǎn)品的易用性，騰訊云向量數(shù)據(jù)庫會提供一站式的向量檢索方案，實現(xiàn)從文本輸入到文本搜索的端到端檢索能力，用戶可以直接上傳.pdf、.txt等原始文本文件，通過平臺自動化地執(zhí)行文本分割、embedding向量化，全托管地完成知識構(gòu)建和檢索任務(wù)。

7、騰訊云發(fā)布的向量數(shù)據(jù)庫有什么特點？技術(shù)架構(gòu)是什么樣的？

Tencent Cloud VectorDB從性能上看，具備高性能、高可用、低成本等優(yōu)勢，比如單索引支持10億級向量規(guī)模，最快支持毫秒級數(shù)據(jù)實時更新，適用于AI運算、檢索，數(shù)據(jù)接入AI的效率比傳統(tǒng)方案提升10倍。

同時，提供多副本高可用特性，提高容災(zāi)能力，確保數(shù)據(jù)庫在面臨節(jié)點故障和負(fù)載變化等挑戰(zhàn)時仍能正常運行。架構(gòu)層面支持水平擴(kuò)展，單實例可支持百億級向量數(shù)據(jù)規(guī)模，輕松滿足AI場景下的向量存儲與檢索需求。目前已經(jīng)在騰訊內(nèi)部近40個業(yè)務(wù)線上穩(wěn)定運行，日均處理的搜索請求高達(dá)千億次。

對于企業(yè)開發(fā)者來說，只需在管理控制臺中單擊幾下，即可快速創(chuàng)建向量數(shù)據(jù)庫實例，全流程平臺托管，無需進(jìn)行任何安裝、部署、運維操作，減少機器成本、運維成本、人力成本開銷。

此外，VectorDB支持豐富的向量檢索能力，用戶通過RESTful API即可快速操作數(shù)據(jù)庫，開發(fā)效率高。同時控制臺提供了完善的數(shù)據(jù)管理和監(jiān)控能力，操作簡單便捷。

技術(shù)架構(gòu)上，騰訊云向量數(shù)據(jù)庫基于騰訊集團(tuán)每日處理千億次檢索的向量引擎OLAMA，底層采用Raft分布式存儲，通過Master節(jié)點進(jìn)行集群管理和調(diào)度，實現(xiàn)系統(tǒng)的高效運行。同時，騰訊云向量數(shù)據(jù)庫支持設(shè)置多分片和多副本，進(jìn)一步提升了負(fù)載均衡能力，使得向量數(shù)據(jù)庫能夠在處理海量向量數(shù)據(jù)的同時，實現(xiàn)高性能、高可擴(kuò)展性和高容災(zāi)能力。

8、騰訊內(nèi)部有哪些業(yè)務(wù)已經(jīng)在使用向量數(shù)據(jù)庫？效果怎么樣？

騰訊云向量數(shù)據(jù)庫基于騰訊集團(tuán)每日處理千億次檢索的向量引擎（OLAMA），經(jīng)過騰訊內(nèi)部海量場景的實踐，數(shù)據(jù)接入AI的效率比傳統(tǒng)方案提升10倍，運行穩(wěn)定性高達(dá)99.99%，目前已經(jīng)應(yīng)用在了騰訊視頻、QQ瀏覽器、QQ音樂等30多款產(chǎn)品中。

騰訊云向量數(shù)據(jù)庫能有效助力產(chǎn)品提升運營效率。數(shù)據(jù)顯示，使用騰訊云向量數(shù)據(jù)庫后，QQ音樂人均聽歌時長提升3.2%、騰訊視頻有效曝光人均時長提升1.74%、QQ瀏覽器成本降低37.9%。

以騰訊視頻的應(yīng)用為例，視頻庫中的圖片、音頻、標(biāo)題文本等內(nèi)容使用騰訊云向量數(shù)據(jù)庫，月均完成的檢索和計算量高達(dá)200億次，有效滿足了版權(quán)保護(hù)、原創(chuàng)識別、相似性檢索等場景需求。

9、如何理解騰訊云向量數(shù)據(jù)庫的AI Native開發(fā)范式？

騰訊云向量數(shù)據(jù)庫提供了接入層、計算層、存儲層的全面AI化解決方案，使用戶在使用向量數(shù)據(jù)庫的全生命周期，都能應(yīng)用到AI能力。

在接入層，騰訊云向量數(shù)據(jù)庫支持自然語言文本的輸入，同時采用“標(biāo)量+向量”的查詢方式，支持全內(nèi)存索引，最高支持每秒百萬的查詢量（QPS）；在計算層，AI Native開發(fā)范式能實現(xiàn)全量數(shù)據(jù)AI計算，一站式解決企業(yè)在搭建私域知識庫時的文本切分（segment）、向量化（embedding）等難題；在存儲層，騰訊云向量數(shù)據(jù)庫支持?jǐn)?shù)據(jù)智能存儲分布，助力企業(yè)存儲成本降低50%。

10、你認(rèn)為向量數(shù)據(jù)庫賽道未來競爭的核心是什么？

性能上會持續(xù)突破，包括能處理百億甚至千億條數(shù)據(jù)量；毫秒級的響應(yīng)時間和數(shù)百萬的QPS；更低的成本，在相同資源消耗的情況下提供更強大的性能。此外，在應(yīng)用場景方面，向量數(shù)據(jù)庫在推薦系統(tǒng)、搜索引擎、圖像識別等領(lǐng)域都有著廣泛的應(yīng)用。未來隨著新的應(yīng)用場景的出現(xiàn)，向量數(shù)據(jù)庫需要適應(yīng)不同的應(yīng)用場景，提供更加靈活和多樣化的解決方案，從而滿足不同用戶的需求。