在人工智能時(shí)代，企業(yè)和開發(fā)人員越來(lái)越多地利用大型語(yǔ)言模型 (LLM) 來(lái)簡(jiǎn)化數(shù)據(jù)分析和客戶交互。 OpenRAG 是一款開源生成人工智能 (GenAI) 應(yīng)用程序，通過(guò)將法學(xué)碩士的靈活性與跨各種向量數(shù)據(jù)庫(kù)的高效數(shù)據(jù)查詢功能相結(jié)合，為用戶提供支持。無(wú)論您是處理 PDF、查詢大型數(shù)據(jù)集還是從存儲(chǔ)的數(shù)據(jù)中尋求見解，OpenRAG 都可以使用自然語(yǔ)言查詢與您的數(shù)據(jù)無(wú)縫交互。

OpenRAG 的主要特性

1. 支持所有開源 LLM 模型 OpenRAG 旨在與各種開源 LLM 集成，讓用戶可以自由選擇最適合其獨(dú)特用例的模型。該平臺(tái)的可擴(kuò)展性允許未來(lái)擴(kuò)展，確保用戶可以不受任何限制地利用人工智能領(lǐng)域的最新進(jìn)展。

2. 多個(gè)開源矢量數(shù)據(jù)庫(kù)集成 OpenRAG 已預(yù)先配置為支持流行的開源矢量數(shù)據(jù)庫(kù)，例如 Chroma、FAISS 和 Qdrant。這些數(shù)據(jù)庫(kù)有助于高性能矢量搜索和檢索，確保用戶在查詢數(shù)據(jù)時(shí)獲得精確的結(jié)果。

3. PDF 上傳和數(shù)據(jù)查詢OpenRAG 的一項(xiàng)突出功能是能夠上傳 PDF 文件并將其轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)集合。這使得該應(yīng)用程序?qū)τ谔幚泶罅炕?PDF 的信息的專業(yè)人員非常有用。上傳 PDF 后，用戶可以使用自己選擇的法學(xué)碩士查詢內(nèi)容，快速有效地提取見解。

4. 持久集合名稱以實(shí)現(xiàn)可重用性 OpenRAG 為上傳的 PDF 分配唯一的集合名稱，允許用戶返回和查詢數(shù)據(jù)，而無(wú)需重新上傳相同的文件。此功能可以節(jié)省時(shí)間并使數(shù)據(jù)管理更加無(wú)縫。

5. 矢量數(shù)據(jù)庫(kù)的一致性 用法 OpenRAG 通過(guò)將數(shù)據(jù)集合綁定到特定的矢量數(shù)據(jù)庫(kù)來(lái)保持一致性。一旦選擇采集后，用戶就無(wú)法切換數(shù)據(jù)庫(kù)，保證每次數(shù)據(jù)檢索穩(wěn)定準(zhǔn)確。

OpenRAG 入門

在深入人工智能驅(qū)動(dòng)的數(shù)據(jù)查詢世界之前，請(qǐng)確保滿足以下先決條件才能順利安裝：

先決條件

Python 版本： 確保您安裝了 Python 3.9 或更高版本。
Qdrant Docker 映像： OpenRAG 與 Qdrant 集成，并且該映像應(yīng)該正在運(yùn)行。確保本地主機(jī)上的端口 6333 可以訪問。

安裝

1. 克隆存儲(chǔ)庫(kù)：

git 克隆 https://github.com/yourrepo/openrag.git

1. 創(chuàng)建虛擬環(huán)境：

python3 -m venv openrag-env
source openrag-env/bin/activate

1. 安裝依賴項(xiàng)：

pip install -r requests.txt

1. 下載 Spacy 語(yǔ)言模型：

python3 -m spacy download en_core_web_sm

1. 運(yùn)行應(yīng)用程序：

uvicorn main:app --reload

Docker化以方便部署

對(duì)于喜歡使用 Docker 進(jìn)行部署的開發(fā)人員，OpenRAG 可以容器化：

1. 構(gòu)建 Docker 鏡像：

docker build -t openrag-app .

1. 運(yùn)行容器：

docker run -d -p 8000:8000 openrag-app

應(yīng)用程序運(yùn)行后，通過(guò)瀏覽器中的 http://localhost:8000 訪問它。

用法：通過(guò) API 與 OpenRAG 交互

OpenRAG 的 API 優(yōu)先架構(gòu)使其能夠集成到各種前端應(yīng)用程序中。以下是如何上傳 PDF 并通過(guò) API 查詢其內(nèi)容的示例：

上傳 PDF

curl -X POST "http://localhost:8000/upload" \
-H "accept: application/json" \
-H "Content-Type: multipart/form-data" \
-F "file=@yourfile.pdf" \
-F "model_name=GPT-3.5" \
-F "vector_db_name=qdrant"

開始聊天會(huì)話
上傳 PDF 后，您可以發(fā)起基于聊天的查詢：

curl -X POST "http://localhost:8000/chat" \
-H "Content-Type: application/json" \
-d '{
  "collection_name": "your_collection_name",
  "query": "your_query",
  "model_name": "GPT-3.5",
  "vector_db_name": "qdrant",
  "device": "cpu"
}'

OpenRAG 的可擴(kuò)展性
OpenRAG 的最大優(yōu)勢(shì)之一是其可擴(kuò)展性。雖然它可以使用 uvicorn 等工具在本地計(jì)算機(jī)上運(yùn)行，??但它已做好生產(chǎn)準(zhǔn)備，并且可以使用云提供商、Docker 或 Kubernetes 進(jìn)行部署。在生產(chǎn)環(huán)境中，OpenRAG 支持通過(guò) Gunicorn 等工具進(jìn)行擴(kuò)展，為高流量用例提供強(qiáng)大的性能。

常見錯(cuò)誤及解決方案
用戶在開發(fā)過(guò)程中可能會(huì)遇到以下常見錯(cuò)誤：

類型錯(cuò)誤：無(wú)法直接創(chuàng)建描述符。

要解決此問題，請(qǐng)考慮將 protobuf 包降級(jí)到版本 3.20.x 或更低版本，或者設(shè)置環(huán)境變量

PROTOCOL_BUFFERS_PYTHON_IMPLMENTATION=python

結(jié)論
對(duì)于希望利用法學(xué)碩士和矢量數(shù)據(jù)庫(kù)的強(qiáng)大功能進(jìn)行數(shù)據(jù)查詢和洞察的用戶來(lái)說(shuō)，OpenRAG 是一種靈活的開源解決方案。無(wú)論您是開發(fā)人員、研究人員還是企業(yè)用戶，OpenRAG 都提供了以高效且直觀的方式處理您的數(shù)據(jù)的工具。

有關(guān)詳細(xì)的 API 文檔和更多示例，請(qǐng)?jiān)L問 OpenRAG 的 API 文檔。

為 OpenRAG 做出貢獻(xiàn)
我們歡迎社區(qū)的貢獻(xiàn)！有關(guān)如何貢獻(xiàn)、提交問題或請(qǐng)求功能的詳細(xì)信息，請(qǐng)查看 CONTRIBUTING.md。

Github 存儲(chǔ)庫(kù)鏈接
打開 Rag Repo

以上是OpenRAG：一款開源 GenAI 應(yīng)用程序，可通過(guò)大型語(yǔ)言模型增強(qiáng)數(shù)據(jù)查詢的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！