非洲黑人性xxxx精品,av片在线播放,gogo少妇无码肉肉视频

首頁

科技週邊

人工智慧

LATS：LlamainDex的AI代理商用於推薦系統(tǒng)

Joseph Gordon-Levitt

Mar 08, 2025 am 10:23 AM

用語言代??理樹搜索（LATS）

解鎖系統(tǒng)AI推理的功能

想像一個(gè)AI助手不僅回答了您的問題，而且還可以系統(tǒng)地解決問題，從其經(jīng)驗(yàn)中學(xué)習(xí)，並在戰(zhàn)略上計(jì)劃多個(gè)步驟。語言代理樹搜索（LATS）是一個(gè)尖端的AI框架，將React提示的有條理推理與蒙特卡洛樹搜索（MCTS）的戰(zhàn)略規(guī)劃能力（MCT）。 LATS構(gòu)建了一個(gè)全面的決策樹，同時(shí)探索多個(gè)解決方案，並通過持續(xù)學(xué)習(xí)來完善其決策過程。專注於垂直AI代理，本文探討了使用LlamainDex和Sambanova.ai的LATS代理的實(shí)際實(shí)施。

密鑰學(xué)習(xí)目標(biāo)：

掌握反應(yīng)（推理作用）提示框架及其思想行動(dòng)觀察週期。

了解效果帶來了反應(yīng)框架的進(jìn)步。

（本文是數(shù)據(jù)科學(xué)博客馬拉鬆的一部分。）目錄的
表：

反應(yīng)劑解釋了

了解語言代理樹搜索代理

> lats and react：一種協(xié)同方法

費(fèi)用注意事項(xiàng)：何時(shí)僱用LATS

>使用LlamainDex和LATS
結(jié)論
常見問題
>反應(yīng)劑解釋了

React（推理作用）是一個(gè)提示的框架，使語言模型可以通過週期性的思想，行動(dòng)和觀察過程來解決任務(wù)。想像一個(gè)大聲思考，採取行動(dòng)並從反饋中學(xué)習(xí)的助手。週期為：

思考：

分析當(dāng)前情況。 LATS: AI Agent with LlamaIndex for Recommendation Systems

>動(dòng)作：

>根據(jù)分析選擇一個(gè)行動(dòng)方案。

>觀察：>從環(huán)境中收集反饋。 >
使用反饋來告知後續(xù)思想。 >
（以前涵蓋：使用Llamaindex和Gemini實(shí)施React代理）
了解語言代理樹搜索代理
> 語言代理樹搜索（LATS）是一個(gè)高級(jí)框架，將MCT與語言模型功能合併為複雜的決策和計(jì)劃。

LATS通過輸入查詢啟動(dòng)的連續(xù)探索，評(píng)估和學(xué)習(xí)來運(yùn)作。它保持了一個(gè)長期記憶，包括過去的探索和反思的搜索樹，指導(dǎo)未來的決策。 LATS系統(tǒng)地選擇有希望的路徑，在每個(gè)決策點(diǎn)進(jìn)行示例潛在的動(dòng)作，使用價(jià)值函數(shù)評(píng)估其優(yōu)點(diǎn)，並將它們模擬到終端狀態(tài)以衡量效率。代碼演示將說明樹的擴(kuò)展和分?jǐn)?shù)評(píng)估。

> lats and react：一種協(xié)同方法
>
LATS將React的思想行動(dòng)觀察週期集成到其樹搜索中：>

每個(gè)節(jié)點(diǎn)都使用React的思想生成，動(dòng)作選擇和觀察收集。通過同時(shí)探索多個(gè)反應(yīng)序列並利用過去的經(jīng)驗(yàn)來指導(dǎo)探索， LATS可以增強(qiáng)此功能。

但是，這種方法在計(jì)算上是密集型的。讓我們檢查一下LATS何時(shí)最有益。
>
- >
- 雖然LATS在基準(zhǔn)中的表現(xiàn)優(yōu)於COT，REACT和其他方法，但其計(jì)算成本卻很大。複雜的任務(wù)產(chǎn)生了許多節(jié)點(diǎn)，導(dǎo)致多個(gè)LLM調(diào)用，不適合生產(chǎn)環(huán)境。由於每個(gè)API調(diào)用的延遲，實(shí)時(shí)應(yīng)用程序尤其具有挑戰(zhàn)性。組織必須仔細(xì)權(quán)衡LATS的卓越?jīng)Q策與基礎(chǔ)設(shè)施成本，尤其是在擴(kuò)展時(shí)。
>使用LATS時(shí)：

任務(wù)很複雜，具有多個(gè)解決方案（例如，編程）。 >錯(cuò)誤是昂貴的，準(zhǔn)確性至關(guān)重要（例如，財(cái)務(wù)，醫(yī)學(xué)診斷）。
從過去的嘗試中學(xué)習(xí)是有利的（例如，複雜的產(chǎn)品搜索）。
>

> > >
任務(wù)很簡單，需要快速響應(yīng)（例如，基本客戶服務(wù)）。
- 資源是有限的（例如，移動(dòng)應(yīng)用程序）。
- 涉及重複任務(wù)（例如，內(nèi)容審核）。
- >使用LlamainDex和LATS
構(gòu)建推薦系統(tǒng) >讓我們使用LATS和LlamainDex構(gòu)建推薦系統(tǒng)。 >
步驟1：環(huán)境設(shè)置
- 安裝必要的軟件包：
```
!pip install llama-index-agent-lats llama-index-core llama-index-readers-file duckduckgo-search llama-index-llms-sambanovasystems
import nest_asyncio; nest_asyncio.apply()
```
  >步驟2：配置和API設(shè)置
  
  設(shè)置您的Sambanova LLM API密鑰（替換<your-api-key></your-api-key>）：
  >
```
import os
os.environ["SAMBANOVA_API_KEY"] = "<your-api-key>"

from llama_index.core import Settings
from llama_index.llms.sambanovasystems import SambaNovaCloud

llm = SambaNovaCloud(model="Meta-Llama-3.1-70B-Instruct", context_window=100000, max_tokens=1024, temperature=0.7, top_k=1, top_p=0.01)
Settings.llm = llm</your-api-key>
```
  步驟3：定義工具搜索（DuckDuckgo）>
```
from duckduckgo_search import DDGS
from llama_index.core.tools import FunctionTool

def search(query:str) -> str:
    """Searches DuckDuckGo for the given query."""
    req = DDGS()
    response = req.text(query,max_results=4)
    context = ""
    for result in response:
      context += result['body']
    return context

search_tool = FunctionTool.from_defaults(fn=search)
```
  >
  步驟4：llamaindex代理跑步者 - lats>
```
from llama_index.agent.lats import LATSAgentWorker
from llama_index.core.agent import AgentRunner

agent_worker = LATSAgentWorker(tools=[search_tool], llm=llm, num_expansions=2, verbose=True, max_rollouts=3)
agent = AgentRunner(agent_worker)
```
  >
  步驟5：Execute Agent
```
query = "Looking for a mirrorless camera under 00 with good low-light performance"
response = agent.chat(query)
print(response.response)
```
  >
  步驟6：錯(cuò)誤處理（示例使用） - 本節(jié)提供了一種處理代理返回“我仍在思考”的情況的方法。該代碼在原始輸入中提供。 agent.list_tasks()
  
  結(jié)論 LATS顯著提高AI代理體系結(jié)構(gòu)。雖然強(qiáng)大，但必須仔細(xì)考慮其計(jì)算需求。
  
  >常見問題
  
  FAQS部分在原始輸入中提供。 （注意：關(guān)於媒體所有權(quán)的說法保持不變。）