使用 LangChain 和 Llama3 構(gòu)建文章生成器：人工智能開(kāi)發(fā)者之旅

作為一名 AI 開(kāi)發(fā)人員，我經(jīng)常發(fā)現(xiàn)自己在尋找使復(fù)雜的大型語(yǔ)言模型 (LLM) 交互更易于管理的方法。 LangChain 引起了我的注意，不僅因?yàn)樗谌斯ぶ悄荛_(kāi)發(fā)社區(qū)中越來(lái)越受歡迎，還因?yàn)樗鉀Q常見(jiàn)的 LLM 集成挑戰(zhàn)的實(shí)用方法。該框架將復(fù)雜的法學(xué)碩士操作轉(zhuǎn)變?yōu)楹?jiǎn)化的工作流程的聲譽(yù)引起了我的興趣，并對(duì)其進(jìn)行了測(cè)試。我決定構(gòu)建一個(gè)文章生成系統(tǒng)，將 LangChain 的功能與 Llama3 模型結(jié)合起來(lái)，創(chuàng)建一個(gè)具有實(shí)際應(yīng)用的工具。

為什么浪鏈有意義

LangChain 通過(guò)提供結(jié)構(gòu)化、直觀的方法來(lái)處理復(fù)雜操作，改變了我們與法學(xué)碩士互動(dòng)的方式。將其視為精心設(shè)計(jì)的開(kāi)發(fā)套件，每個(gè)組件都有特定的用途。該框架提供了一個(gè)干凈的界面，從開(kāi)發(fā)人員的角度來(lái)看，感覺(jué)很自然，而不是兼顧原始 API 調(diào)用和手動(dòng)管理提示。這不僅僅是為了簡(jiǎn)化流程，而是為了使 LLM 應(yīng)用程序更加可靠和可維護(hù)。

浪鏈關(guān)鍵組件

LangChain 的核心是使用鏈，即連接在一起的操作序列來(lái)創(chuàng)建更復(fù)雜的行為。這些鏈執(zhí)行從格式化提示到處理模型響應(yīng)的所有操作。雖然該框架包括用于管理提示和維護(hù)交互上下文的復(fù)雜系統(tǒng)，但我將主要關(guān)注我們的文章生成器的鏈和提示方面。

文章生成器

對(duì)于這個(gè)項(xiàng)目，我想構(gòu)建一些實(shí)用的系統(tǒng)，可以根據(jù)主題、長(zhǎng)度、語(yǔ)氣和目標(biāo)受眾等特定參數(shù)生成定制文章。通過(guò) Ollama 訪問(wèn)的 Llama3 模型為這項(xiàng)任務(wù)提供了性能和靈活性的適當(dāng)平衡。

入門(mén)

設(shè)置很簡(jiǎn)單：

1. 首先，我安裝了必要的軟件包：

pip install langchain langchain-ollama requests

1. 然后，我設(shè)置了 Ollama：
   1. 我從 https://ollama.com/blog/llama3 下載并安裝了 Ollama
   2. 在一個(gè)新終端中，我啟動(dòng)了 Ollama 服務(wù)器：

ollama serve

1. 我拉了Llama3模型：

ollama pull llama3

使用文章生成器時(shí)，Ollama 服務(wù)器必須在其終端中運(yùn)行。如果關(guān)閉，生成器將無(wú)法連接到模型。

構(gòu)建核心組件

讓我們來(lái)分解一下系統(tǒng)各個(gè)部分的工作原理：

連接管理

這個(gè)簡(jiǎn)單的檢查有助于通過(guò)盡早發(fā)現(xiàn)連接問(wèn)題來(lái)避免運(yùn)行時(shí)錯(cuò)誤。這是檢查 Ollama 服務(wù)器連接的可靠方法：

pip install langchain langchain-ollama requests

型號(hào)配置

模型設(shè)置對(duì)于在我們生成的內(nèi)容中獲得適當(dāng)?shù)钠胶庵陵P(guān)重要：

ollama serve

這些參數(shù)代表了我在測(cè)試文章生成的各種組合后發(fā)現(xiàn)的最佳點(diǎn)。

溫度 (0.7): 控制輸出的隨機(jī)性。較低的值（如 0.3）將使文本更可預(yù)測(cè)，而較高的值（如 0.9）將使其更具創(chuàng)意。 0.7 是一個(gè)很好的平衡。

Top_p (0.9): 此參數(shù)也稱為核心采樣，告訴模型要考慮多少個(gè)單詞選項(xiàng)。在 0.9 時(shí)，它會(huì)考慮足夠的選項(xiàng)來(lái)保持文本的趣味性，同時(shí)保持對(duì)主題的關(guān)注。

num_ctx(4096): 上下文窗口大小，或者模型一次可以處理多少文本。這為輸入和大量文章輸出提供了足夠的空間，因?yàn)樗梢蕴幚泶蠹s 3000-3500 個(gè)單詞。

及時(shí)工程

提示模板是我們定義模型所需內(nèi)容的地方：

ollama pull llama3

發(fā)電管道

浪鏈最優(yōu)雅的特點(diǎn)之一就是其簡(jiǎn)單的鏈組成：

def check_ollama_connection():
    """
    Check if Ollama server is running
    """
    try:
        requests.get('http://localhost:11434/api/tags')
        return True
    except requests.exceptions.ConnectionError:
        return False

這一行創(chuàng)建了一個(gè)完整的生成管道，用于處理提示格式化、模型交互和響應(yīng)處理。

命令行界面

為了使該工具用戶友好，我實(shí)現(xiàn)了一個(gè)命令行界面：

llm = OllamaLLM(
    model="llama3",
    temperature=0.7,  # Balances creativity and consistency
    top_p=0.9,       # Helps with text diversity
    num_ctx=4096     # Sets the context window
)

實(shí)際使用

生成器的使用非常簡(jiǎn)單：運(yùn)行代碼并傳遞參數(shù)。

例子#1

article_template = """
You are a professional content writer tasked with creating a comprehensive article.

Topic: {topic}

Writing Requirements:
1. Length: Approximately {word_count} words
2. Style: {tone} tone
3. Target Audience: {audience}
4. Format: Plain text without any markdown notation
5. Additional Details/Requirements: {extra_details}

Content Structure Guidelines:
- Start with an engaging introduction that hooks the reader
- Organize content into clear sections with descriptive headings (not numbered)
- Include relevant examples, statistics, or case studies when appropriate
- Provide practical insights and actionable takeaways
- End with a compelling conclusion that summarizes key points
- Ensure smooth transitions between paragraphs and sections

Writing Style Guidelines:
- Use clear, concise language appropriate for the target audience
- Avoid jargon unless necessary for the target audience
- Incorporate relevant examples and real-world applications
- Maintain an engaging and natural flow throughout the article
- Use active voice predominantly
- Include specific details and evidence to support main points
- Ensure proper paragraph breaks for readability

Additional Notes:
- Do not use any markdown formatting
- Keep paragraphs concise and focused
- Use proper spacing between sections
- If technical terms are used, provide brief explanations
- Include a brief overview of what will be covered at the start

Please write the article now:
"""

生成的文章：

chain = prompt | llm

例子#2

def parse_arguments():
    """
    Parse command line arguments
    """
    parser = argparse.ArgumentParser(description='Generate an article using AI')

    parser.add_argument('--topic', 
                       type=str, 
                       required=True,
                       help='The topic of the article')

    parser.add_argument('--word-count', 
                       type=int, 
                       default=800,
                       help='Target word count (default: 800)')

    parser.add_argument('--tone', 
                       type=str, 
                       default='professional',
                       choices=['professional', 'casual', 'academic', 'informative', 'technical'],
                       help='Writing tone (default: professional)')

    parser.add_argument('--audience', 
                       type=str, 
                       default='general',
                       help='Target audience (default: general)')

    parser.add_argument('--extra-details', 
                       type=str, 
                       default='',
                       help='Additional requirements or details for the article')

    return parser.parse_args()

生成的文章：

python main.py \
  --topic "Benefits of playing board games with friends" \
  --word-count 200 \
  --tone casual \
  --audience "Board games lovers" \
  --extra-details "Avoid markdown notation"

主要經(jīng)驗(yàn)教訓(xùn)

通過(guò)這個(gè)項(xiàng)目，我發(fā)現(xiàn)了關(guān)于使用 LangChain 的幾個(gè)重要見(jiàn)解：

1. 性能模式：由于模型加載，第一代需要更長(zhǎng)的時(shí)間，但后續(xù)運(yùn)行速度明顯更快。
2. 上下文管理：4096 個(gè)令牌的上下文窗口為大多數(shù)文章提供了充足的空間，同時(shí)保持良好的性能。
3. 生成參數(shù)：Temperature (0.7) 和 top_p (0.9) 設(shè)置提供了創(chuàng)造力和連貫性之間的最佳平衡。

最后的想法

構(gòu)建這篇文章生成器展示了LangChain在AI開(kāi)發(fā)方面的實(shí)用價(jià)值。它可以處理法學(xué)碩士交互的復(fù)雜性，同時(shí)讓開(kāi)發(fā)人員可以自由地專注于構(gòu)建有用的功能。該框架在抽象和控制之間取得了平衡，使創(chuàng)建可靠的人工智能應(yīng)用程序變得更加容易。

對(duì)于該領(lǐng)域的親愛(ài)的同事或單獨(dú)的愛(ài)好者，我相信LangChain提供了開(kāi)發(fā)所需的所有必要意義，而最好的部分是：它不是與靈活性的權(quán)衡。考慮到人工智能工具領(lǐng)域正在呈指數(shù)級(jí)增長(zhǎng)，像LangChain這樣的框架對(duì)于構(gòu)建實(shí)用的、生產(chǎn)就緒的應(yīng)用程序?qū)⒆兊酶袃r(jià)值。

浪鏈鸚鵡和鏈條的標(biāo)志背后蘊(yùn)藏著巧妙的寓意。鸚鵡指的是法學(xué)碩士有時(shí)被稱為“隨機(jī)鸚鵡”，因?yàn)樗麄冎貜?fù)和改造人類語(yǔ)言。鏈部分是一個(gè)有趣的參考，說(shuō)明框架如何幫助將語(yǔ)言模型“鸚鵡”“鏈接”到有用的應(yīng)用程序中。

以上是使用 LangChain 和 Llama 構(gòu)建文章生成器人工智能開(kāi)發(fā)者之旅的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！