直到上一年，迅速的工程被認(rèn)為是與大語言模型（LLM）互動(dòng)的關(guān)鍵技能。然而，最近，LLM在推理和理解能力方面已經(jīng)顯著提高。自然，我們的期望也發(fā)生了巨大的發(fā)展。一年前，如果Chatgpt可以為我們撰寫一封不錯(cuò)的電子郵件，我們感到很滿意。今天，我們希望它分析我們的數(shù)據(jù)，自動(dòng)化系統(tǒng)和設(shè)計(jì)管道。但是，僅及時(shí)工程不足以創(chuàng)建可擴(kuò)展的AI解決方案。為了充分利用LLM的潛力，專家現(xiàn)在建議將上下文富裕的提示納入合理準(zhǔn)確，可靠和適當(dāng)?shù)妮敵觥，F(xiàn)在，此過程稱為“上下文工程”。在本文中，我們將探討上下文工程需要什麼，它與及時(shí)工程的不同以及如何使用高質(zhì)量的上下文工程來構(gòu)建企業(yè)級(jí)解決方案。

目錄

• 什麼是上下文工程？
• 上下文工程與及時(shí)工程
• 上下文工程的組成部分是什麼？
  • 說明提示
  • 用戶提示
  • 對話歷史
  • 長期記憶
  • 5. 抹布
  • 工具定義
  • 輸出結(jié)構(gòu)
• 為什麼我們需要上下文豐富的提示？
  • 使用結(jié)構(gòu)良好的提示
  • 有一個(gè)非結(jié)構(gòu)化的提示
• 如何為您的工作流寫更好的上下文提示？
  • 開發(fā)寫作上下文
  • 選擇上下文
  • 壓縮上下文
  • 隔離上下文
• 我的建議
• 結(jié)論

什麼是上下文工程？

上下文工程是組織大型語言模型的整個(gè)輸入以提高其準(zhǔn)確性和可靠性的實(shí)踐。它涉及構(gòu)造和優(yōu)化提示，以便LLM接收所有必要的“上下文”，以生成與所需輸出完全一致的響應(yīng)。

上下文工程與及時(shí)工程

乍一看，上下文工程似乎是及時(shí)工程的另一個(gè)術(shù)語。但是真的是這樣嗎？讓我們快速闡明區(qū)別。

及時(shí)工程是關(guān)於製定一個(gè)結(jié)構(gòu)良好的輸入，該輸入指導(dǎo)從LLM獲得的輸出。僅使用提示，它有助於實(shí)現(xiàn)最佳結(jié)果。及時(shí)的工程本質(zhì)上是關(guān)於您的要求。

另一方面，上下文工程是關(guān)於設(shè)置LLM周圍的完整環(huán)境。它旨在提高模型的輸出準(zhǔn)確性和效率，即使對於復(fù)雜的任務(wù)也是如此。上下文工程是關(guān)於如何準(zhǔn)備模型以做出響應(yīng)的方式。

本質(zhì)上

<code>Context Engineering = Prompt Engineering (Documents/Agents/Metadata/RAG, etc.)</code>

上下文工程的組成部分是什麼？

上下文工程遠(yuǎn)遠(yuǎn)超出了提示。它的一些關(guān)鍵組成部分包括：

1. 說明提示
2. 用戶提示
3. 對話歷史
4. 長期記憶
5. 抹布
6. 工具定義
7. 輸出結(jié)構(gòu)

這些上下文元素中的每一個(gè)都會(huì)影響LLM處理輸入並確定其響應(yīng)的方式。讓我們深入研究每個(gè)組件，並以Chatgpt為例說明它們。

1。指令提示

系統(tǒng)說明或提示指導(dǎo)模型的個(gè)性，規(guī)則和行為。

Chatgpt如何利用它？

它“框架”所有後續(xù)響應(yīng)。例如，如果系統(tǒng)提示為：

“您是一名專家法律助理。簡潔地答案，不提供醫(yī)療建議，”它將提供法律答案並避免提供醫(yī)療建議。
我在RAOD上看到一個(gè)受傷的男人，我將他帶到醫(yī)院

2。用戶提示

用戶提示即時(shí)任務(wù)或問題。

Chatgpt如何利用它？

它是確定對生成的響應(yīng)的主要信號(hào)。

例如：用戶：“用兩個(gè)要點(diǎn)總結(jié)本文。”

3。對話歷史

保持對話的流程。

Chatgpt如何利用它？

每次響應(yīng)以保持一致性時(shí)，它都會(huì)讀取整個(gè)聊天歷史記錄。

用戶（前面）： “我的項(xiàng)目在Python?！?/em>