AI 創造力：LangChain 框架與大語言模型的應用

– 3 分鐘閱讀

身為技術工作者，我持續關注 AI 領域的最新發展。大型語言模型（LLM）與 LangChain 框架的結合，展現出巨大的應用潛力。LangChain 就像一座橋樑，連線 LLM 的強大能力與實際應用，它簡化了開發流程，使開發者能更輕鬆地構建各種生成式 AI 應用，例如智慧問答系統、互動式聊天機器人，以及基於檢索增強生成（RAG）的進階搜尋應用。

LangChain 的核心價值

LangChain 的模組化設計、可擴充架構、活躍的開源社群，以及零成本特性，使其成為建構 LLM 應用程式的理想選擇。它抽象化了直接與 LLM API 互動的複雜性，讓開發者可以更專注於應用邏輯。

LangChain 核心元件架構圖

圖表描述 (Alt Text): 此架構圖展示LangChain的核心元件，包括模型（Models）、提示（Prompts）、索引（Indexes）、鏈（Chains）、記憶體（Memory）和回呼（Callbacks），以及它們如何協同工作以支援智慧問答、聊天機器人等AI應用。

PlantUML 圖表

LangChain 的核心元件包括：

  1. 模型 (Models): 提供與各種 LLM（如 GPT-4, PaLM）互動的標準化介面。
  2. 提示 (Prompts): 提供工具來建構和管理引導 LLM 輸出的提示。
  3. 索引 (Indexes): 組織和結構化外部資料，讓 LLM 更有效地存取。
  4. 鏈 (Chains): 將多個元件（如模型、提示）組合在一起，建立複雜的應用流程。
  5. 記憶體 (Memory): 讓應用在不同互動間保留資訊，如對話歷史。
  6. 回呼 (Callbacks): 提供監控和記錄應用執行情況的方法，有助於除錯。

LangChain 實戰：從直接 API 呼叫到框架應用

為了理解 LangChain 的價值，讓我們比較直接呼叫 OpenAI API 和使用 LangChain 兩種方式。

1. 直接呼叫 OpenAI API

這種方式直接、透明，但程式碼與特定 API 緊密耦合。

import os
import openai

# 建議使用環境變數來管理 API 金鑰
# os.environ["OPENAI_API_KEY"] = "YOUR_API_KEY"
# openai.api_key = os.getenv("OPENAI_API_KEY")

# 直接呼叫 API
response = openai.Completion.create(
    model="text-davinci-003", # 注意：此模型已棄用，僅為範例
    prompt="創作一個關於一隻會寫程式的貓的短篇故事。",
    max_tokens=300 # 設定生成內容的最大長度
)
print(response.choices[0].text)

分析：此方法雖然直接，但如果要更換模型（例如換成 Google 的 PaLM），就需要重寫 API 呼叫的部分。此外，管理對話歷史和組合多個呼叫會變得非常複雜。

2. 使用 LangChain 框架

LangChain 抽象化了底層的 API 呼叫，提供了更高的靈活性和模組化。

from langchain.llms import OpenAI
from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain
import os

# 初始化 LLM
# api_key = os.getenv("OPENAI_API_KEY")
llm = OpenAI(temperature=0.7) # temperature 參數控制生成結果的創造性，數值越高越隨機

# 定義提示範本 (Prompt Template)
prompt_template = PromptTemplate(
    input_variables=["topic"], # 定義輸入變數
    template="創作一個關於一隻會寫 {topic} 的貓的短篇故事。" # 提示的模板
)

# 建立 LLMChain，這是 LangChain 中最基礎的鏈
chain = LLMChain(llm=llm, prompt=prompt_template)

# 執行鏈
response = chain.run("Python 程式")
print(response)

分析：

  • 模型無關性：如果想更換 LLM，只需更改 llm = OpenAI(...) 這一行，例如換成 llm = HuggingFaceHub(...)，而不需要修改後續的鏈和執行邏輯。
  • 提示管理：PromptTemplate 使得提示的管理和複用變得非常簡單。
  • 鏈式操作：LLMChain 是最簡單的鏈，LangChain 還支援更複雜的鏈，如 SequentialChain，可以將多個操作串聯起來。

結論

LangChain 與 LLM 的結合，為 AI 領域帶來了更多創新和突破。它不僅簡化了開發流程，更透過其模組化的設計，讓開發者能夠輕鬆構建出強大、靈活且可擴充的生成式 AI 應用。對於希望踏入 AI 應用開發領域的技術工作者來說，掌握 LangChain 無疑是開啟無限可能性的金鑰。

玄貓

玄貓

技術愛好者，專注於分享程式開發、雲端技術與 AI 應用的心得體會。