LangChain 建構新一代生成式 AI 應用

– 8 分鐘閱讀

LangChain 是一個功能強大的框架，協助開發者建構根據大語言模型（LLM）的應用程式。我將探討 LangChain 的核心元件、生態系統以及實戰應用，帶您領略新一代生成式 AI 應用開發的魅力。

LangChain 框架核心元件剖析

LangChain 提供一系列關鍵元件，讓開發者能更有效率地運用 LLM：

  • 模型 I/O： 管理進出語言模型的資料格式，確保資料以 LLM 能理解的方式傳輸，並將 LLM 的輸出轉換為應用程式可用的格式。
  • 提示詞工程： 引導 LLM 生成有效回應的關鍵。精心設計的提示詞可以控制對話方向、確保回應的相關性，並提升 LLM 的效能。
  • 聊天模型： 專為處理類別似聊天的互動而設計的介面，允許以聊天訊息作為輸入，並以對話格式取得回應，適用於建構聊天機器人和互動式應用程式。
  • 大語言模型 (LLM)： 理解和生成類別似人類文字的 AI 模型，擅長文字生成、問答和資訊提取等任務。LLM 的能力已超越文書處理，透過各種擴充功能，現在可以生成和操作影像、處理和建立音訊內容、協助程式碼生成和分析，以及執行基本推理任務。
  • 資訊檢索： LangChain 的一大進展，將應用程式特定資料與語言模型連結起來，非常適合像檢索增強生成 (RAG) 之類別的應用。它使模型能從大量資料集中提取相關資訊，以產生更具意義的回應。
  • 檔案載入器： 從各種來源匯入資料，並將其格式化為檔案以供應用程式處理。它支援載入文字檔、從資料函式庫提取資料或從網路擷取內容。
  • 文字分割器： 將大量的文字切割成更小的、更易於管理的部分，簡化處理過程，並透過聚焦於最相關的文字片段來提升模型的效能。
  • 嵌入模型： 將文字區塊轉換為向量表示。這些向量以數值格式擷取文字的精髓，可用於透過大型資料集執行自然語言搜尋。
  • 資料儲存與檢索： LangChain 支援多種有效儲存和檢索資料的選項，包含向量資料函式庫和圖形資料函式庫。向量資料倉管理向量表示，用於透過非結構化資料進行自然語言搜尋。圖形資料函式庫則更適合處理高度連線的資料。

LangChain 架構示意圖

  graph LR
    A[應用程式] --> B(LangChain);
    B --> C{模型 I/O};
    B --> D{提示詞工程};
    B --> E{聊天模型};
    B --> F[LLM];
    B --> G{資訊檢索};
    B --> H{檔案載入器};
    B --> I{文字分割器};
    B --> J{嵌入模型};
    B --> K{資料儲存與檢索};

上圖展示了 LangChain 作為橋樑，連線應用程式和各種 LLM 相關元件，實作更靈活和高效的 AI 應用開發。

問答系統實戰：產品描述生成器

以下程式碼範例展示如何使用 LangChain 的 LLMChain 建立一個簡單的產品描述生成器：

from langchain.llms import OpenAI
from langchain.prompts import PromptTemplate
from langchain.chains import LLMChain

# 初始化語言模型 (請替換為您的 OpenAI API 金鑰)
llm = OpenAI(temperature=0.9, openai_api_key="YOUR_OPENAI_API_KEY")

# 定義提示詞範本
prompt = PromptTemplate(
    input_variables=["product"],
    template="請用一句話描述這個產品：{product}",
)

# 建立 LLMChain
chain = LLMChain(llm=llm, prompt=prompt)

# 測試產品描述生成
product = "智慧型手機"
print(chain.run(product))

product = "降噪耳機"
print(chain.run(product))

這段程式碼首先初始化一個 OpenAI 語言模型，然後定義一個提示詞範本，最後使用 LLMChain 將模型和提示詞連結起來。執行 chain.run() 方法，傳入產品名稱，即可獲得 LLM 生成的產品描述。記得將 YOUR_OPENAI_API_KEY 替換成您自己的 OpenAI API 金鑰。

LangChain 生態系統：社群的力量

LangChain 的生態系統持續擴充套件，社群貢獻了許多實用工具，例如 Twitter 資料載入器：

from langchain_community.document_loaders import TwitterTweetLoader

# 初始化 Twitter 載入器 (請替換為您的 Twitter bearer token)
loader = TwitterTweetLoader(
    query="LangChain",
    bearer_token="YOUR_TWITTER_BEARER_TOKEN",
    num_tweets=100
)

# 載入推文
documents = loader.load()

# 顯示載入的推文數量
print(f"已載入 {len(documents)} 則推文")

這個範例示範瞭如何使用 LangChain 社群貢獻的 Twitter 載入器來擷取推文。 TwitterTweetLoader 允許您根據查詢搜尋推文，並將它們載入為檔案，以便在 LangChain pipeline 中進一步處理。請注意，您需要一個 Twitter 開發者帳戶和一個 bearer token 才能使用此載入器。使用此載入器時，請注意 Twitter 的 API 使用限制和服務條款。記得將 YOUR_TWITTER_BEARER_TOKEN 替換成您自己的 Twitter bearer token。

透過 LangChain，您可以簡化開發流程、提升應用程式的彈性和可擴充性，並開啟創新可能性，同時解決 LLM API 的固有挑戰。

LangChain 不僅提供核心元件，更透過社群的力量持續發展，為開發者提供豐富的工具和資源，建構更強大、更具彈性的 LLM 應用。 我鼓勵各位深入探索 LangChain 的檔案和社群資源，持續精進您的生成式 AI 應用開發技能。

LangChain 與 OpenAI：開發高效能對話應用程式

身為技術工作者，我致力於探索如何利用先進工具簡化複雜任務。LangChain 和 OpenAI 的結合，正是我近期鑽研的重點，它提供了一種強大與優雅的方式與大語言模型 (LLM) 互動，並建構結構化的輸入和輸出流程。

精準問答：單輪對話

首先，我們來建構一個精準問答應用程式。此應用程式專注於單輪問答互動，並透過特定的提示結構設定上下文，例如健康工作者。它旨在接收單一輸入並提供單一輸出，適用於特定領域或上下文，並希望獲得單一查詢的答案。

!pip install langchain_core==0.2.17 langchain_openai==0.1.16

from langchain_openai import OpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

# 設定輸出解析器
output_parser = StrOutputParser()

# 建立提示範本，設定系統角色為健康工作者
prompt = ChatPromptTemplate.from_messages([
    ("system", "你是一位世界知名的健康工作者，尤其擅長心血管活動。"),
    ("user", "{input}")
])

# 初始化 OpenAI 模型
llm = OpenAI(api_key="你的 OpenAI 金鑰")

# 建立鏈，定義應用程式與 LLM 的互動方式
chain = prompt | llm | output_parser

# 執行鏈，提供輸入"每天步行一英里的好處是什麼？"
output = chain.invoke({"input": "每天步行一英里的好處是什麼？"})

# 顯示輸出
print(output)

這段程式碼首先安裝必要的 LangChain 和 OpenAI 套件。接著，它定義了一個輸出解析器，用於處理 LLM 的回應。一個設定為健康工作者的提示範本引導模型的輸出。之後，初始化 OpenAI 模型，並建立一個鏈，將提示、LLM 和輸出解析器串連起來。最後，它執行鏈，提供輸入並顯示輸出。

如果執行過程中遇到錯誤，可以將錯誤訊息貼到 Gemini 或 ChatGPT 中，它們可以根據你使用的 OpenAI 和 LangChain 版本提供正確的語法建議。

持續互動：建構聊天機器人

接下來，我們建構一個更進階的對話應用程式——聊天機器人。它允許多輪互動，沒有預先定義的上下文或角色，可以處理各種主題的對話。

!pip install openai==1.35.13 langchain==0.2.7 langchain_openai==0.1.16
!pip show openai langchain langchain_openai

from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage
import os

# 設定 API 金鑰作為環境變數 (更安全)
os.environ["OPENAI_API_KEY"] = "你的 OpenAI 金鑰"

# 建立 ChatOpenAI 物件
chat_model = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0)

# 建立函式來產生回應
def generate_response(text):
    messages = [HumanMessage(content=text)]
    response = chat_model.invoke(messages)
    return response.content

# 建立迴圈與聊天機器人互動
while True:
    # 取得使用者輸入
    user_input = input("輸入訊息 (或輸入 'quit' 離開): ")
    if user_input.lower() == 'quit':
        break
    # 產生回應
    response = generate_response(user_input)
    # 顯示回應
    print("AI:", response)

這段程式碼首先安裝必要的套件，並設定 OpenAI API 金鑰作為環境變數，確保安全性。接著，它建立了一個 ChatOpenAI 物件，並定義了一個 generate_response 函式，用於接收使用者輸入並產生回應。建立一個迴圈，讓使用者可以持續與聊天機器人互動，直到輸入 “quit” 為止，實作了多輪對話的功能。

  graph LR
    A[使用者輸入] --> B{產生回應};
    B --> C[顯示回應];
    C --> A;
    A -- 輸入 'quit' --> D[離開];

這篇文章介紹了 LangChain 與 OpenAI 結合的兩種應用：單輪問答和多輪對話。透過提示工程和鏈式結構，我們可以有效地控制 LLM 的行為，並建構更複雜的應用程式。

解開對話式 AI 的奧秘：從問答系統到聊天機器人

在人工智慧領域中，對話式 AI 正以驚人的速度發展，從簡單的問答系統到複雜的聊天機器人，各種應用層出不窮。我將探討如何運用 LangChain 和 OpenAI 開發這些引人入勝的應用，並分享我在實務中的一些心得體會。

問答系統與聊天機器人的差異

問答系統和聊天機器人雖然都屬於對話式 AI 的範疇，但在設計和功能上卻有著顯著的區別。問答系統專注於提供特定問題的精確答案，例如查詢產品資訊或技術檔案。而聊天機器人則更注重互動性和持續性對話，可以進行多輪問答，甚至模擬人類的閒聊。

以下圖表更清晰地展示了兩者的主要差異：

  graph LR
    A[問答系統] --> B(單輪問答);
    C[聊天機器人] --> D(多輪對話);
    B --> E[特定領域];
    D --> F[通用領域];

問答系統通常根據 OpenAI 模型，使用 ChatPromptTemplate 處理提示，並透過 StrOutputParser 解析輸出。而聊天機器人則多使用 ChatOpenAI 模型，以 HumanMessage 處理提示，直接存取 response.content 取得回應。在 API 金鑰處理方面，問答系統直接傳遞金鑰，而聊天機器人則更傾向於使用環境變數，以提升安全性。

構建對話式 AI 的關鍵技術

LangChain 提供了簡化的介面和工具，讓開發者能更輕鬆地使用 OpenAI 的強大功能。透過 LangChain，我們可以有效管理提示、鏈式呼叫多個 LLM，並整合外部資料源，開發更智慧的對話式 AI。

LangChain 的 ChatPromptTemplate 能夠有效地構建和管理提示，確保 LLM 接收清晰的指令。而 StrOutputParser 則簡化了輸出解析的過程，讓開發者能更專注於業務邏輯的開發。

from langchain.prompts import ChatPromptTemplate
from langchain.output_parsers import StrOutputParser

# 建立提示範本
template = ChatPromptTemplate.from_template("請解釋 {concept}")

# 使用提示範本生成提示
prompt = template.format_prompt(concept="人工智慧")

# 解析 LLM 的輸出
output_parser = StrOutputParser()
response = llm(prompt.to_messages())
parsed_response = output_parser.parse(response)

print(parsed_response)

克服開發挑戰：錯誤處理與除錯

在開發過程中，難免會遇到各種錯誤和挑戰。以下是我在實務中總結的一些除錯策略：

  • API 連線問題： 檢查網路連線、API 端點和伺服器狀態。
  • 驗證錯誤： 確認 API 金鑰的有效性和正確性。
  • 速率限制： 適當調整請求頻率或使用快取機制。
  • 無效請求錯誤： 檢查請求引數和操作是否符合 API 規範。
  • 模型特定限制： 注意輸入和輸出 token 的限制，並根據需要調整。
  graph LR
    A[問題發生] --> B{檢查 API 金鑰};
    B -- 有效 --> C{檢查網路連線};
    C -- 正常 --> D{檢查程式碼語法};
    D -- 正確 --> E{使用日誌記錄};

日誌記錄是除錯的利器，可以追蹤程式碼執行過程，找出問題所在。同時，仔細閱讀官方檔案和參考範例程式碼也能幫助我們更快地解決問題。

LangChain 和 OpenAI 為開發者提供了強大的工具，讓我們能夠更輕鬆地構建各種對話式 AI 應用。透過理解這些工具的特性和最佳實踐，我們可以開發更具互動性和智慧的使用者經驗。

玄貓

玄貓

技術愛好者，專注於分享程式開發、雲端技術與 AI 應用的心得體會。