大模型語言：關鍵選擇因素

在選擇適合應用的大模型語言(LLM)時，除了模型本身的效能外，還有許多實用因素需要考量。這些因素往往決定了模型在實際應用中的可行性與效益。以下是我在評估LLM時發現的幾個決定性因素：

定價與成本結構

模型的定價結構是選擇過程中的關鍵考量因素。在實際開發過程中，我發現不同模型的計費方式可能對應用的長期成本產生巨大影響：

專有模型：如OpenAI的GPT系列和Anthropic的Claude，通常採用API呼叫計費模式，費用根據輸入和輸出的標記數量計算
開放原始碼模型：如Meta的LLaMa-2和Falcon LLM，雖然可以免費使用，但需要考慮佈署和執行的基礎設施成本

若選擇使用第三方代管服務（如Hugging Face的Inference Endpoints），則需要評估其定價結構。這些服務的費用通常根據計算資源的使用時間，而非標記數量，在某些應用場景下可能更具成本效益。

客製化彈性

模型的客製化能力是另一個重要的評估指標。我在實作過程中發現，客製化需求主要體現在兩個層面：

微調能力

微調是調整LLM引數以更好地適應特定領域的過程。不同模型在微調方面的彈性差異很大：

開放原始碼模型：幾乎所有開放原始碼模型都可以進行微調，給予開發者最大的彈性
專有模型：如OpenAI的GPT-3.5可以微調，而GPT-4的微調（截至2023年12月）仍處於實驗階段，需要特別申請

從零訓練

若需要開發高度專業化的領域模型，從零訓練可能是必要選項。這時只有開放原始碼模型能夠滿足需求，因為我們需要完整的模型架構和原始碼。

在選擇模型時，我建議先評估應用是否需要領域適應，以及適應的程度如何，再決定是否需要微調或從零訓練的能力。

領域專業能力

雖然大多數評估都根據跨領域的綜合基準測試，但在特定應用場景中，針對性的專業能力更為重要。我觀察到：

若應用需要出色的程式編寫能力，Claude 2可能是更好的選擇
若分析推理是核心需求，PaLM 2可能更為適合
若需要全面的通用能力，GPT-4通常是最佳選擇

選擇領域專精的模型還能帶來效率優勢。例如，對於特定用途，使用較小的模型（如LLaMa-7B-instruct）可能已經足夠，這不僅降低成本，還能提升效能。

領域專精模型的崛起

近年來，針對特定領域訓練的專業LLM正迅速發展。這些模型在特定領域內表現優異，與往往比通用模型更高效。以下是我觀察到的兩個代表性例子：

生物醫學領域的BioMedLM

2023年初，斯坦福大學基礎模型研究中心(CRFM)與MosaicML聯合發布了BioMedLM，這是一個擁有27億引數的解碼器模型，專門針對生物醫學論文和摘要進行訓練。該模型在醫學文獻理解和生物醫學知識提取方面表現出色，為醫療研究和臨床應用提供了新可能。

金融領域的BloombergGPT

彭博社開發的BloombergGPT是一個擁有500億引數的模型，專為金融領域開發。它根據彭博社豐富的資料源訓練，資料集包含3630億金融領域標記，以及3450億通用領域標記，可能是目前最大的領域特定資料集。這使得該模型在金融文字分析、市場趨勢預測和財務報告生成等任務上表現優異。

這些專業模型的出現表明，針對特定領域的LLM正成為一個重要趨勢，尤其適合對專業性要求極高的應用場景。

例項分析：TechGen公司的模型選擇

為了讓模型選擇框架更具實用性，我們來看一個假設的案例研究。

公司背景與需求

TechGen Solutions是一家領先的AI驅動分析服務提供商，他們正在為下一代客戶互動系統選擇合適的語言模型。他們需要一個能夠處理各種客戶查詢、提供準確技術資訊並且專有軟體整合的強大語言模型。

他們的選擇範圍縮小到兩個模型：

GPT-4：由OpenAI開發，以龐大的引數量和處理文字與影像輸入的能力聞名
LLaMa-2：由Meta AI建立，作為開放原始碼模型，以其開放性和在較小資料集上的良好表現受到讚譽

決策因素分析

TechGen在做決定時考慮了以下因素：

效能表現

TechGen特別評估了模型在生成技術內容和程式碼方面的表現，發現GPT-4在這些方面的準確性更高。這點對於他們的客戶服務系統至關重要，因為客戶經常需要精確的技術解答。

系統整合

系統整合的難易程度是關鍵考量。由於GPT-4已被廣泛採用，它可能提供更無縫的相容性，這一點對於TechGen的現有系統架構非常重要。

成本效益

雖然LLaMa-2在特定條件下可免費用於商業用途，但GPT-4需要支付費用。TechGen需要將這一成本納入他們的決策過程，評估長期營運成本與效能優勢之間的平衡。

未來發展性

TechGen還考慮了每個模型的長期可行性，包括未來更新和改進的潛力。在快速發展的AI領域，模型的持續迭代對於保持競爭力至關重要。

最終決策與理由

經過全面評估，TechGen選擇了GPT-4，主要根據以下原因：

GPT-4在生成複雜技術回應方面的卓越表現，這與他們的核心業務需求高度契合
GPT-4的多語言能力支援他們的國際擴張計劃
GPT-4的影像處理功能為他們未來整合多媒體內容到客戶服務中提供了可能性

雖然LLaMa-2的開放原始碼特性和成本效益很有吸引力，但GPT-4的進階功能和未來發展潛力更符合TechGen的遠大目標。

這個案例說明，模型選擇不僅是技術效能的比較，還需要考慮業務目標、成本結構和長期發展戰略的綜合評估。

模型選擇的實用框架

根據以上分析，我提出一個實用的模型選擇框架，幫助開發者做出明智決策：

需求定義：明確界定應用的核心功能需求和期望效能指標
領域專精評估：確定應用是否需要特定領域的專業能力
客製化需求分析：評估是否需要模型微調或從零訓練的能力
資源限制考量：評估計算資源、預算限制和佈署環境
長期發展規劃：考慮應用的擴充套件計劃和未來功能需求

這個框架不是詳盡的，但提供了一個有效的思考結構，幫助開發者在設計應用流程時確定需求並篩選出最適合的LLM。

進階選擇策略

在實際專案中，我發現以下策略可以進一步最佳化模型選擇過程：

混合模型策略

不同任務使用不同模型可能是最具成本效益的方法。例如：

使用較小的開放原始碼模型處理初步文字分類別和情感分析
僅在需要複雜推理和創意生成時呼叫更強大的專有模型

階段性採用計劃

制定階段性模型採用計劃可以幫助平衡當前需求和未來發展：

初期使用現成模型快速驗證概念
中期評估微調開放原始碼模型的可能性
長期考慮開發專門針對業務領域的定製模型

持續評估機制

建立持續評估機制，定期比較新興模型與當前使用的模型：

設定關鍵效能指標(KPIs)跟蹤模型表現
建立模型切換的決策標準
保持技術架構的靈活性，方便未來模型替換

LLM領域發展迅速，今天的最佳選擇可能很快就會被更新的技術超越。因此，保持警覺並願意適應變化是長期成功的關鍵。

在下一章中，我們將開始動手實作，探討如何在應用中有效地使用LLM，充分發揮它們的潛力。

提示工程：最佳化LLM應用的關鍵

在探討完模型選擇後，我們即將進入提示工程(Prompt Engineering)的領域。提示工程是設計和最佳化提示的過程，這些提示是引導大模型語言行為的文字輸入，廣泛應用於各種應用和研究主題。

由於提示對LLM效能有著巨大影響，提示工程在設計LLM驅動的應用時至關重要。實際上，有多種技術可以實施，不僅可以最佳化LLM的回應，還可以降低與幻覺和錯誤輸出相關的風險。

在接下來的章節中，我們將探討提示工程的核心技術和最佳實踐，幫助你充分發揮LLM在應用中的潛力。

人工智慧和大模型語言的世界正在快速演變，選擇合適的模型需要綜合考量技術、業務和資源因素。透過理解不同模型的特性、評估實際需求，並運用本文提供的決策框架，開發者可以為他們的應用選擇最合適的LLM，從而建立更人工智慧、更有效的AI驅動解決方案。

提示工程：塑造AI行為的藝術與科學

提示工程（Prompt Engineering）是當今AI應用開發中最關鍵的技能之一。作為一位長期從事AI系統設計的技術工作者，玄貓認為掌握提示工程的精髓，就像掌握了與AI對話的特殊語言。提示工程不僅是技術，更是一門藝術，需要創意、對模型的深度理解以及精確的表達能力。

在這篇文章中，我將帶領大家探索提示工程的世界，從基本概念到進階技巧，幫助你建立設計高效提示的核心能力。無論你是AI初學者還是想精進技術的開發者，這些知識都將成為你構建根據大模型語言（LLM）應用的堅實基礎。

什麼是提示工程？

提示工程是設計有效指令文字的過程，這些指令能引導大模型語言生成高品質與相關的輸出。簡單來說，提示（Prompt）是輸入到LLM的文字，它指導模型的行為並生成相應的輸出。

在實務上，我發現同一個模型在不同提示的引導下可以執行完全不同的任務。提示的設計品質直接決定了AI應用的成功與否，這也是為什麼投資時間和資源於提示工程如此重要。

提示工程專業化LLM範例

在開發多個商業AI產品的過程中，我注意到提示工程已經從簡單的指令編寫演變為一門專門的學科。它結合了語言學、心理學和電腦科學的元素，需要不斷的實驗和最佳化。接下來，讓我們探討提示工程的核心原則。

提示工程的基本原則

在設計提示時，沒有固定的規則能保證"完美"的效果，因為有太多變數需要考慮：使用的模型型別、應用的目標、支援的基礎架構等。然而，經過大量測試和實踐，我總結出一些被證明有效的核心原則。

清晰的指令是基礎

提供清晰指令的原則是給予模型足夠的資訊和指導，使其能正確與高效地執行任務。在開發過程中，我發現清晰的指令應包含以下要素：

任務的目標或目的，例如「寫一首詩」或「總結一篇文章」
預期輸出的格式或結構，如「使用四行帶押韻的詞」或「使用不超過10個字的重點符號」
任務的限制或條件，如「不使用任何粗俗語言」或「不從來源複製任何文字」
任務的背景或上下文，如「這首詩是關於秋天的」或「這篇文章來自科學期刊」

讓我們透過一個實際範例來看如何應用這些原則。假設我們希望模型從文字中提取指令並回傳一個教學清單。如果文字不包含任何指令，模型應該告知我們。

程式碼實作：指令提取器

import os
import openai

# 設定OpenAI API金鑰
openai.api_key = os.environ.get('OPENAI_API_KEY')

# 定義系統訊息（metaprompt）
system_message = """
你是一個幫助人類生成教學的AI助手。
你將獲得一段文字。如果文字包含任何關於如何進行某事的指示，請生成一個專案符號列表的教學。
否則，告知使用者該文字不包含任何指示。
文字：
"""

# 使用者的查詢（含有指示的文字）
instructions = """
要準備來自義大利熱那亞的著名醬料，你可以先烤松子，然後在廚房研缽中與羅勒和大蒜一起粗略切碎。
接著，在研缽中加入一半的油，用鹽和胡椒調味。
最後，將青醬轉移到碗中，攪拌加入磨碎的帕瑪森起司。
"""

# 呼叫OpenAI API
response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": system_message},
        {"role": "user", "content": instructions},
    ]
)

# 輸出結果
print(response['choices'][0]['message']['content'])

這段程式碼展示瞭如何使用OpenAI的GPT-3.5-turbo模型來構建一個指令提取器。程式首先設定API金鑰，然後定義了系統訊息（告訴模型它的角色和任務）和使用者輸入的文字。系統訊息明確指示模型檢查文字是否包含指示，如果包含，則生成一個教學清單；如果不包含，則告知使用者。這是一個典型的提示工程應用，透過清晰的指令引導模型實作特定功能。

當我們執行這段程式碼，模型會回傳以下輸出：

以下是準備熱那亞青醬（Pesto）的教學：

- 將松子放在平底鍋中烘烤至微微變褐
- 在廚房研缽中，將烤好的松子與羅勒葉和大蒜一起粗略切碎
- 在研缽中加入一半的橄欖油，並用鹽和胡椒調味
- 研磨混合物直到成為光滑的醬汁
- 將青醬轉移到碗中，攪拌加入磨碎的帕瑪森起司
- 可以加入更多橄欖油以達到所需的醬汁濃稠度
- 熱那亞青醬現在已經準備好了，可以搭配義大利麵、蔬菜或作為麵包的沾醬享用

如果我們嘗試傳遞一個不包含任何指示的文字，模型會按照我們的指令回應：

response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": system_message},
        {"role": "user", "content": '陽光明媚，狗兒在海灘上奔跑。'},
    ]
)
print(response['choices'][0]['message']['content'])

輸出結果會是：

您提供的文字不包含任何指示，因此無法建立教學。您是否有其他文字需要我處理？

透過提供清晰的指令，我們幫助模型理解我們想要它做什麼以及如何做。這能提高模型輸出的品質和相關性，並減少進一步修改或校正的需求。

然而，在某些情境下，僅有清晰度是不夠的。有時我們需要推斷LLM的思考方式，使其在執行任務時更加穩健。下一節將介紹一種特別適用於完成複雜任務的技術。

將複雜任務分解為子任務

在實際應用中，我經常遇到一個挑戰：有些任務對於單一提示來說太複雜或模糊，難以有效處理。這時，將複雜任務拆分為更簡單的子任務，然後用不同的提示分別解決，往往能獲得更好的結果。

這種方法在認知科學中有堅實的基礎。透過將複雜問題分解為可管理的部分，我們不僅可以減輕認知負荷，還能提高解決每個子問題的效率。同樣的原則也適用於LLM。

以下是一些將複雜任務分解為子任務的例子：

文字摘要任務拆解

文字摘要是一個複雜任務，涉及生成長文字的簡潔準確摘要。這個任務可以拆分為：

從文字中提取主要觀點或關鍵字
以連貫流暢的方式重寫這些主要觀點或關鍵字
調整摘要以符合特定長度或格式

機器翻譯任務拆解

機器翻譯任務可拆分為：

檢測文字的來源語言
將文字轉換為保留原文含義和結構的中間表示
從中間表示生成目標語言的文字

詩歌生成任務拆解

創意任務如詩歌生成可拆分為：

選擇詩歌形式（如十四行詩、俳句、打油詩等）和韻律模式
根據使用者輸入生成標題和主題
生成符合所選形式、韻律和主題的詩行
精煉和修飾詩歌以確保連貫性、流暢性和原創性

程式碼生成任務拆解

程式碼生成任務可拆分為：

選擇程式語言和框架/函式庫
生成函式名稱、引數列表和回傳值
生成實作邏輯和功能的函式主體
增加註解和檔案說明程式碼及其用法

讓我們透過一個實際的Python範例來看如何應用任務拆解原則來生成文章摘要：

import os
import openai

# 設定OpenAI API金鑰
openai.api_key = os.environ.get("OPENAI_API_KEY")

# 要摘要的文章
article = """
人工智慧（AI）正在以前所未有的速度改變世界。從醫療診斷到自動駕駛汽車，AI技術正在各個領域取得重大進展。
然而，隨著AI變得越來越強大，關於其道德影響和潛在風險的擔憂也在增加。工作者警告說，如果不謹慎開發和佈署，
AI可能會導致隱私問題、失業增加，甚至對人類安全構成威脅。因此，許多研究人員和政策制定者正在努力制定道德
準則和監管框架，以確保AI朝著有益於人類的方向發展。儘管存在這些挑戰，AI仍然是一種可以解決一些世界上最
緊迫問題的強大工具。從氣候變化到疾病診斷，AI有潛力在未來幾年內改善數十億人的生活。
"""

# 步驟1：提取主要觀點
extract_prompt = f"""
分析以下文章，提取5-7個主要觀點或關鍵字：

{article}
"""

extract_response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "user", "content": extract_prompt}
    ]
)

main_points = extract_response['choices'][0]['message']['content']

# 步驟2：重寫主要觀點為連貫摘要
rewrite_prompt = f"""
使用以下主要觀點，建立一個連貫、流暢的文章摘要：

{main_points}
"""

rewrite_response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "user", "content": rewrite_prompt}
    ]
)

draft_summary = rewrite_response['choices'][0]['message']['content']

# 步驟3：確保摘要簡潔與格式正確
finalize_prompt = f"""
修改以下摘要，確保它不超過100字，保持專業語調，並突出最重要的訊息：

{draft_summary}
"""

finalize_response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "user", "content": finalize_prompt}
    ]
)

final_summary = finalize_response['choices'][0]['message']['content']
print(final_summary)

這個程式展示瞭如何將文章摘要這一複雜任務分解為三個子任務：1) 提取主要觀點，2) 將這些觀點重寫為連貫摘要，3) 最佳化摘要以符合長度和風格要求。每個子任務都由一個專門設計的提示處理，這種方法的優勢在於每個步驟都專注於一個特定目標，使模型能夠更有效地處理每個子任務。這比嘗試用一個複雜的提示來完成整個摘要過程更可靠，也更容易調整和最佳化每個步驟。

當執行這段程式碼時，最終

提升AI表現的提示工程：任務拆解與多重答案策略

在大模型語言（LLM）應用日益普及的今天，如何讓這些AI工具產出更高品質的內容，成為許多開發者和使用者關注的焦點。透過精心設計的提示（Prompt），我們可以顯著提升模型的表現。在實際應用中，玄貓發現幾種特別有效的提示工程技巧，能夠大幅改善AI的輸出品質。

將複雜任務分解為簡單子任務

當我們面對複雜問題時，人類習慣將其拆解為更小、更容易處理的部分。這種方法同樣適用於AI模型。透過將複雜任務分解為連續的子任務，可以讓模型逐步處理，最終達到更好的結果。

以文章摘要為例，我們可以這樣設計提示：

你是一個專門摘要文章的AI助手。
完成這項任務，請執行以下子任務：
1. 全面閱讀提供的文章，識別主題和關鍵點
2. 生成一段摘要，捕捉文章的核心訊息和主要觀點
3. 列出處理過程的每個步驟

這個提示巧妙地將摘要任務分解為三個清晰的步驟。首先要求模型全面理解文章，然後生成摘要，最後還需列出思考過程。這種結構化的提示能引導模型進行更深入的分析，而不是直接跳到結論。特別是第三點「列出處理過程」，它迫使模型反思自己的思考路徑，通常能提高輸出品質。

使用這種方法後，模型產生的摘要不僅包含了核心內容，還會展示其分析過程，讓使用者能夠理解AI是如何得出這些結論的。

在處理數學問題或需要分析推理的任務時，這種拆解方法尤其有效，因為它能增強模型的分析推理能力。

值得注意的是，同一個系統提示在不同的語言模型上效果可能不一樣。適用於GPT-4的提示可能在Llama 2上效果不佳。因此，我們需要根據所選擇的特定LLM型別來設計提示。

要求模型提供理由和解釋

大模型語言在生成內容時會根據前面的內容預測下一個詞，而不會回顧自己已經生成的內容。這可能導致模型以非常有說服力的方式輸出錯誤內容。如果應用程式沒有提供特定參考來源，使用者很難驗證回答的真實性。

為瞭解決這個問題，我們可以在提示中明確要求模型為其回答提供理由和解釋。這不僅能促使模型在犯錯時自行糾正，也能讓我們瞭解模型背後的推理過程。

例如，在設計解謎題的提示時：

你是一個專門解謎題的AI助手。
給定一個謎題，請盡力解答。
提供清晰的答案解釋和背後的推理過程。

這個提示明確要求模型不僅要給出答案，還要解釋背後的推理過程。當模型被迫說明其推理時，它會更加謹慎，減少犯錯的可能性。

例如對於謎題「有臉有兩隻手，但沒有手臂和腿是什麼？」，模型回答：

「答案是時鐘。時鐘有一個帶數字的表面（臉）和兩個指標（手），它們圍繞時鐘中心旋轉以顯示時間。雖然它沒有像人類一樣的手臂或腿，但它仍然能夠測量時間，這在我們的日常生活中很重要。」

透過要求解釋，模型被迫更深入地思考問題，而不是草率地給出答案。這種方法不僅提高了回答的準確性，也讓使用者能夠理解AI的思考過程。

生成多個答案，然後選擇最佳方案

由於LLM的運作方式是根據前面的內容預測下一個詞，如果模型在某一點上選擇了錯誤的詞（即模型運氣不好），它可能會繼續生成錯誤的內容。與人類不同，LLM無法自行從錯誤中還原。

一個克服這個限制的方法是擴大選擇正確詞的機率空間。我們可以提示模型生成多個回答，然後選擇最適合使用者查詢的那一個。這將任務分為兩個子任務：

生成對使用者查詢的多個回答
比較這些回答並根據我們在提示中指定的標準選擇最佳答案

例如，對於解謎題，我們可以使用以下提示：

你是一個專門解謎題的AI助手。
給定一個謎題，你需要生成三個答案。
對於每個答案，詳細說明你的推理過程。
然後，從這三個答案中選出最合理的一個。

這個提示要求模型生成三個不同的答案，每個都有詳細的推理過程，然後選擇最可能的那一個。這種方法增加了找到正確答案的機會，同時讓模型有機會比較不同的解決方案。

對於同樣的謎題「有臉有兩隻手，但沒有手臂和腿是什麼？」，模型可能會生成：

時鐘：有表面（臉）和指標（手）
手錶：也有表面和指標
鬧鐘：同樣有表面和指標

然後模型會分析這三個答案，選擇最符合謎題描述的一個（可能是時鐘）。

這種方法特別適合於解決需要創意思考或有多個可能答案的問題。透過生成多個選項，模型可以探索不同的思路，增加找到最佳解決方案的機會。

實際應用中的提示工程策略

在實際應用這些技術時，玄貓發現了一些值得注意的策略：

結合多種技術

最有效的提示工程通常結合了多種技術。例如，我們可以先將任務分解為子任務，然後要求模型為每個子任務提供解釋，最後生成多個可能的解決方案並選擇最佳的一個。

根據任務型別調整策略

不同型別的任務需要不同的提示策略：

對於需要創意的任務（如寫作或設計），生成多個選項可能更有效
對於需要精確答案的任務（如數學或事實問題），要求詳細解釋可能更重要
對於複雜的分析任務，將其分解為子任務可能是關鍵

持續最佳化提示工程是一個迭代過程。透過觀察模型的回應，我們可以不斷調整提示以獲得更好的結果。有時，只需小幅修改提示語言或結構，就能顯著改善輸出品質。

考慮模型特性

不同的語言模型有不同的優勢和限制。GPT-4可能在處理複雜推理任務時表現更好，而其他模型可能在特定領域有優勢。瞭解所使用模型的特性，有助於設計更有效的提示。

提示工程的實用技巧

除了上述主要策略外，這裡還有一些實用的提示工程技巧：

使用明確的指示和格式

明確指定你希望回答的格式和結構。例如，如果你希望得到一個分步驟的解決方案，明確要求「請按照以下步驟解決問題：1…2…3…」

提供範例

有時，提供一個良好回答的範例可以幫助模型理解你的期望。這種「少樣本學習」（few-shot learning）方法在處理特定格式或風格的任務時特別有效。

設定角色和情境

給模型設定一個特定的角色或情境可以影響其回答的方式。例如，「你是一位經驗豐富的資料科學家，正在向非技術團隊解釋一個複雜的概念」。

使用溫度引數調整創意度

大多數LLM API允許設定「溫度」引數，控制回答的隨機性。較低的溫度（接近0）產生更確定性的回答，較高的溫度（接近1）產生更多樣化和創意的回答。

提示工程的未來發展

隨著語言模型技術的不斷進步，提示工程也在不斷發展。未來可能出現更多自動化的提示最佳化工具，幫助使用者找到最有效的提示方式。同時，模型本身也可能變得更加理解使用者意圖，減少對精確提示的依賴。

不過，無論技術如何發展，理解如何有效地與AI溝通仍然是一項寶貴的技能。透過掌握提示工程的基本原則和技巧，我們可以更好地利用這些強大工具，解決更複雜的問題。

在玄貓看來，提示工程不僅是一種技術，更是一種藝術。它需要理解AI的思維方式，以及如何引導這種思維達到我們期望的結果。隨著實踐經驗的積累，每個人都可以成為更熟練的提示工程師，充分發揮AI工具的潛力。

提示工程的核心在於找到人類思維和機器思維之間的橋樑。透過任務拆解、要求說明理由和生成多重答案等策略，我們可以顯著提升AI的表現，使其成為更有價值的工具。隨著這些技術的不斷完善和應用，我們將能夠解決更加複雜的問題，創造更多的可能性。

以下是本章的關鍵要點：

• 提示工程是一個動態與不斷發展的領域，需要兼具技術理解和創造性思維。 • 提示的結構對模型回應的品質和相關性有顯著影響。 • 將複雜任務分解為子任務可以幫助模型提供更準確、更全面的答案。 • 納入範例、使用特定格式和採用分隔符可以引導模型產生預期的輸出。 • 瞭解模型侷限性和偏見對設計能克服這些挑戰的提示至關重要。 • 思維鏈提示等技術可以鼓勵模型展示其推理過程，從而獲得更可靠的結果。 • 在元提示的結尾重複主要指令，可以幫助模型克服其近期偏見。

請記住，提示工程既是藝術也是科學。它需要實驗、迭代，以及對模型能力和侷限性的深入理解。透過應用本章概述的技術和策略，你將能夠充分利用LLMs的潛力，應用於廣泛的領域。

在下一章，我們將探索微調LLMs的迷人世界，這允許更加定製化和專門化的模型行為。這將建立在我們已經建立的提示工程基礎上，將你的LLM互動提升到新的水平。

微調大語言模型

到目前為止，我們已經探索瞭如何編寫有效的提示來引導大語言模型（LLMs）產生所需的輸出。雖然提示工程是一種強大的技術，但它有其侷限性。例如，當我們需要模型一致地執行專門任務或遵循特定時，僅依賴提示可能會導致結果不一致。這就是微調的用武之地。

微調是一個允許我們自訂預訓練模型以滿足特定需求的過程。它涉及在代表我們想要執行的任務的資料集上訓練模型，從而教導它產生符合我們期望的輸出。微調在處理特定領域或當我們需要模型一致地遵循某種結構或風格時特別有用。

在本章中，我們將探討微調LLMs的世界。我們將探索微調的好處、成功微調過程的先決條件，以及有效微調模型的步驟。我們也會討論最佳實踐和常見的陷阱。在本章結束時，你將對微調有深入的理解，並能應用這些知識來增強你的LLM應用。

要微調模型，我們需要取得模型的權重。有幾種方法可以做到這一點：

• 使用OpenAI或Anthropic的API，它們提供微調功能。 • 使用Hugging Face的transformers函式庫，它提供廣泛的預訓練模型和微調功能。 • 使用開放原始碼模型如Llama 2、Mistral或Falcon，它們允許直接存取模型的權重。

在本章中，我們將專注於使用OpenAI的API進行微調，它提供了一種直接與可存取的方式來微調模型。然而，我們將討論的概念和原則也適用於其他平台和模型。

讓我們先了解什麼是微調，以及為什麼它對某些使用案例有益。

什麼是微調？

微調是機器學習中的一個過程，在此過程中，預訓練模型在特定資料集上進一步訓練，以適應特定任務或領域。預訓練模型已經從大量資料中學習了一般知識，而微調則允許它將這些知識專門化用於特定應用。

在LLMs的背景下，微調涉及在代表你感興趣的特定任務的自訂資料集上訓練現有模型（如GPT-3.5或GPT-4）。這個過程調整模型的引數（權重），使其更好地與你的自訂資料集中的模式和關係保持一致。

微調與從頭開始訓練模型在幾方面有所不同：

• 它需要的資料少得多（通常是數百到數千個例子，而不是數百萬個）。 • 計算量較少，耗時較短。 • 它利用已經嵌入預訓練模型中的知識，所以不需要從頭開始學習一切。

微調也與提示工程不同。雖然提示工程涉及編寫有效的指令來引導模型的行為而不改變其引數，但微調實際上會修改模型的引數。這導致模型內化了來自你的自訂資料集的模式，從而產生更一致和專門化的行為。

何時使用微調vs提示工程

微調和提示工程在LLM工具箱中都有各自的位置，選擇取決於你的特定使用情境和需求。以下是一些幫助你決定的指導方針：

使用提示工程時：

• 你需要快速原型設計或一次性任務。 • 你有少量的範例或使用案例。 • 你的任務不需要在不同輸入之間保持高度一致性。 • 你沒有存取大型、高品質的資料集進行微調。 • 你的任務可以透過清晰的指示有效傳達。

使用微調時：

• 你需要遵循特定格式或風格的一致性輸出。 • 你在一個有獨特術語或知識的專門領域工作。 • 你有大量類別似的任務，可從專門模型中受益。 • 你有存取代表你所需任務的高品質資料集。 • 你需要減少與長提示相關的token使用量和延遲。

在許多情況下，混合方法可能是最有效的。你可以從提示工程開始，來原型設計和完善你的方法，然後一旦你對需求有了清晰的瞭解並收集了合適的資料集，就轉向微調。

微調的好處

微調相比於僅依靠提示工程提供了幾個優勢：

• 一致性：微調模型傾向於產生更一致的輸出，遵循特定的格式或。 • 效率：微調模型可以用更短的提示生成適當的回應，減少token使用量和延遲。 • 領域專業化：微調允許模型學習領域特定的知識和術語，提升它們在專業領域的表現。 • 減少幻覺：透過適當的微調，模型可以更好地立根據事實資訊，減少生成不正確或編造內容的可能性。 • 客製化：微調使你能夠根據特定需求和偏好塑造模型的行為。

然而，微調也帶來一些挑戰和考量：

• 資料需求：你需要一個準確代表你所需任務的高品質資料集。 • 資源密集：微調需要計算資源和時間，雖然比從頭開始訓練少。 • 過度擬合風險：若不謹慎，微調可能導致模型在訓練資料上表現良好，但在新的、未見過的輸入上表現不佳。 • 維護：隨著需求的演變，你可能需要定期更新資料集並重新微調模型。

考慮到這些因素，讓我們更詳細地探索微調過程。

為微調做準備

在深入微調過程之前，充分準備是至關重要的。這包括瞭解你的任務需求，收集和預處理合適的資料集，以及設定必要的工具和資源。

瞭解你的任務

準備微調的第一步是明確定義你希望模型執行的任務。問自己：

• 我希望模型生成什麼特定輸出？ • 這些輸出應該遵循什麼格式或結構？ • 什麼領域知識或專業術語與我的任務相關？ • 模型可能遇到哪些邊界案例或具挑戰性的情境？

對任務有清晰的理解將指導你的資料收集和微調過程，幫助你建立一個符合特定需求的模型。

收集資料集

要有效地微調模型，你需要一個準確代表你希望模型執行任務的資料集。資料集應該由輸入（提示）和相應的期望輸出（完成）的範例組成。

以下是收集資料集的一些指導方針：

• 大小：雖然微調比從頭開始訓練需要的資料少，但一般需要至少幾百個例子才能有效微調。更複雜的任務可能需要數千個例子。 • 品質：資料集的品質至關重要。每個例子應準確代表任務並展示所需行為。 • 多樣性：你的資料集應該涵蓋廣泛的可能輸入和情境，以確保模型能良好地泛化到新輸入。 • 平衡：如果你的任務涉及多個類別或輸出型別，確保每一種都在資料集中有足夠代表。

收集微調資料集的方法有幾種：

• 手動建立：你可以手動建立提示和它們所需完成的例子。這很耗時，但讓你能完全控制資料集的品質和覆寫範圍。 • 現有資料：你可能已經有可以重新用於微調的資料，如客戶互動、知識函式庫文章或檔案。 • 合成資料生成：你可以使用現有的LLMs生成用於微調的合成資料。這種方法效率高但需要仔細的品質控制。 • 混合方法：通常，這些方法的組合效果最佳，例如從現有資料開始，然後用手動建立的邊界案例子補充。

預處理你的資料集

一旦收集了資料，就需要將其預處理成適合微調的格式。確切的格式取決於你使用的平台或函式庫，但一般來說，你需要將資料結構化為提示和完成的配對。

對於OpenAI的微調API，資料應該是JSONL（JSON Lines）格式，每行都是一個代表單一例子的JSON物件。每個例子應該有一個"messages"欄位，包含訊息物件的陣列，每個訊息物件都有一個"role"（可以是"system"、“user"或"assistant”）和"content"。

以下是微調的JSONL檔案例子：

{"messages": [{"role": "system", "content": "You are a helpful assistant that translates English to French."}, {"role": "user", "content": "Translate the following English text to French: 'Hello, how are you?'"}, {"role": "assistant", "content": "Bonjour, comment allez-vous?"}]}
{"messages": [{"role": "system", "content": "You are a helpful assistant that translates English to French."}, {"role": "user", "content": "Translate the following English text to French: 'I love artificial intelligence.'"}, {"role": "assistant", "content": "J'aime l'intelligence artificielle."}]}

在預處理過程中，你還應該：

• 清理你的資料，移除任何不相關或重複的例子。 • 標準化你的提示和完成的格式以確保一致性。 • 將資料分成訓練集和驗證集，以評估模型在微調期間和之後的表現。 • 確保你的例子能代表任務並涵蓋廣泛的情境。

設定環境

在開始微調之前，你需要設定必要的工具和資源。這通常包括：

• 選擇微調的平台或函式庫（如OpenAI的API、Hugging Face的transformers或雲端解決方案）。 • 設定所需的依賴關係和函式庫。 • 確保你有足夠的計算資源（如果在本地微調）。 • 設定監控和評估工具來追蹤微調過程。

現在我們已經涵蓋了準備工作，讓我們深入微調過程本身。

使用OpenAI進行微調

OpenAI提供了一個直接的API進行模型微調，使其即使對沒有廣泛機器學習專業知識的人也能存取。在本文中，我們將逐步介紹使用OpenAI的API微調模型的過程，從準備資料到評估微調後的模型。

要跟隨本文內容，你需要：

• 一個可存取微調端點的OpenAI API金鑰。 • 在你的機器上安裝Python。 • 安裝OpenAI Python函式庫（pip install openai）。 • 按照前一節描述的JSONL格式準備的資料集。

準備你的資料

如前所述，你的資料應該是JSONL格式，每行是一個代表單一例子的JSON物件。每個例子應該有一個"messages"欄位，包含訊息物件的陣列。

讓我們建立一個簡單的資料集來微調一個將英語翻譯成法語的模型：

import json
import os

# 建立例子列表
examples = [
    {
        "messages": [
            {"role": "system", "content": "You are a helpful assistant that translates English to French."},
            {"role": "user", "content": "Translate the following English text to French: 'Hello, how are you?'"},
            {"role": "assistant", "content": "Bonjour, comment allez-vous?"}
        ]
    },
    {
        "messages": [
            {"role": "system", "content": "You are a helpful assistant that translates English to French."},
            {"role": "user", "content": "Translate the following English text to French: 'I love artificial intelligence.'"},
            {"role": "assistant", "content": "J'aime l'intelligence artificielle."}
        ]
    },
    # 在此增加更多例子
]

# 將例子寫入JSONL檔案
with open("translation_examples.jsonl", "w") as f:
    for example in examples:
        f.write(json.dumps(example) + "\n")

這會建立一個有兩個例子的JSONL檔案。在實際情境中，你會希望有更多例子來有效地微調模型。

上載你的資料集

在微調模型之前，你需要將資料集上載到OpenAI的伺服器。這是使用API的files端點完成的：

import openai

# 設定你的API金鑰
openai.api_key = "your-api-key"

# 上載資料集
response = openai.File.create(
    file=open("translation_examples.jsonl", "rb"),
    purpose="fine-tune"
)

file_id = response.id
print(f"File uploaded with ID: {file_id}")

建立微調工作

一旦資料集上載，你可以建立一個微調工作。這告訴OpenAI要微調哪個模型，使用哪個資料集，以及任何特定的微調引數：

# 建立一個微調工作
response = openai.FineTuning工作.create(
    training_file=file_id,
    model="gpt-3.5-turbo", # 要微調的基本模型
)

job_id = response.id
print(f"Fine-tuning job created with ID: {job_id}")

玄貓

技術愛好者，專注於分享程式開發、雲端技術與 AI 應用的心得體會。