提示工程最佳實踐與Copilot應用

– 14 分鐘閱讀

大語言模型（LLM）的應用日益普及，提示工程的技巧也越發重要。良好的提示能引導LLM產生更精確、有用的輸出，避免產生誤導性或錯誤的內容。本文除了介紹提示工程的最佳實踐外，也探討如何透過結構化提示、預定義選項和明確的回應範圍來減少LLM的幻覺。同時，本文也詳細介紹了GitHub Copilot的應用，包含其功能、價格、使用方法以及在不同企業中的實際案例，例如AMD如何利用Copilot提升硬體程式設計效率，Shopify和Accenture如何整合Copilot提升開發團隊生產力。

在軟體開發流程中，提示工程扮演著與LLM有效溝通的關鍵角色。清晰、具體的提示能引導LLM生成更符合預期的程式碼，並減少錯誤和歧義。透過提供預定義選項和結構化提示，開發者可以更精確地控制LLM的輸出，避免不必要的猜測和推斷。此外，明確限定回應範圍也能提升LLM生成結果的準確性。隨著AI技術的發展，GitHub Copilot等AI輔助程式設計工具也逐漸受到重視，其程式碼建議、安全掃描和依賴關係審查等功能，能有效提升開發效率和程式碼品質。

提示工程的最佳實踐：如何撰寫有效的提示

撰寫有效的提示（Prompt）是與大語言模型（LLM）互動時取得理想輸出的關鍵步驟。本篇文章將探討如何透過精心設計的提示來獲得更精確和有用的結果。

格式化輸出

在與LLM互動時，您可以透過提示指定輸出的格式。例如，若您需要一個Python函式來將使用者ID對映到使用者名稱，並以JSON格式輸出結果，您可以這樣寫：

任務描述

建立一個Python函式，該函式接受包含使用者ID和名稱的使用者物件列表，並傳回一個將使用者ID對映到名稱的JSON物件。

程式碼實作

def map_user_ids_to_names(users):
    user_map = {user['id']: user['name'] for user in users}
    return user_map

# 示例用法
users = [
    {"id": 1, "name": "Alice"},
    {"id": 2, "name": "Bob"},
    {"id": 3, "name": "Charlie"}
]
print(map_user_ids_to_names(users))

內容解密：

  1. 函式定義：map_user_ids_to_names函式接受一個包含使用者物件的列表作為輸入。
  2. 字典推導式：使用字典推導式建立一個新的字典，其中鍵是使用者ID，值是使用者名稱。
  3. 傳回結果：函式傳回這個字典，可以直接轉換為JSON格式。

其他輸出格式選項

除了JSON格式，您還可以要求LLM以其他格式輸出結果，如表格、列表、Markdown/HTML、文字層次結構或LaTeX格式等。以下是一些示例：

  • 表格：“建立一個比較Python、Java和C++語法、效能和使用案例的表格。”
  • 列表：“列出解決網頁載入緩慢的步驟。”
  • Markdown/HTML：“用Markdown解釋GET和POST HTTP方法之間的差異。”
  • 文字層次結構：“提供軟體開發生命週期（SDLC）的結構化大綱，包括其階段和每個階段的主要活動。”
  • LaTeX格式：“用LaTeX表示法表達二分查詢演算法的時間複雜度。”

指定回應長度

您還可以透過提示指定回應的長度。例如，您可以要求LLM提供簡要摘要或詳細說明，或者指定回應的字數限制。

最佳實踐

以下是一些撰寫有效提示的最佳實踐：

  1. 具體明確：提供盡可能多的細節，避免模糊不清的描述。

    • 不良範例：“開發一個增強資料安全的特性。”
    • 改進範例：“開發一個Python函式來解析字串中的日期。該函式應能夠處理YYYY-MM-DD、MM/DD/YYYY和Month DD, YYYY等格式，並傳回一個datetime物件。”

  2. 使用明確的技術術語和縮寫：避免使用可能產生歧義的縮寫或技術術語，並提供必要的定義或解釋。

    • 不良範例：“遇到DB連線問題，如何修復？”
    • 改進範例：“在使用JDBC連線PostgreSQL資料函式庫時遇到連線超時問題，如何解決？”

  3. 零樣本和少樣本學習：利用LLM的零樣本和少樣本學習能力，提供少量的示例來引導模型生成所需的輸出。

    • 範例：提供幾個數字列表標準化的示例，要求LLM生成一個Python函式來實作相同的功能。

少樣本學習實作

def normalize(numbers):
    min_value = min(numbers)
    max_value = max(numbers)
    if min_value == max_value:
        return [0] * len(numbers)
    else:
        return [(x - min_value) / (max_value - min_value) for x in numbers]

# 測試函式
print(normalize([2, 4, 6, 8]))

內容解密：

  1. 最小值和最大值：首先找出輸入列表中的最小值和最大值。
  2. 標準化：透過將每個數字減去最小值並除以最大值與最小值的差異來進行標準化。
  3. 特殊情況處理：如果所有數字相同，則傳回一個全為0的列表。

透過遵循這些最佳實踐，您可以更有效地與LLM互動，獲得更精確和有用的結果。

減少大語言模型（LLM）幻覺的技術指導

在軟體開發過程中，大語言模型（LLM）可能會產生誤導或錯誤的內容，這種現象被稱為「幻覺」。本篇文章將探討如何透過精確的提示工程來減少LLM的幻覺，並提供具體的實務案例與技術分析。

瞭解LLM產生幻覺的原因

LLM的幻覺主要源於以下幾個技術層面的問題：

  1. 缺乏事實驗證機制：LLM根據訓練資料中的模式生成回應，無法驗證資訊的真實性。
  2. 過度擬合與記憶錯誤資訊：模型可能會記住訓練資料中的錯誤或誤導性資訊，特別是在資料重複或常見的情況下。
  3. 訓練資料中的偏差：如果訓練資料包含偏差、錯誤或虛假資訊，模型可能會在輸出中復現這些問題。
  4. 推斷與猜測：LLM可能會根據訓練資料中的模式對未充分涵蓋的主題進行推斷，產生不準確的資訊。
  5. 上下文不足或誤解：模型可能無法充分理解查詢的細微差別或意涵，導致回應不準確。

實務案例：最佳化資料函式庫查詢

假設我們需要最佳化一個資料函式庫查詢效能，以下是一個開放式提示：

Prompt: 有哪些方法可以最佳化資料函式庫查詢？

這種提示容易導致LLM產生過度泛化的回應，甚至包含虛假資訊。為了減少這種情況，我們可以採用以下技術手段：

1. 提供預定義選項

透過提供預定義的選項，我們可以引導LLM選擇正確的答案，而不是進行猜測或過度推斷。

Prompt: 以下哪種方法是最佳化資料函式庫查詢的有效手段：索引、去碎片化還是壓縮？

2. 結構化提示

我們可以設計多步驟的提示，引導模型按照結構化的流程進行回應，從而減少幻覺的產生。

Prompt: 請逐步說明如何使用索引最佳化資料函式庫查詢效能。

3. 明確限定回應範圍

透過明確要求LLM給出特定型別的結論，可以減少其猜測的可能性。

Prompt: 以下Java陣列初始化語法是否正確？請以「是」或「否」回答。

程式碼範例與解析

以下是一個使用Python實作簡單溫度轉換功能的程式碼範例：

def convert_fahrenheit_to_celsius():
    fahrenheit = float(input("請輸入華氏溫度："))
    celsius = (fahrenheit - 32) * 5/9
    print(f"攝氏溫度為：{celsius:.2f}")

convert_fahrenheit_to_celsius()

內容解密：

  1. input函式用於接收使用者輸入：這裡我們使用input函式取得使用者輸入的華氏溫度，並將其轉換為浮點數進行後續計算。
  2. fahrenheit變數儲存使用者輸入：該變數用於暫存使用者輸入的華氏溫度值。
  3. 溫度轉換公式實作：(fahrenheit - 32) * 5/9是華氏溫度轉攝氏溫度的標準公式，確保計算結果準確。
  4. print函式輸出結果：使用格式化字串將攝氏溫度輸出，:.2f確保溫度值保留兩位小數。

使用類別比與比喻提升理解度

對於一些複雜的概念，例如物件導向程式設計中的「繼承」，可以透過類別比的方式來解釋：

Prompt: 請用一個類別比來解釋物件導向程式設計中的「繼承」概念。

ChatGPT: 繼承就像家族遺傳，子女會繼承父母的一些特徵和屬性，並且可能進一步擴充套件或修改這些特徵。

生成費波那契數列的迭代法實作

在眾多演算法和數學問題中，費波那契數列（Fibonacci Sequence）是一個經典且常見的例子。費波那契數列的定義為：數列的第一項和第二項均為1，後續每一項均為前兩項之和。本篇文章將介紹如何使用Python透過迭代法生成費波那契數列。

費波那契數列生成器的設計

首先，我們需要設計一個名為generate_fibonacci的函式，該函式接受一個整數n作為引數，並傳回費波那契數列的前n個數字。

程式碼實作

def generate_fibonacci(n):
    """
    生成費波那契數列的前n個數字。

    引數：
    n (int): 費波那契數列的項數。

    傳回：
    list: 包含費波那契數列前n項的列表。
    """
    if n <= 0:
        return []
    elif n == 1:
        return [1]
    elif n == 2:
        return [1, 1]

    fib_sequence = [1, 1]
    while len(fib_sequence) < n:
        fib_sequence.append(fib_sequence[-1] + fib_sequence[-2])

    return fib_sequence

# 示例用法：
print(generate_fibonacci(10))

內容解密：

  1. 初始條件檢查：函式首先檢查輸入n的值。如果n小於或等於0，則傳回空列表；如果n等於1或2，則傳回包含一個或兩個1的列表。
  2. 初始化費波那契數列：對於n大於2的情況，首先初始化一個包含前兩個費波那契數（即1和1）的列表fib_sequence。
  3. 迭代生成費波那契數列：使用while迴圈持續生成費波那契數列的後續項，直到列表長度達到n。每次迭代都將前兩項的和追加到列表末尾。
  4. 傳回結果：最後，函式傳回包含費波那契數列前n項的列表。

安全性和隱私考量

在設計提示（Prompt）或與大語言模型（LLM）互動時，保持警惕對於安全性和隱私至關重要。避免在提示中包含敏感或個人識別資訊（PII），例如電子郵件地址或具體的系統細節。應當使用通用或匿名化的描述，以保持資訊的私密性。

自主AI代理的應用

自主AI代理能夠根據給定的目標，利用LLM和其他專門的資料函式庫（如Pinecone和Chroma DB）來規劃和執行任務。這種技術在自動化複雜流程方面展現了巨大的潛力，但同時也面臨諸如資源消耗過大、陷入無限迴圈等挑戰。

增強檢索生成（RAG）

RAG技術透過讓生成式AI應用存取外部資料來源（如向量資料函式庫），能夠增強LLM的回應品質，在處理軟體開發任務（如除錯、程式碼審查和測試）時尤其有用。

GitHub Copilot：AI 驅動的程式碼助手

GitHub Copilot 是由 Microsoft 和 OpenAI 合作開發的 AI 程式碼助手，被譽為生成式 AI 的「殺手級應用」。它能夠根據上下文提供先進的程式碼建議、建立和解釋功能，顯著提高開發人員的工作效率。

GitHub Copilot 的起源與技術基礎

GitHub Copilot 在 2021 年 6 月首次亮相，其 CEO Nat Friedman 將其描述為「AI 配對程式設計師」，旨在加速開發人員的工作效率。它最初根據 OpenAI 的 Codex，一種針對程式碼設計的 GPT-3 變體。Microsoft 進一步增強了其能力，採用了一種稱為「fill-in-the-middle (FIM)」的新方法，以更好地理解程式碼上下文，從而提高程式碼建議的品質並縮短回應時間。

程式碼範例：FIM 方法的應用

def calculate_area(radius):
    # FIM 方法能夠根據上下文推斷出需要計算圓面積
    return 3.14 * radius ** 2

# #### 內容解密：
# - `calculate_area` 函式接受一個引數 `radius`，代表圓的半徑。
# - 函式內部使用 FIM 方法推斷出需要傳回圓的面積。
# - `3.14 * radius ** 2` 是計算圓面積的公式，其中 `radius ** 2` 表示半徑的平方。

價格與版本

GitHub Copilot 提供 30 天的免費試用期，分為三個收費方案：

  1. Copilot for Individuals：個人方案，月費 $10 或年費 $100。主要功能包括多行函式建議、加速測試生成和篩選脆弱的程式碼模式。

  2. Copilot for Business：企業方案，每位使用者每月 $19。此方案包含個人方案的所有功能，並額外提供授權管理、政策管理和頂級隱私保護等功能。

  3. GitHub Copilot Enterprise：企業進階方案，每位使用者每月 $39。此方案允許企業在內部程式碼函式庫上訓練模型，提供更精準的程式碼建議，並支援傳統語言如 COBOL 和 Fortran。

Copilot 的優勢與挑戰

  • 優勢：Copilot 能夠顯著提高開發效率，減少錯誤，並支援企業內部的最佳實踐。
  • 挑戰：企業在使用 Copilot 時需要處理隱私和智慧財產權風險。

根據 Gartner 的研究，截至 2023 年，少於 10% 的大型企業開始使用 AI 輔助程式設計工具。然而，隨著技術的快速進步，預計將有越來越多的企業採用這些工具。

硬體程式設計的挑戰與AI輔助工具的應用

在開發硬體系統時，精確性和相容性是至關重要的。與開發網頁應用程式不同，硬體開發需要深入瞭解硬體系統的內部結構。韌體（firmware）直接與硬體溝通，因此必須確保其精確性和穩定性。錯誤的韌體開發可能導致巨大的財務損失和時間延誤。

AMD的個案研究

AMD是一家領先的半導體公司，專注於CPU和其他硬體元件的開發。在2023年，AMD測試了Copilot，一款由GitHub開發的AI輔助程式設計工具。AMD為各種硬體描述語言（HDLs）如Verilog和SystemVerilog建立了自定義版本的Copilot。結果顯示，Copilot生成的程式碼風格更符合AMD的標準，甚至優於公司內部程式設計師所寫的程式碼。

程式碼範例與解析

module example_module(
    input  wire clk,
    input  wire reset,
    output wire [7:0] data_out
);

reg [7:0] data_reg;

always @(posedge clk or posedge reset) begin
    if (reset) begin
        data_reg <= 8'd0;
    end else begin
        data_reg <= data_reg + 1'b1;
    end
end

assign data_out = data_reg;

endmodule

內容解密：

此範例展示了一個簡單的Verilog模組，用於計數器電路。主要功能如下：

  1. always @(posedge clk or posedge reset)：在時鐘訊號clk的上升沿或重置訊號reset的上升沿觸發。
  2. if (reset)：當reset訊號為高時，將計數器重置為0。
  3. data_reg <= data_reg + 1'b1;：在非重置狀態下，每個時鐘週期計數器加1。
  4. assign data_out = data_reg;：將計數器的值輸出到data_out。

Shopify的個案研究

Shopify是一家電子商務平台供應商，擁有大量的開發者和程式碼函式庫。Shopify是最早採用Copilot的公司之一，目前有近2000名開發者使用該工具。調查顯示，70%的開發者認為Copilot有所幫助，75%的人經常使用它。

重點觀察

  • 程式碼建議的價值：即使開發者不直接採用Copilot的建議，這些建議仍能激發更好的程式碼創意。
  • 採用率：隨著時間的推移，開發者對Copilot的使用率逐漸增加。
  • 高階開發者的接受度：最初，高階開發者對Copilot持懷疑態度，但隨著看到其他開發者的成效，他們開始接受並使用它。

Accenture的個案研究

Accenture是一家全球性的專業服務公司，擁有超過73萬名員工。在2023年，Accenture測試了Copilot，並觀察到程式碼接受率達到35%，生產力顯著提高，包括50%的pull requests增加和15%的merge rate提升。

資訊安全的重要性

Gartner調查顯示，66%的CIO計劃在2023年加大對資安的投資。GitHub為此開發了一套根據LLM的安全系統，能夠即時檢測和修復不安全的程式碼模式。GitHub的Advanced Security功能也提供了即時的程式碼掃描，以偵測安全漏洞和錯誤。

GitHub Copilot 的介紹與使用方法

GitHub Copilot 是一種由 GitHub 提供的 AI 驅動的程式碼撰寫工具，能夠幫助開發者更快速、更準確地完成程式碼撰寫工作。它能夠根據開發者的輸入，自動生成程式碼片段、建議程式碼完成方式，甚至能夠根據註解生成完整的程式碼。

GitHub Copilot 的功能特點

GitHub Copilot 的主要功能特點包括：

  • Secret scanning：能夠掃描並找出程式碼中可能洩露的敏感資訊，如金鑰和令牌。
  • Dependency review：能夠分析依賴關係的變化，並提供相關的安全漏洞資訊。

如何開始使用 GitHub Copilot

要開始使用 GitHub Copilot，首先需要建立一個 GitHub 帳戶。GitHub 是一個支援版本控制和協作軟體開發的線上服務。建立帳戶後，點選右上角的個人頭像，下拉式選單中選擇 Copilot，然後點選 Enable GitHub Copilot。根據提示完成付費或免費方案的設定。

在 Visual Studio Code 中使用 GitHub Copilot

GitHub Copilot 可以透過兩種方式使用：一是透過 Codespaces，這是一個根據雲端的開發環境，直接在 GitHub 網站上可用；二是透過在本地端的 Visual Studio Code (VS Code) 安裝 Copilot 擴充功能。本文主要介紹如何在 VS Code 中使用 Copilot。

安裝 VS Code 和 Copilot 擴充功能

  1. 下載並安裝 VS Code。VS Code 支援多個平台，包括 Windows、macOS 和多種 Linux 發行版。
  2. 開啟 VS Code，點選左側的 Activity Bar 中的擴充功能圖示（五個方塊組成的圖示）。
  3. 在搜尋框中輸入 “GitHub Copilot”，然後選擇第一個結果並點選 Install。
  4. 安裝完成後，螢幕右下角會出現 Copilot 的圖示，表示已成功啟用。

使用 GitHub Copilot 撰寫程式碼

在 VS Code 中開啟一個新的檔案或專案，開始輸入程式碼時，Copilot 就會自動提供程式碼建議。例如，輸入以下 Python 函式的定義：

def find_factorial(number):

Copilot 會自動建議完整的函式實作，顯示為灰色的「ghost text」。按下 Tab 鍵可以接受建議，按下 Escape 鍵可以忽略建議。

程式碼建議的操作選項

當滑鼠遊標懸停在建議的程式碼上時，會出現更多操作選項，包括：

  • Accept：接受整個程式碼建議，等同於按下 Tab 鍵。
  • Accept Word：逐步接受程式碼中的單詞。
  • 更多選項：點選三個點，可以選擇接受一行或總是顯示工具列。

檢視替代方案

點選建議程式碼左側的 1/2 可以檢視不同的替代方案。使用 Ctrl+Enter 可以在新分頁中檢視多達 10 個替代方案。

使用註解與 GitHub Copilot 互動

除了根據程式碼上下文提供建議外，GitHub Copilot 也支援透過註解與其互動。例如：

# q: 物件導向程式設計中的類別是什麼？
# a: 類別是用於建立物件的藍圖。物件具有屬性和方法（函式）。在 Python 中，幾乎所有東西都是物件。

這種互動方式類別似於與 ChatGPT 對話，能夠根據開發者的問題提供相關的答案或解釋。

內容解密：
  1. GitHub Copilot 提供強大的 AI 程式碼撰寫功能，能夠根據輸入自動生成程式碼。
  2. 能夠掃描敏感資訊和檢查依賴關係的安全性，提供更安全的開發環境。
  3. 在 VS Code 中安裝 Copilot 擴充功能後，能夠直接在編輯器中獲得程式碼建議和自動完成。
  4. 能夠透過註解與 Copilot 互動，取得相關的技術問題解答或程式碼解釋。
玄貓 BlackCat

玄貓 BlackCat

技術愛好者，專注於分享程式開發、雲端技術與 AI 應用的心得體會。