語法分析技術應用與挑戰

– 12 分鐘閱讀

語法分析是自然語言處理（NLP）的基礎，它將句子分解成不同成分並理解它們之間的關係，如同程式碼的編譯過程。早期的 n-gram 模型在處理長文字時容易產生語意不通順的結果，而語法分析能解決這個問題。理解成分結構和可替換性是語法分析的關鍵，例如，可以將句子中的某些片語替換成代名詞而不改變句子的語法正確性。短語結構樹以圖形方式呈現句子的層次結構，每個節點代表一個成分，展現了詞語之間的語法關係。上下文無關文法（CFG）則提供了一種形式化描述語法規則的方法，透過終結符、非終結符、起始符和產生式規則定義語言結構。NLTK 等工具提供了現成的函式庫和解析器，方便進行語法分析和構建語法樹。然而，語言的歧義性、複雜的語法規則和有限的資源仍然是語法分析的挑戰。

語法分析的重要性及其應用

在探討自然語言處理（NLP）的過程中，語法（Syntax）扮演著至關重要的角色。語法不僅幫助我們理解句子的結構，還能進一步提升機器對文字的理解能力。本章將探討語法的形式化方法及其在NLP中的應用。

為何需要語法？

在第二章中，我們已經展示瞭如何使用n-gram模型生成看似合理的文字片段。然而，這種方法在處理較長的文字序列時，往往會迅速退化成無意義的詞串。以下是一個根據《布斯特·布朗歷險記》兒童故事文字的兩個例子：

(4) a. He roared with me the pail slip down his back b. The worst part and clumsy looking for whoever heard light

讀者直覺上會認為這些序列是「詞彙沙拉」（word-salad），但很難準確指出問題所在。學習語法的一個重要好處是，它提供了一個概念框架和詞彙來闡述這些直覺。讓我們仔細觀察the worst part and clumsy looking這個序列。這看起來像一個並列結構（coordinate structure），其中兩個短語透過一個並列連詞（如and、but或or）連線。以下是一個關於並列結構的非正式（且簡化的）語法規則描述：

並列結構規則：

若$v_1$和$v_2$都是語法範疇X的短語，則$v_1$和$v_2$也是一個X範疇的短語。

以下是兩個例項： (5) a. The book’s ending was (NP the worst part and the best part) for me. b. On land they are (AP slow and clumsy looking).

我們無法將一個名詞短語（NP）和一個形容詞短語（AP）並列，這就是為什麼the worst part and clumsy looking是不合語法的。在形式化這些想法之前，我們需要理解**成分結構（constituent structure）**的概念。

成分結構

成分結構根據這樣一個觀察：詞語會與其他詞語結合形成單位（units）。一個詞序列構成這樣一個單位的證據在於其可替換性（substitutability）——即在一個合乎語法的句子中，一個詞序列可以被一個較短的序列替換，而不會使句子變得不合語法。

考慮以下句子： (6) The little bear saw the fine fat trout in the brook.

我們可以用He替換The little bear，這表明後者是一個單位。相反，我們無法用同樣的方式替換little bear saw。我們用星號標記不合語法的句子： (7) a. He saw the fine fat trout in the brook. b. *The he the fine fat trout in the brook.

圖表分析

  graph TD
    A[The little bear saw the fine fat trout in the brook] --> B[He saw the fine fat trout in the brook]
    B --> C[He saw it]
    C --> D[S]
    A --> E[The little bear saw the fine fat trout]
    E --> F[He saw the fine fat trout]
    F --> C
    A --> G[The fine fat trout in the brook]
    G --> H[it]
    H --> I[NP]
    I --> C

圖表翻譯： 此圖示展示了句子“The little bear saw the fine fat trout in the brook.”的成分結構替換過程。從頂部開始，我們逐步替換詞序列（如the brook替換為it），最終形成一個合乎語法的簡單句子。

在圖8-2中，我們為詞語增加了語法範疇標籤。標籤NP、VP和PP分別代表名詞短語、動詞短語和介詞短語。如果我們去除詞語，只保留最上層的標籤，並新增一個S節點，然後翻轉圖表，我們就會得到一個標準的短語結構樹（phrase structure tree），如(8)所示。樹中的每個節點（包括詞語）都稱為一個成分（constituent）。S的直接成分是NP和VP。

  graph TD
    S[S] --> NP[NP]
    S --> VP[VP]
    NP --> Det[The]
    NP --> Nom[little bear]
    VP --> V[saw]
    VP --> NP2[NP]
    NP2 --> Det2[the]
    NP2 --> Nom2[fine fat trout]
    VP --> PP[PP]
    PP --> P[in]
    PP --> NP3[NP]
    NP3 --> Det3[the]
    NP3 --> Nom3[brook]

圖表翻譯： 此圖示展示了句子“The little bear saw the fine fat trout in the brook.”的短語結構樹。樹中的每個節點代表一個成分，展示了句子的層次結構。

#### 內容解密：

上述Mermaid圖展示了句子的層次結構，每一個節點都代表著一個文法單位。S（句子）由NP（名詞短語）和VP（動詞短語）組成，而NP和VP又進一步分解為更小的單位。這個結構展示了句子的語法構成，幫助我們理解句子的組織方式以及詞語之間的關係。

短語結構樹的深度

正如8.1節所述，句子可以具有任意長度。因此，短語結構樹可以具有任意深度。第7.4節中提到的級聯分塊器（cascaded chunk parsers）只能生成有限深度的結構，因此分塊方法在這裡並不適用。

隨著NLP技術的進步，語法分析將繼續在提升文字理解和分析能力方面發揮關鍵作用。未來的研究將集中在如何更有效地結合語法知識與機器學習模型，以實作更精確的語言理解和生成。

參考程式碼範例

以下是一個簡單的Python程式碼範例，展示瞭如何使用NLTK函式庫來進行語法分析：

import nltk
from nltk import CFG

# 定義一個簡單的語法
grammar = CFG.fromstring("""
S -> NP VP
NP -> Det Nom | 'He'
VP -> V NP | V NP PP
PP -> P NP
Det -> 'The' | 'the'
Nom -> 'little bear' | 'fine fat trout' | 'brook'
V -> 'saw'
P -> 'in'
""")

# 初始化解析器
parser = nltk.ChartParser(grammar)

# 待解析的句子
sentence = "The little bear saw the fine fat trout in the brook".split()

# 解析句子
for tree in parser.parse(sentence):
    print(tree)

#### 內容解密：

上述程式碼定義了一個簡單的上下文無關語法（CFG），並使用NLTK的ChartParser來解析句子“The little bear saw the fine fat trout in the brook”。解析結果將輸出句子的語法樹，展示了句子的結構。

結語

語法分析是自然語言處理中的一個基礎且重要的領域。透過形式化地建模語言結構，我們能夠更好地理解和處理人類語言。本章介紹了語法的基本概念、成分結構以及短語結構樹，並透過程式碼範例展示了語法分析的實際應用。隨著NLP技術的不斷發展，語法分析將繼續在提升機器語言理解能力方面發揮關鍵作用。

8.3 上下文無關文法（Context-Free Grammar）

上下文無關文法（CFG）是一種用於描述語言語法結構的形式化系統。在自然語言處理（NLP）中，CFG 被廣泛用於句法分析。本文將介紹 CFG 的基本概念及其在 NLTK 中的應用。

簡單的上下文無關文法範例

以下是一個簡單的 CFG 範例，用於解析簡單的句子結構：

grammar1 = nltk.CFG.fromstring("""
S -> NP VP
VP -> V NP | V NP PP
PP -> P NP
V -> "saw" | "ate" | "walked"
NP -> "John" | "Mary" | "Bob" | Det N | Det N PP
Det -> "a" | "an" | "the" | "my"
N -> "man" | "dog" | "cat" | "telescope" | "park"
P -> "in" | "on" | "by" | "with"
""")

內容解密：

  1. S -> NP VP：表示句子（S）由名詞短語（NP）和動詞短語（VP）組成。
  2. VP -> V NP | V NP PP：動詞短語（VP）可以由動詞（V）和名詞短語（NP）組成，或由動詞（V）、名詞短語（NP）和介詞短語（PP）組成。
  3. PP -> P NP：介詞短語（PP）由介詞（P）和名詞短語（NP）組成。
  4. 詞彙產生式：定義了詞彙類別，如動詞（V）、名詞（N）、介詞（P）等的具體詞彙。

解析範例句子

使用上述文法解析句子 “Mary saw Bob”：

sent = "Mary saw Bob".split()
rd_parser = nltk.RecursiveDescentParser(grammar1)
for tree in rd_parser.nbest_parse(sent):
    print(tree)

輸出結果：

(S (NP Mary) (VP (V saw) (NP Bob)))

內容解密：

  • (S (NP Mary) (VP (V saw) (NP Bob))) 表示句子的結構：主語是 “Mary”，謂語是 “saw Bob”，其中 “saw” 是動詞，“Bob” 是賓語。

結構歧義

當一個句子有多於一種可能的語法樹時，該句子被視為結構歧義。例如，句子 “The dog saw a man in the park” 可能有兩種不同的解析結果：

  1. 狗在公園裡看到一個男人（PP 附著在 VP 上）。
  2. 狗看到一個在公園裡的男人（PP 附著在 NP 上）。

編寫自定義文法

可以將自定義的 CFG 儲存到檔案中（如 mygrammar.cfg），然後使用 NLTK 載入並解析：

grammar1 = nltk.data.load('file:mygrammar.cfg')
sent = "Mary saw Bob".split()
rd_parser = nltk.RecursiveDescentParser(grammar1)
for tree in rd_parser.nbest_parse(sent):
    print(tree)

注意事項：

  1. 檔名必須以 .cfg 結尾。
  2. 確保路徑字串中沒有空格。
  3. 若解析無輸出，可能是句子不符合文法規則，可開啟追蹤功能進行除錯：rd_parser = nltk.RecursiveDescentParser(grammar1, trace=2)。

CFG 中的遞迴

當文法中的某個類別出現在產生式的左側和右側時，該文法被視為遞迴文法。例如：

grammar2 = nltk.CFG.fromstring("""
S -> NP VP
NP -> Det Nom | PropN
Nom -> Adj Nom | N
VP -> V Adj | V NP | V S | V NP PP
PP -> P NP
PropN -> 'Buster' | 'Chatterer' | 'Joe'
Det -> 'the' | 'a'
N -> 'bear' | 'squirrel' | 'tree' | 'fish' | 'log'
Adj -> 'angry' | 'frightened' | 'little' | 'tall'
V -> 'chased' | 'saw' | 'said' | 'thought' | 'was' | 'put'
P -> 'on'
""")

內容解密：

  1. Nom -> Adj Nom 表示名詞短語可以由形容詞和名詞短語遞迴組成。
  2. VP -> V S 表示動詞短語可以包含一個句子，形成遞迴結構。

解析器的運作

解析器根據 CFG 的產生式處理輸入句子，並構建符合文法的結構樹。CFG 是一種宣告式的規範，而解析器則是對文法的過程式解釋。

圖表表示法

  graph TD;
    S[S]
    S --> NP[名詞短語];
    S --> VP[動詞短語];
    VP --> V[動詞];
    VP --> NP;
    VP --> PP[介詞短語];
    PP --> P[介詞];
    PP --> NP;

圖表翻譯： 此圖表展示了句子的基本結構，由名詞短語（NP）和動詞短語（VP）組成。動詞短語可以進一步包含動詞（V）、名詞短語（NP）和介詞短語（PP）。介詞短語由介詞（P）和名詞短語（NP）組成。

內容解密：

  1. 句子（S）由名詞短語（NP）和動詞短語（VP）組成。
  2. 動詞短語（VP）可以包含動詞（V）、名詞短語（NP）和介詞短語（PP）。
  3. 介詞短語（PP）由介詞（P）和名詞短語（NP）組成。

遞迴下降解析器

NLTK 提供了遞迴下降解析器（RecursiveDescentParser），用於根據 CFG 解析句子。然而，該解析器無法處理左遞迴產生式（X -> X Y）。解決此問題的方法將在後續章節中討論。

語法解析技術在自然語言處理中的應用與挑戰

語法解析（Parsing）是自然語言處理（NLP）中的一個核心任務，其主要目的是分析句子的語法結構。透過語法解析，我們可以將句子分解成不同的組成部分，並理解這些部分之間的關係。在本篇文章中，我們將探討語法解析的基本概念、常見的解析演算法，以及這些技術在實際應用中的挑戰。

語法解析的基本概念

語法解析是將輸入的句子根據特定的語法規則進行分析的過程。這些語法規則通常由上下文無關文法（Context-Free Grammar, CFG）定義。CFG是一種形式化的語法表示方法，它由一組產生式規則（Production Rules）組成，用於描述語言的語法結構。

CFG的基本組成部分

  • 終結符（Terminals）：語言中的基本符號，如單詞。
  • 非終結符（Non-terminals）：代表語法範疇的符號，如名詞短語（NP）、動詞短語（VP）。
  • 起始符（Start Symbol）：語法分析的起始點，通常是句子（S）。
  • 產生式規則（Production Rules）：定義如何將非終結符展開為其他符號的序列。

常見的語法解析演算法

語法解析演算法主要分為兩大類別：自頂向下（Top-Down）和自底向上（Bottom-Up）。在本文中，我們將詳細介紹幾種常見的解析演算法。

遞迴下降解析（Recursive Descent Parsing）

遞迴下降解析是一種自頂向下的解析方法。它根據語法規則，將高層次的目標分解為低層次的子目標，並逐步展開，直到與輸入句子匹配。

import nltk

# 定義語法規則
grammar1 = nltk.CFG.fromstring("""
S -> NP VP
NP -> 'Mary' | 'a' 'dog'
VP -> 'saw' NP
""")

# 建立遞迴下降解析器
rd_parser = nltk.RecursiveDescentParser(grammar1)

# 解析句子
sent = 'Mary saw a dog'.split()
for t in rd_parser.nbest_parse(sent):
    print(t)

內容解密：

在上述程式碼中，我們首先定義了一個簡單的CFG，然後使用nltk.RecursiveDescentParser建立了一個遞迴下降解析器。最後，我們對句子「Mary saw a dog」進行了語法解析，並輸出了解析樹。

遞迴下降解析的優點是實作簡單，易於理解。然而，它存在一些缺點，如對左遞迴語法規則的處理能力有限，以及可能進行的重複計算。

移進-歸約解析（Shift-Reduce Parsing）

移進-歸約解析是一種自底向上的解析方法。它透過不斷地將輸入符號移入堆積疊，並嘗試將堆積疊頂部的符號序列歸約為語法規則中的左側非終結符，從而構建解析樹。

import nltk

# 定義語法規則
grammar1 = nltk.CFG.fromstring("""
S -> NP VP
NP -> 'Mary' | 'a' 'dog'
VP -> 'saw' NP
""")

# 建立移進-歸約解析器
sr_parser = nltk.ShiftReduceParser(grammar1)

# 解析句子
sent = 'Mary saw a dog'.split()
for t in sr_parser.nbest_parse(sent):
    print(t)

內容解密：

在上述程式碼中，我們同樣定義了一個簡單的CFG，然後使用nltk.ShiftReduceParser建立了一個移進-歸約解析器。最後，我們對句子「Mary saw a dog」進行了語法解析，並輸出了解析樹。

移進-歸約解析的優點是能夠處理更廣泛的語法規則，並且通常比遞迴下降解析更高效。然而，它可能需要更多的計算資源，並且在某些情況下可能無法找到正確的解析結果。

語法解析中的挑戰

儘管語法解析技術已經取得了顯著的進步，但在實際應用中仍然面臨著許多挑戰。

語言歧義性

自然語言中存在大量的歧義性，這使得語法解析變得更加困難。例如，句子「I saw the man with the telescope」可以有多種不同的語法解析結果。

語法規則的複雜性

現實中的語法規則往往非常複雜，涵蓋了大量的例外情況和特殊情況。這要求語法解析器具有足夠的靈活性和魯棒性。

資源限制

在某些語言或特定領域中，缺乏足夠的語法資源（如語法規則、標註資料等），這限制了語法解析器的效能。

為了應對上述挑戰，研究人員正在探索新的語法解析技術和方法。

深度學習方法

近年來，深度學習技術在語法解析領域取得了顯著的成果。根據神經網路的語法解析器能夠自動學習語法規則和語言模式，從而提高了解析的準確性和魯棒性。

跨語言語法解析

隨著全球化的發展，跨語言語法解析變得越來越重要。研究人員正在開發能夠處理多種語言的語法解析器，以滿足不同語言和文化的需求。

圖表翻譯：

  graph LR
    A[語法解析] --> B[自頂向下]
    A --> C[自底向上]
    B --> D[遞迴下降解析]
    C --> E[移進-歸約解析]
    D --> F[優點：實作簡單]
    D --> G[缺點：左遞迴問題]
    E --> H[優點：處理廣泛語法]
    E --> I[缺點：可能無法找到正確解析]

圖表翻譯：

此圖示展示了語法解析的主要方法及其分支，包括自頂向下和自底向上的解析方法，以及它們各自的優缺點。圖中清晰地呈現了遞迴下降解析和移進-歸約解析的特點和應用場景。透過此圖，我們可以更好地理解不同語法解析技術之間的關係和區別。

玄貓

玄貓

技術愛好者，專注於分享程式開發、雲端技術與 AI 應用的心得體會。