Transformer 從架構到高效應用
多語言命名實體識別 (NER) 是一個關鍵的 NLP 任務，專注於從多種語言的文字中識別出重要實體。這本質上是一個標記分類別問題，需要模型能夠理解不同語言的語境和實體特徵。
嗨，我是玄貓！技術愛好者與開發者。
熱衷於分享程式開發、雲端技術與 AI 應用的學習心得。透過部落格記錄技術成長，同時幫助更多人學習新技能。
Rust 非同步：駕馭效能
在當今高併發、高吞吐量的網路應用時代，非同步程式設計已成為不可或缺的技術。Rust 作為一門兼具效能與安全的現代系統程式語言，其非同步程式設計模型更是引人注目。本文將由淺入深地探討 Rust 非同步程式設計的精髓，從基礎概念到實戰技巧，帶您領略 Rust 非同步的魅力。
Terraform 基礎自動化：從入門到實戰
本文探討 Terraform 的核心概念和實戰技巧，涵蓋基礎設定、模組化設計、多環境管理、高用性佈署、Kubernetes 叢集組態、藍綠佈署、資料函式庫遷移等關鍵議題，並輔以 圖表和程式碼範例，助您輕鬆駕馭基礎建設自動化。
Python 物件導向程式設計與函式運用精要
身為一個在台灣擁有豐富經驗的技術工作者，我將深入解析 Python 物件導向程式設計和函式運用的核心概念，並分享實務技巧，讓你掌握 Python 程式設計的精髓。
PostgreSQL 效能最佳化與雲端整合
PostgreSQL 16 帶來了顯著的效能提升和雲端整合能力。本文將探討邏輯複製、SQL/JSON 擴充套件、SIMD 加速、平行執行以及雲端佈署策略，並分享我在實際應用中的經驗和技巧，助您充分發揮 PostgreSQL 16 的強大功能。
解開Python GIL的謎團：平行與非同步之路
本文深入淺出地解析了 Python 的 GIL、多執行緒、asyncio 和非阻塞 Socket 的概念，並闡述瞭如何在單執行緒內實作平行。透過實際案例和圖表，帶您理解 asyncio 的核心機制以及如何應用於非同步程式設計。
分散式系統設計的物件導向思維
物件導向程式設計和 UML 是建構複雜系統的根本，尤其在分散式系統設計中，深入理解 UML 圖表能有效提升設計清晰度和效率。本文將分享 UML 協作圖和循序圖在分散式系統設計中的應用心得，並以電商平台訂單處理流程為例，説明如何利用 UML 圖表釐清物件互動和訊息傳遞順序。
從攻擊者視角掌握 Python 網路安全實戰技巧
在設計和實施網路安全措施時，我發現一個關鍵的洞察：你無法有效保護自己，除非你能夠像攻擊者一樣思考。當我研究這個問題時，起初我以為只要加強防火牆和入侵偵測系統就足夠了，但進一步測試後發現，這些措施如果沒有從攻擊者的角度去評估，其實際效用可能會大打折扣。
Windows 設定 Ansible 最佳實務
Ansible 除了管理 Linux 系統外，也能有效管理 Windows。本文將探討如何設定 Windows 主機以進行 Ansible 自動化，包含 PowerShell、WinRM 的設定步驟，以及實務上的注意事項與技巧分享，讓您輕鬆駕馭跨平台自動化。
解鎖 LLM 應用開發：LangChain 與 Hugging Face 的完美結合
這篇文章探討如何結合 LangChain 和 Hugging Face 構築 LLM 應用，涵蓋 Python 基礎、NLP 核心概念、模型整合、聊天機器人建構與雲端佈署等關鍵環節，並提供實務程式碼範例與深度解析。
深入探索 Kubernetes 安全的發展動態
這個設定範例展示瞭如何使用 gVisor 容器執行時沙箱： - 定義 RuntimeClass 資源，指定 gVisor (runsc) 處理程式 - 在 Pod 規範中參照該 RuntimeClass
掌握Kubeflow KFServing佈署技巧
KFServing：簡化機器學習模型佈署 模型服務架構 KFServing是Kubeflow生態系統中專門負責模型佈署與服務的元件。它提供了一個統一的API來佈署各種機器學習框架的模型，包括TensorFlow、PyTorch、scikit-learn等。 KFServing的核心優勢在於其標…
從零開始學RAG技術
在建構現代AI系統時，檢索增強生成（Retrieval-Augmented Generation，RAG）已成為解決大模型語言知識有限與幻覺問題的關鍵技術。RAG結合了檢索系統與生成模型的優勢，讓AI能夠存取外部知識，並根據檢索到的資訊生成更準確的回應。
批次處理中的Kubeflow應用
批次處理是許多企業應用的基礎，特別適合處理不需要即時回應的大量資料。在批次處理中整合模型服務有幾種常見方式： 直接整合模型服務API 最簡單的方式是在批次處理作業中直接呼叫模型服務API。這種方法實作簡單，但在處理大量資料時可能會遇到效能瓶頸。 這段程式碼…
向量搜尋強化AI代理記憶系統
這段程式碼展示瞭如何使用ChromaDB實作一個完整的向量搜尋系統。首先，使用OpenAI的API為每個檔案生成嵌入向量。然後，建立一個ChromaDB集合並將檔案、嵌入向量和ID增加到其中。
Kubeflow 執行與監控 Katib 實驗
啟動實驗 使用 kubectl 命令將實驗設定應用到叢集： 監控實驗進度 可以透過命令列檢查實驗狀態： 這個命令會回傳實驗的詳細訊息，包括： 1. 實驗狀態：建立時間、當前狀態等 2. …
人工智慧高階向量表示方法
雖然TF-IDF是一個很好的起點，但在實際應用中，我更傾向於使用更先進的向量表示方法，如詞嵌入(Word Embeddings)或句子嵌入(Sentence Embeddings)。這些方法能更好地捕捉語意關係，提供更精確的相似度比對。
eBPF 程式設計入門
在本文中，我們學習了很多關於 eBPF 的知識，並看到了它在各種應用中的使用範例。但如果你想根據 eBPF 實作自己的想法呢？接下來讓我們討論編寫自己的 eBPF 程式碼的選項。
Kubeflow 將 AutoML 融入機器學習工作流程
技術整合到現有機器學習工作流程中需要考慮幾個關鍵因素： 何時使用AutoML AutoML並非萬能藥，在決定是否使用它時應考慮： 1. 問題複雜性 - 對於簡單問題，手動調整可能更快；複雜問題則適合AutoML 2. 計算資源 - AutoML…
AI 記憶與知識壓縮技術
本文深入探討AI記憶與知識壓縮技術，涵蓋對話摘要、上下文壓縮、查詢重寫及多模型協同等進階RAG最佳化策略。透過LangChain與Python程式碼範例，展示如何實作語義快取與向量相似度搜尋，以提升AI代理系統的效能與回應品質。
eBPF 網路功能的演進與重要性
隨著 eBPF 平台的發展，特別是較新版本的 Linux 核心已允許程式達到一百萬指令的規模，我們能夠在核心中實作越來越複雜的網路功能。這種演進帶來極大的彈性 - 尚未在 eBPF 實作的部分仍可由核心中的傳統網路堆積積疊或使用者空間處理，而隨著時間推移，更多功能可從使用者空間逐步遷移至核心。
Kubeflow 降噪效果分析
我們可以比較不同降噪程度的效果。以下是一些關鍵觀察： 1. 原始影像：含有一定程度的雜訊，可能影響細節觀察 2. 輕度降噪0.5%-1%： - 移除了最細微的雜訊 - 保留了所有診斷相關的細節 - 通常是最佳的臨床應用選擇 3. 中度降噪5%： - 明顯減少雜訊 …
eBPF 在網路領域的革命性應用
這在網路領域尤其重要。網路應用場景多種多樣，從電信營運商需要處理 SRv6 等特定協定，到 Kubernetes 環境需要與傳統應用整合，再到用 XDP 程式在商用硬體上替代專用負載平衡器。
開放原始碼工具構建 CT 掃描降噪方案
我們探討了 Kubeflow 生態系統中的各種推論解決方案，並透過一個實際案例展示了多工具協作的強大能力。 根據特定的推論需求和基礎架構深度偏好，每種推論解決方案都有其獨特的優勢： - TensorFlow Serving 為 TensorFlow 模型提供了極高效能與…
Python Streamlit 驅動的現代化 AI 聊天應用
在開發AI驅動的聊天應用時，我們常需要一個快速、靈活與功能強大的框架來構建Web介面。Streamlit正是這樣一個工具，它專為資料科學家和機器學習工程師設計，讓我們能夠完全使用Python構建現代化的Web應用。
Prometheus 監控 Kubernetes MySQL Redis 服務
本文介紹如何使用 Prometheus 監控 Kubernetes 中的 MySQL 和 Redis 服務，包含 MySQLd Exporter 的佈署、設定 Prometheus 抓取指標資料、建立監控規則以及 Tornado 應用程式的監控整合。文章涵蓋了 MySQL 請求率、連線中斷、服務可用性等關鍵指標的監控，同時也包含了 Redis 的監控設定和警 …
Prometheus Blackbox Exporter 與 Pushgateway 指標推播
本文介紹如何使用 Prometheus Blackbox Exporter 監控 HTTP、ICMP 和 DNS 服務，並探討 Pushgateway 的使用方法、應用場景以及注意事項，涵蓋指標推播、分組管理及持久化儲存等關鍵概念，提供 Prometheus 監控體系更全面的理解。
Prometheus Alertmanager 警示管理與路由設定
本文探討 Prometheus 與 Alertmanager 的整合，涵蓋警示規則設定、Alertmanager 路由組態、通知範本自定義以及靜默管理等關鍵導向，提供實務操作與最佳實踐，協助工程師開發高效能的監控告警系統。
eBPF 技術：核心追蹤技術的選擇與差異
在 Linux 核心開發與監控領域，追蹤技術是我們理解系統行為的關鍵工具。當我們需要深入瞭解核心如何執行特定操作時，可以選擇多種追蹤機制，每種機制都有其獨特的優勢和適用場景。
AI 代理系統：開發代理動作與工具
本文深入探討如何在 Nexus AI 代理平台中開發和整合代理的「動作」與「工具」。我們將解析原生工具（基於程式碼）和語意工具（基於提示詞）的開發方法，並展示如何將這些工具整合到一個由行為樹驅動的決策框架中，最終賦予 AI 代理執行具體任務和與外部世界互動的強大能力。
Kubeflow：KFServing 的基礎架構解析
要真正理解 KFServing 的強大之處，我們需要深入其基礎架構堆積積疊。KFServing 是以雲原生方式構建的，與 Kubeflow 一樣，它受益於底層每一層的功能。KFServing 的架構堆積積疊包括： 硬體層 底層硬體是所有上層的基礎構建塊。叢集可以執行…
AI 代理的實戰：整合行為樹與大模型語言
本文深入探討如何將傳統的行為樹（Behavior Trees）與現代大型語言模型（LLM）相結合，以構建更強大、更可控的自主 AI 代理系統。我們將解析行為樹的核心元件，展示其在 AI 決策控制中的優勢，並透過實例說明如何利用 LLM 增強行為樹的動態生成、條件評估和行動執行能力。