• 2025-06-06
  • 15:30 - 16:30
  • 603+604 會議室

【Bootcamp】初探 LLM 可觀測性:從概念到實踐

LLM(大型語言模型)在許多場景中能帶來顯著的價值,但其運行過程與結果往往充滿不確定性。因此,LLM 可觀測性成為一個關鍵議題,用於掌握模型實際運作情形、分析輸入輸出的行為模式,並及時發現異常或潛在風險。在本場議程中,將會跟大家介紹 LLM 可觀測性的核心觀念與實務技巧,並透過實作範例帶領大家從設計到應用,逐步體驗如何在開發流程中落實可觀測性。

工作坊將會帶大家實作一個小型專案,深入理解以下內容:

  1. LLM 可觀測性的概念與介紹
  2. LLM 應用在系統中的定位與監控重點
  3. 實作與部署一個簡易 LLM 應用
  4. 如何評估與追蹤 LLM 輸出品質
課程目標

參加本工作坊,將能夠理解 LLM 可觀測性的基礎知識,並親手體驗如何將其應用於真實專案開發,從最初的設計到上線後的監控。透過本次實作與分享,你將能在自己的專案中更有效地利用 LLM 技術,同時確保模型運行的可預期性與穩定度。

學員自備裝置

參與工作坊的夥伴需要自備筆電。

許宏翔 (Mike Hsu)

講者

許宏翔 (Mike Hsu)

OpenNet DevOps
LEVEL

通識

LANGUAGE

中文

TAGS
Observability (可觀測性)
適合聽眾
DevOps 新手 (Newbie)