DevOpsDays Taipei 2026 DevOpsDays Taipei 2026

講者資訊

Jimmy Liao

Jimmy Liao

躍智工作室 / LeapDesign
Co-Founder / CTO

Jimmy Liao 是 AI GDE(Google Developer Expert)與 AI MVP(Microsoft),躍智工作室 Co-Founder / CTO。

與客戶一同打造更高效率的工作流程,無論是現代化的技術或是原生的工作系統,特別在意 AI Infrastructure 的工程品質——包括怎麼讓它真的跑得起來、跑起來之後要怎麼追蹤。

曾在 DGX Spark(GB10 Blackwell)與 H100上實際部署與調教大型模型,這種狀況有第一手體感。

日常是跑步人,曾以跑步代替通勤(單程 20+ km)。

演講議程

打造 Agent Production Day 2 Operations

把 LLM 跑起來不難,難的是跑起來之後——它變慢了你知道嗎?

它回答變差了你看得出來嗎?

出事了你能在 5 分鐘內找到是哪一步的問題嗎?

這是 AI 系統的 Day 2 Operations 挑戰,也是傳統 DevOps 工具鏈在 AI時代的盲點:Prometheus 告訴你服務掛了,卻不告訴你 Agent 在哪個 tool call開始跑偏。


聽眾收穫:

同一套架構,export 到 GCP Cloud Trace 或 Azure Application Insights只需改幾行設定。

Workshop 以 Colab free-tier帶著學員從零跑起完整監控,帶走可直接用的 Notebook。

詳細介紹