DevOpsDays Taipei 2026 DevOpsDays Taipei 2026

講者資訊

Ray Wang

Ray Wang

台灣亞馬遜網路服務
Sr. Solutions Architect

AWS 的資深解決方案架構師,擁有超過 10 年建構現代化雲端解決方案的經驗,專精於 NoSQL、大數據、機器學習以及生成式 AI。他是 AWS Well-Architected Custom Lens Hub 的擁有者與維護者,該專案為一個開源專案,在 GitHub 上擁有約 1,500 顆星;同時也是多個被廣泛採用的 Lens 創作者,包括 Glue、DynamoDB、OpenSearch、Flower 以及 Iceberg-S3-Lens,並已被 Yahoo、Trend Micro 等大型企業使用。Ray 亦是 AWS 內容的常態貢獻者,已發表超過 10 篇官方 AWS 部落格文章,累積超過 30,000 次曝光,並且取得 全部 12 張 AWS 認證,展現其深厚的技術實力與廣泛的平台知識。

演講議程

GenAI Maturity Model:打造可監控、可治理得 AI系統

本場次將探討企業如何從生成式 AI 的實驗階段,邁向可正式上線、可治理且可持續擴展的 GenAI 系統。

首先說明為何傳統的可觀測性(Observability)不足以支撐 GenAI 工作負載,並介紹 GenAI Observability 的核心概念,包括模型行為追蹤、Prompt 與回應監控、Agent 決策歷程、以及成本與延遲的可視化。

在可觀測性的基礎之上,本場次將提出一套實務導向的 GenAI 成熟度模型(GenAI Maturity Model),說明企業如何從零散的 PoC、團隊各自為政的導入方式,逐步演進至標準化平台、最後達到企業級治理與持續優化。

透過實際案例與經驗分享,協助 DevOps 團隊理解:可觀測性不只是除錯工具,而是建立 GenAI 穩定性、可信度與組織協作能力的關鍵基石。


聽眾收穫:

  • 了解為何傳統 Observability 無法滿足 GenAI 與 Agent 系統的可監控需求
  • 掌握 GenAI Observability 的關鍵指標與實作面向(Prompt、模型行為、Agent 決策、成本與延遲)
  • 學習一套可落地的 GenAI 成熟度模型,評估企業目前所處階段
  • 理解如何以 Observability 作為基礎,逐步建立企業級 GenAI 治理與最佳化能力
  • 帶走可直接應用於 DevOps 與 MLOps 團隊的實務架構與導入建議
詳細介紹