

台灣亞馬遜網路服務
Sr. Solutions Architect
AWS 的資深解決方案架構師,擁有超過 10 年建構現代化雲端解決方案的經驗,專精於 NoSQL、大數據、機器學習以及生成式 AI。他是 AWS Well-Architected Custom Lens Hub 的擁有者與維護者,該專案為一個開源專案,在 GitHub 上擁有約 1,500 顆星;同時也是多個被廣泛採用的 Lens 創作者,包括 Glue、DynamoDB、OpenSearch、Flower 以及 Iceberg-S3-Lens,並已被 Yahoo、Trend Micro 等大型企業使用。Ray 亦是 AWS 內容的常態貢獻者,已發表超過 10 篇官方 AWS 部落格文章,累積超過 30,000 次曝光,並且取得 全部 12 張 AWS 認證,展現其深厚的技術實力與廣泛的平台知識。
本場次將探討企業如何從生成式 AI 的實驗階段,邁向可正式上線、可治理且可持續擴展的 GenAI 系統。
首先說明為何傳統的可觀測性(Observability)不足以支撐 GenAI 工作負載,並介紹 GenAI Observability 的核心概念,包括模型行為追蹤、Prompt 與回應監控、Agent 決策歷程、以及成本與延遲的可視化。
在可觀測性的基礎之上,本場次將提出一套實務導向的 GenAI 成熟度模型(GenAI Maturity Model),說明企業如何從零散的 PoC、團隊各自為政的導入方式,逐步演進至標準化平台、最後達到企業級治理與持續優化。
透過實際案例與經驗分享,協助 DevOps 團隊理解:可觀測性不只是除錯工具,而是建立 GenAI 穩定性、可信度與組織協作能力的關鍵基石。
聽眾收穫: