91APP
Chief Architect
現任91APP首席架構師,專長領域為軟體工程、物件導向設計、分散式系統架構設計、API 設計等。具20年 Microsoft .NET Framework、SaaS、B2B2C 等雲端服務開發經驗,喜歡研究各種技術背後的原理與實作細節。現任職之91APP為台灣首間上櫃之SaaS服務商,具逾600人的營運團隊,為零售產業數位轉型的軍火庫,提供企業級的電子商務與數位行銷兩大解決方案。
Andrew 樂於分享技術新知與開發經驗,除了時常出席各大技術研討會與社群活動外;也不時更新部落格文章,與夥伴們交流與傳承經驗,深信自我精進源自分享,這也是 23 年持續筆耕不輟的動力。
在這個場次,Andrew 把主題擺在 AI APP 的開發與維運,我想要聊聊我們自身將 AI 應用在產品開發上的推廣經驗。
一個到位的 AI APPs, 從需求面就應該仔細評估 (PO),而工程團隊 (Dev) 也必須要有足夠的技術能力,掌握 LLM 的特性並且正確的實作。
生成式 AI 的行為多樣且難以預測,開發團隊在面對測試與維運,也需要有不同的方式來面對。
Andrew 在自家產品上,使用 LLM 來解決客戶的問題,改善客戶日常作業的效率。
當你把 AI 功能放上產品後,跟自己使用 AI 要面對的問題完全不同。你寫的 prompt 藏在 product code 內,會不知不覺被執行上百萬次。
客戶在日常作業中期待的是絕對的正確率,而非其他花俏新奇的回應。
Andrew 將示範自家的經驗與流程,如何有系統的完成這目標。