17LIVE 資深技術總監 曾柏誥

17LIVE 成立於 2015 年,致力於以「直播技術+互動娛樂」的核心主軸,達成「To Empower Human Connections through Live Technology」的願景,目前已成為亞洲領先的即時互動直播串流娛樂平台。身為業界先行者,17LIVE 不僅是第一家以直播業務在新加坡成功上市的品牌,更在全球累積超過 5,000 萬註冊用戶,並在台灣、日本及亞洲多地設立辦事處,擁有超過 500 名專業員工。

產業

產品

使用案例

公司成立時間

媒體與數位內容

MongoDB Atlas

平台遷移

2015年

17LIVE 資深技術總監曾柏誥指出,面對全球瞬息萬變的社群娛樂市場,以及使用者對於即時互動、個人化內容與沉浸式體驗等強烈需求,17LIVE 積極投入創新技術,建立多對多的連結社交平台,並結合AI、Machine Learning等技術結合娛樂、社群,將全球各地會員串連起來。

在直播產業競爭日趨激烈下,17LIVE 認為需重新優化資料架構,才能提供會員最佳使用者體驗,讓直播主享有一個穩定、可靠的直播平台。在打造高度彈性、高效能且能快速部署創新服務的資料架構下,17LIVE 決定採用Google Cloud Platform (GCP) 平台上的 MongoDB Atlas 服務,以便推動多元應用專案,同時為日後運用AI技術奠定穩健基礎。

全球業務快速成長 引爆高併發、低延遲與維運挑戰

隨著全球消費市場快速轉變,17LIVE 在真人主播、虛擬主播等核心業務之外,也積極發展直播電商 (Live Commerce) 和 App 內遊戲,藉此在數位娛樂中掌握新商機,並保持各區強勁成長力道。該公司期盼透過人才培訓、技術投資及策略併購,將產品研發與營運面結合,擴大全球市場版圖,打造多元化的數位娛樂體驗集團。

創立之初,17LIVE考量到業務成長速度難以預料,選擇將應用服務放在高穩定度、可靠度,能提供即時技術支援的 GCP 平台上,以便能為專注在核心業務研發與業務推廣,也順利帶動業務得以快速成長,在全球直播市場佔有一席之地。然而在佈局全球市場過程中,17LIVE 也面臨多種技術挑戰,有機會影響到數千萬用戶的即時體驗和平台的營運效率。

平台每分鐘需處理超過100萬次請求,這代表資料庫需具備卓越的寫入吞吐量,且在任何用戶進行互動、搜尋或接收推薦內容時,系統都能在毫秒級響應時間內完成任務,以確保直播體驗的流暢性與互動性。然而使用多年的傳統關聯式資料庫架構,難以應對這種極高的併發需求。

17LIVE 為支撐每分鐘上百萬次的存取請求,早已改用MongoDB 資料庫,但需要被全文檢索的資料,則額外同步到獨立搜尋引擎中。在此兩套架構下衍生出「資料一致性危機」、「水平擴充瓶頸」等問題,也限制平台快速回應市場變化的能力。

曾柏誥說,17LIVE 的另一個挑戰則是系統的複雜性,由於需要維護獨立的資料庫和搜尋引擎系統,使得日常維運工作變得異常複雜且高風險。如在制定「備份與復原」、「系統升級」、「自動故障轉移」等策略時,都需要考慮兩套系統之間的關聯,往往需要耗費大量資源進行兼容性測試與維護。

以 MongoDB Atlas Search 為核心  打造一體化資料平台

17LIVE 為解決前述技術與維運的挑戰,同時為日後推動AI專案鋪路,最後選擇運用 MongoDB Atlas Search ,從根本上解決資料同步與一致性的問題,同時享用強大的現代搜尋能力。

17LIVE 引進 MongoDB Atlas Search 之後,將資料的儲存、索引、檢索與分析功能,整合於單一的 MongoDB Atlas 雲端資料庫中。如此一來,過往令人棘手的備份、升級、故障轉移與即時監控等工作,現已達成自動化,17LIVE 工程師團隊得以從繁重維運工作中解放出來,將資源重新投入到核心的業務創新上。

此外,由於搜尋索引直接建立在 MongoDB 資料集上,任何寫入或更新皆能即時且準確同步,解決過往潛在的「資料不一致」困境,確保用戶搜尋結果的準確性。

曾柏誥表示,隨著生成式 AI 技術成熟,17LIVE 目標是將該技術融入到各項服務中。大型語言模型存在「幻覺」疑慮,因此 17LIVE 採用「檢索增強生成」 (Retrieval-Augmented Generation, RAG)的標準 AI 應用架構,並以 MongoDB Atlas Vector Search 作為 RAG 架構核心。為進一步強化 AI 應用問答的精確度,17LIVE 採用 Hybrid Search 混合搜尋策略,透過「向量搜尋」、「關鍵字搜尋」之間搭配,成功地將 AI 幻覺發生機率降至最低,並提供高可信度的問答服務。

MongoDB Atlas 全面性賦能 商業價值與用戶體驗飆升

17LIVE 在運用 MongoDB Atlas 之後,不僅解決過往核心資料架構的眾多問題,更能輕鬆因應每分鐘百萬次連線請求,大幅提升用戶體驗與市場競爭力。

過去因公有雲平台曾經發生當機問題,導致直播主與會員服務中斷。採用 MongoDB Atlas 後,全年維運事件從 5 次降至 1 次。透過專屬技術服務工程師(NTSE) 以及原廠技術支援,讓平台可用性全面提升。

此外,17LIVE 將原本複雜的搜尋系統全面替換為 MongoDB Atlas Search,成功簡化架構、提升搜尋效率,並每年節省約超過200 萬台幣的營運成本,讓技術團隊可專注於新產品開發。

目前,17LIVE 正著手運用 GCP 平台上的大語言模型,搭配 MongoDB Atlas  Vector Search 進行多個 AI 小功能測試,如生成虛擬禮物、虛擬代幣等等,逐步打造智慧串流雲,維持在全球直播市場的領導地位。

展望未來,17LIVE 將持續深化與 MongoDB 的合作,利用其先進的資料平台能力,不斷優化直播互動體驗,鞏固其在亞洲乃至全球社群娛樂市場的領先地位。

「面對全球社群娛樂市場的激烈競爭,17LIVE 透過部署 MongoDB Atlas Search,成功將核心系統轉變為一個高度整合、彈性且具備 AI 賦能能力的資料平台,從 Atlas Search 到 AI 應用、再到發掘商業價值,不僅達成提升整體營運效能的目的,也讓生成式 AI 真正成為推動服務創新的利器。」— 17LIVE 資深技術總監曾柏誥

 

熱門新聞

Advertisement