Databricks公開可讓代理型AI運作效能提升100倍的Mooncake技術

Databricks上周公布了資料整合技術Mooncake，號稱可讓代理型AI運作效能提升100倍。

這是Databricks 9月底收購一家AI新創公司Mooncake Labs的結果。Mooncake Labs是以Apache Iceberg開發解決方案。

Databricks說明Moonkcake技術能大幅提升AI運算的效能。OLTP（Online Transaction Processing）是為用於擷取訂單、支付和登入等「寫入」應用，講求快速插入和更新，但並不適於分析。OLAP（Online Analytics Processing）則是用於報表、儀表板和模型的「讀取」應用。在這些應用中，資料被集結、查詢和摘要，但是是事後進行，而不會及時執行。

過去OLTP和OLAP任務要靠ETL管線（pipeline）將歷史資料從交易型系統擷取出來、轉換，再倒入分析型資料倉儲中。這種技術在一些非同步作業中，如季報甚至每日作業都可行。但是在代理型AI中，自主系統被訓練成在幾秒內就要完成接收資料、決策和行動，任何時間延遲都不容許。

而Mooncake Labs的技術正是為了縮小時間差。該方案是在Apache Iceberg的開放表格格式上緊密整合儲存、索引及運算打造而成，其運算不再基於管線和時間差區分成交易和分析。而結果是使代理型AI作業速度提高100倍，成為一種回饋循環，支援自主應用，包括詐欺偵測、供應鏈串接到生成式AI代理人。

Databricks表示，該公司一直以來力圖將湖濱小屋（lakehouse）建置為資料和AI的整合基礎架構，其收購也是依此藍圖。MosaicML是為了生成式AI訓練而收購，Arcion是為了即時資料管線，都是為了打破資料壁壘。MosaicML強化了Databricks訓練和部署基礎模型的體格，Mooncake則是給了它心跳：即時、交易資料狀態，但又可立即分析。5月間，Databricks還另外買下無伺服器的Postgres平臺供應商Neon，可提供客戶建置AI代理人。