微軟
今年Build大會上,微軟不只宣布將擴大支援生成式AI對話應用Copilot,還揭露了微軟更大的戰略,是要建構出完整的Copilot開發生態系,不只讓自家產品能夠全面支援Copilot,更要讓企業、開發人員都能將他們自己的應用和服務整合到Copilot中,並在各自的行業領域中應用。而微軟Copilot生態圈戰略發展其中一個很重要的關鍵,就是支援標準的外掛程式。
微軟迄今推出多種類型的Copilot應用,適用於不同的微軟產品,從最早在GitHub中輔助程式開發的Copilot,到後來針對低程式碼工具Power平臺的專用Copilot,再到提高生產力而設計的Copilot,也就是M365 Copilot。此外,還有提升員工參與度的Viva使用的Copilot,以及支援CRM相關應用的Copilot,其他還有搭載在搜尋引擎Bing和瀏覽器Edge上,用於網頁及安全相關Copilot,就連微軟Windows 11作業系統將很快支援Copilot,意味著Copilot將變成Windows桌面環境中的常駐程式,提供使用者更多支援和協助。
微軟全力發展Copilot開放生態系
微軟要讓Copilot開始能夠支援外掛擴充功能,就是為了替開發者打開一道入口,可以將Copilot連接到企業或開發者自己的軟體或服務中來進行互動。微軟技術長Kevin Scott甚至以數位世界中的驅動器來比喻外掛的關鍵作用。(圖片來源/微軟)
微軟雖然推出了許多不同用途Copilot,但是,微軟技術長Kevin Scott顯然認為這些延伸功能還不夠,還有許多有用的Copilot功能有待挖掘,需要更多開發人員和合作夥伴加入Copilot的開發行列,共同推動Copilot的發展,「Copilot必須成為一個開放的生態系統。」他這樣說道。
微軟讓Copilot開始能夠支援外掛擴充功能,就是要打開一道入口,將Copilot連接到企業和開發人員擁有的軟體或服務中,來進行互動。
Kevin Scott甚至用「數位世界中的驅動器」來比喻外掛的關鍵作用。當外掛使用者以文字輸入提問時,Copilot會根據提問內容調用開發人員所建立的外掛功能,來協助他們完成各種任務和操作,例如存取即時資訊、檢索訊息或執行跨應用操作等。
微軟最先在Bing的Copilot中推出了OpenTable和Wolfram Alpha兩個外掛功能,可以協助使用者查找和預定餐廳,或者回答計算和分析問題。隨後,更多第三方外掛加入Bing,包括Expedia、Instacart、Kayak、Klarna、Redfin、TripAdvisor和Zillow等,涵蓋了旅行規畫、購物、金融和房地產等領域。通過整合了這些外掛功能,Copilot在Bing上能夠提供使用者更具體的回應,大大提升了其搜尋引擎的能力,「未來幾年,人們對於所有軟體都會期待用這種模式來運作。」Kevin Scott強調。
除了Bing Chat以外,微軟也宣布,將有更多微軟Copilot產品能夠支援這項外掛機制,包括M365 Copilot、 Power Platform Copilot、 Dynamics 365 Copilot,以及Windows Copilot等。
舉例來說,在M365的Copilot外掛中,還提供了三種不同外掛形式,一個ChatGPT外掛、Teams對話訊息擴充套件和Power平臺連接器。ChatGPT外掛採用基於ChatGPT形式的外掛API,Teams訊息擴充套件和Power平臺連接器則是具有能夠支援客製化訊息和連接企業內部數據的外掛功能。一開始就有多達50個第三方外掛,可以支援M365的Copilot,包括Atlassian、Adobe、ServiceNow、Thomson Reuters、Moveworks和Mural等。微軟預計在未來幾個月內還會推出上千個外掛,進一步擴大M365的Copilot功能和應用範圍。
外掛生態圈也支援企業用Azure AI自建的Copilot
除了微軟官方和合作夥伴推出的第三方外掛以外,企業還能為不同微軟服務的Copilot建立自己的外掛功能,來滿足特定需求與業務場景。甚至,企業在Azure AI上透過語言模型微調或訓練而建立的Copilot,同樣可以利用這個外掛機制,進一步擴展企業Copilot的能力,以滿足更多的應用需求。隨著越來越多開發者加入並推出支援不同應用或服務的外掛,將形成一個豐富且多樣的外掛的生態系。
不僅如此,微軟更借助ChatGPT的影響力來加速建立Copilot的外掛生態圈,而決定採用與其相同的開放的外掛標準,讓這兩個不同平臺之間的外掛可以彼此互通。對於開發人員而言,這樣做的好處是,只要建立一個外掛程式,就可以掛載到任何支援這個標準的Copilot或ChatGPT平臺中,因為使用相同的外掛標準,在其中一方建立的外掛使用的檔案或文件,也可以應用到另一方的外掛中,不需重新建立。
微軟現有開發工具開始整合外掛標準,來簡化外掛功能的開發流程。例如,微軟已經將Visual Studio Code、GitHub Codespaces等工具與新的外掛標準整合,可以直接在這些工具中來建立、部署或調度在Copilot介面運作的外掛功能。對於想要在M365 Copilot中提供外掛的開發者,也能夠利用Visual Studio和命令列介面(CLI)中提供的Teams Toolkit工具,協助其進行外掛的建立、測試和調度。
快速了解ChatGPT外掛標準
微軟Copilot外掛機制採用了與OpenAI ChatGPT相同的開放標準,因此,開發者在其中一方建立外掛使用的檔案或文件,也可以應用到另一方的外掛中,不需重新建立。在外掛API設計上,Copilot採用和ChatGPT一樣的OpenAPI規範作為標準。(圖片來源/微軟)
由於微軟Copilot的外掛功能採用了與OpenAI的ChatGPT相同的開放標準,開發者也能藉由ChatGPT公開的外掛規範,快速了解未來建立自己的Copilot應用時,所需遵循相關的標準和規範。
根據OpenAI的說明,開發人員可以利用ChatGPT的外掛功能,將其與第三方應用程式進行連接,並使用API與ChatGPT互動。
不過,設計ChatGPT的外掛時,開發者需建立至少一個呼叫的API端點,並在該文件中包含標準化的manifest檔案。manifest檔案如同提供一個指南給ChatGPT,讓它知道何時該用這個外掛來回應使用者。所有跟外掛相關的metadata資訊都統一記錄於這個檔案中,例如外掛名稱、logo商標等,其他還有記載身分驗證所需的資訊,如驗證類型、OAuth URL等。
在manifest檔案中還定義了外掛各項功能,其中包含了對於API回應內文的字元數上限,以不超過10萬個字元為限,但同時也保留了未來調整的彈性空間。每個manifest檔案建立完成後,需儲存為JSON格式,並託管在外掛API域名下指定”well-known“資料夾路徑中。
ChatGPT外掛的API設計採用OpenAPI規範作為標準,並參考了OpenAPI規範3.0.1版,來定義API中的外掛名稱、描述和版本號等相關資訊,提供開發者在設計API時的參照和指引。舉例來說,外掛名稱可設為”TODO plugin”,版本號則可以使用”v1”表示外掛的初始版本。
此外,在API規範中,對於每個API端點的摘要和參數描述也設有上限,最多不能超過200個字元數,其他則遵照既有OpenAPI格式。公開的API端點中,除了manifest檔案之外,必須包含OpenAPI規範文件。
一旦外掛API端點建立完成並公開後,會有兩種外掛的執行環境供開發者使用,本地的開發環境和遠端伺服器環境。考慮到安全性,遠端伺服器環境中要求使用HTTPS伺服器,而在本地開發環境中使用外掛的話,則需要事先建立身分驗證機制,否則外掛將無法執行。
熱門新聞
2024-12-08
2024-12-08
2024-12-08
2024-11-29