AI趨勢周報第231期：Docker也新添生成式AI工具了

重點新聞(1013～1019)

Docker     容器     生成式AI  

開源容器工具Docker也新添生成式AI工具，開發更快速

開源容器平臺Docker是目前許多AI應用的主流部署方法，其同名公司日前在年度技術大會Dockercon上，揭露一系列生成式AI新功能，首先是GenAI Stack，號稱只需幾分鐘，使用者就能開始開發生成式AI應用。

進一步來說，GenAI Stack簡化開發流程，將Docker容器與圖數據庫Neo4j、語言模型開發框架LangChain和模型管理工具Ollama整合在一起。比如，使用者可用Ollama在本地端執行LLM，並用預設的Neo4j圖形和向量搜尋資料庫，來讓AI模型更快、更準確。此外，GenAI Stack還提供預配置的開源大型語言模型（如Llama 2、Code Llama、Mistral）和私有模型（如GPT-3.5、GPT-4），來縮短開發時間。

除了GenAI Stack，Docker也推出首個AI產品Docker AI，是個類似程式開發助理Copilot的服務。團隊以長年來累積的百萬個Dockerfile、Docker Compose檔案來訓練Docker AI，能針對特定情境提供自動化功能，比如可在使用者編輯Dockerfile或Docker Compose檔案、在地端除錯docker build或在執行測試時，提供自動化指示，加速開發流程。（詳全文）

  台新金控     生成式AI     Chatbot  

台新金控揭露4大生成式AI實驗進展

台新金控揭露生成式AI進展，包括Teams Chatbot、知識管理平臺、程式助理Codex和虛擬智能客服等4大實驗案。其中，第一項導入的是微軟Azure OpenAI服務的ChatGPT，台新金控首選Chatbot的目的是讓集團各單位更了解生成式AI，於是在今年3月與廠商規畫、建置專屬Chatbot，租用微軟Azure OpenAI環境，5月正式將ChatGPT串接至Teams中，提供200個帳號供各單位使用。

再來，台新金控進一步結合生成式AI，打造知識管理平臺。該平臺能讓使用者向生成式AI提問，平臺再根據問題搜尋內部資料，找出最相關的資訊，由生成式AI彙整、回覆給使用者。該平臺還未正式上線，但未來完善後，會擴大發展為智能客服或其他應用。此外，台新金控也針對Codex進行一系研究，發現該Codex可提高程式開發效率，可協助IT人員完成資料表的建立、增刪減與重新規畫，以及撰寫初階和進階程式碼、撰寫程式碼說明等。不只如此，台新金控也用生成式AI打造虛擬客服，也就是生成一個擬真的客服人員，再利用語音轉文字、文字轉語音、人臉辨識等技術，來推薦理財商品給客戶。（詳全文）

  可解釋性      特徵      神經網路  

Anthropic用特徵解構神經網路，大幅提高可解釋性

OpenAI競爭者Anthropic在最新發表的AI研究論文〈Decomposing Language Models With Dictionary Learning〉中，提出一種字典學習方法，能提高對神經網路的解釋性。這項研究讓Anthropic更能監控模型，進而引導模型行為，提高企業使用AI的安全性和可靠性。

進一步來說，有別於在單一神經元中尋找規律，團隊擴大運用特徵（Feature）概念，藉由特徵對應到一群神經元活動模式的特性，來將複雜的神經網路，解構成更容易理解的單位。他們也在Transformer模型中，成功將一個含512個神經元的層，分解成超過4,000個特徵。同時，團隊還發展自動解釋方法，來驗證特徵的可解釋性。他們用大型語言模型來生成小模型的特徵描述，並以另一個模型來對描述評分，實驗結果也證實，特徵的得分高於神經元，也間接證明特徵的活躍和模型下游行為具一致性。（詳全文）

  自動駕駛     生成式AI     GAIA-1  

英新創擴大90億參數生成式AI模型，助自駕模型看見未來

今年6月，英國AI新創Wayve展開一項概念性驗證專案，要將生成式AI模型GAIA-1用於自動駕駛，這幾個月持續擴展，模型參數增加至90億個，能生成逼真的駕駛場景影片，呈現自動駕駛在各種情境的反應，並更好地預測未來事件。

GAIA-1可用不同模態的資料（如影片、文字和動作）來建立逼真駕駛場景影片，也能學習環境和未來動態表示，向自動駕駛模型提供一個結構化的環境理解，協助駕駛模型做出明智決策。GAIA-1的核心是世界模型（World model），是一個自迴歸Transformer，能預測序列中下一組圖像token；世界模型不只考慮過去的圖像token，還參照文字和動作token的上下文資訊。如此生成的這不只在視覺上連貫，也能和預期的文字、動作指引保持一致。

接著，影片解碼器開始運作，將這些圖像token轉換回像素空間，來生成語義一致的影片。GAIA-1的主要價值在於在自動駕駛中引入生成式世界模型概念，透過整合影片、文本和動作輸入，展示多模態學習在創建多樣化駕駛情境的潛力，並泛化至真實世界中，提高自駕車能力。（詳全文）

  PyTorch Edge     邊緣裝置     ExecuTorch  

PyTorch Edge新解決方案簡化邊緣裝置的AI推論

開源機器學習框架PyTorch Edge最近推出一款新解決方案ExecuTorch，獲蘋果、高通創新中心和Arm等科技巨頭支援，可實現跨行動裝置和邊緣裝置的模型推論工作。

進一步來說，ExecuTorch的目的是要解決裝置AI生態系碎片化的問題，其關鍵元件包含一個執行環境和輕量級操作登錄檔（Operator registry），範圍涵蓋PyTorch生態系中所有模型，可簡化PyTorch在裝置上執行的過程。ExecuTorch還有一個SDK和工具鏈，提供ML開發者直覺式的使用者體驗，能用來編寫、訓練模型和裝置授權，並整合在單一個PyTorch工作流程中。（詳全文）

  Google     搜尋     圖像生成  

Google在搜尋實驗室中新添AI生成圖像功能

Google日前在搜尋實驗室（Search Labs）中，新添了2項搜尋生成式體驗（SGE）功能，一是直接在搜尋列上執行生成圖像功能，二是請AI幫忙撰寫各種草稿。比如，使用者可在搜尋列上，輸入「請畫一張戴著廚師帽並正在做早餐的水豚圖像」，系統就會出現4張符合該描述的圖畫，隨便點選任何一張就能看到各自的描述，使用者也能編輯文字描述來修改圖畫。這些AI生成的圖像具有元資料標籤，並鑲有浮水印，Google還會封鎖違反使用政策的AI生成圖像，例如含有有害或誤導性內容。

另一個SGE功能則能用來協助撰寫各種草，比如撰寫邀請施工人員報價的草稿，還能要求SGE調整草稿的長度及語氣，再匯出至Google Docs或Gmail。搜尋實驗室是Google在今年5月發表的測試平臺，用來測試各種利用生成式AI並改善搜尋，不過，目前搜尋實驗室僅開放美國、印度與日本的少數用戶參與。（詳全文）

  Google Cloud     智財     生成式AI  

Google Cloud提供智財免責防護

為讓企業用戶安心使用AI服務，Google Cloud宣布提供AI免責防護，讓使用者不用擔心使用到版權內容而被告。今年8月，Google推出付費的Duet AI助理服務，並整合至生產力工具Workspace、雲端平臺Cloud Platform以及AI模型服務Vertex AI，企業可用Duet AI來生成所需內容，如行銷文案、廣告圖片或電子郵件等。

而最近推出的服務，則是要防止使用者可能遭遇的版權法律責任。新服務包含2部分，第1個與Google使用的訓練資料有關，第2部分則著重基礎模型的生成結果。首先，訓練資料的免責涵括所有Google用來打造其生成模型的資料集，當第三方單位宣稱客戶侵害了其智財權，責任全由Google承擔。第二部分則是當戶使用Google AI服務的輸出結果，被第三方單位宣稱侵害其版權時，責任歸屬在Google。（詳全文）

圖片來源／Docker、Anthropic、Wayve、Google

攝影／王若樸

  AI近期新聞 

1. OpenAI正式開放ChatGPT Bing網頁搜尋，公測DALLE-3

2. Adobe在旗下產品Photoshop和Preimere Elements新添20項AI功能

資料來源：iThome整理，2023年10月