AI趨勢周報第234期：GitHub將在12月正式上線程式助理Copilot Chat

重點新聞(1103～1109)

 GitHub     Copilot Chat     程式開發  

GitHub將在12月正式上線程式助理Copilot Chat

原始碼代管平臺GitHub最近在技術年會上揭露新進展，將在下個月正式上線程式開發助手GitHub Copilot Chat，使用者可以自然語言方式，來進行程式碼除錯、程式碼編寫等任務。所有GitHub Copilot訂閱戶屆時皆可使用，Copilot Chat也將免費提供給經驗證的教師、學生和熱門開源專案的維護者。

今年7月，GitHub就開始測試以GPT-4為基礎的Copilot Chat。這次，他們在11月8日的年度大會上，除了揭露正式上線時間，也說明Copilot Chat的亮點，包括能根據程式碼上下文來解釋複雜概念、偵測安全漏洞，還能直接在程式碼行中使用Copilot Chat處理特定程式碼，另也引入斜杠指令（如/fix、/tests）和建議動作，使用者點擊一下就能完成任務。GitHub也表示，他們正將Copliot Chat整合至github.com和行動版App中，後者可讓使用者在Android或iPhone手機上，以文字或語音方式解決程式開發問題。

不只如此，GitHub Next研究團隊還揭露新服務Copilot Workspace，由AI驅動，可協助開發者將想法轉化為程式碼。比如，開發者可在Copilot Workspace中提問，系統會自動產出建議計畫，解釋如何實作變更，開發者就可透過Workspace中的元件來建置、執行和測試程式碼，若出現錯誤，系統還會自動修復。GitHub預計在明年正式推出Copilot Workspace。（詳全文）

  OpenAI     GPTs     ChatGPT  

OpenAI發表客製化AI服務GPTs

OpenAI在年度技術會上發布新工具GPTs，能讓使用者用來打造客製化ChatGPT，還能上傳自己的ChatGPT到GPT商店，來讓其他用戶使用。OpenAI也提供幾種樣板，比如能回答所有桌遊規則的ChatGPT、談判教學的ChatGPT，或是技術支援顧問的ChatGPT等。GPTs即日起支援ChatGPT Plus與ChatGPT Enterprise等付費用戶，並計畫開放給更多用戶。

OpenAI指出，使用者只需提供指令和額外知識，就能在GPTs建立特定目的的ChatGPT，完全不需撰寫程式。而且，使用者打造的客製化模型，還能串接API，如資料庫、Email等，來執行即時任務。甚至，企業使用者可用來打造內部分級專用的ChatGPT。OpenAI預告，他們將在這個月推出GPT Store，能讓經驗證的開發者上架自己的ChatGPT、與其它用戶分享，OpenAI也將在未來幾個月建立收費機制。（詳全文）

  GPT-4 Turbo    API      AI助理  

OpenAI揭露GPT-4 Turbo，可消化300頁文字

OpenAI最近在技術大會上發表GPT-4 Turbo預覽版，不只訓練資料更新到2023年4月，支援的脈絡（Context Window）長度還達到12.8萬個Token，最大輸出量為4,096個Token。其中，脈絡長度是指GPT在生成答案時，所參考的歷史資料範圍，包括使用者曾輸入的文字，或GPT曾產生的答案，而支援12.8萬個Token，代表GPT-4 Turbo最多可考慮將近300頁的文字。

所有付費開發者皆可於API請求中，加入gpt-4-1106-preview來預覽GPT-4 Turbo，正式版可望於數周後出爐。同時，OpenAI還推出Assistants API，能讓開發者打造AI助理，可呼叫模型和工具來執行任務，如Code Interpreter、Retrieval與函數呼叫等。（詳全文）

  提示工程     xAI     PromptIDE  

xAI推出提示工程開發環境PromptIDE

就在xAI揭露自家大型語言模型Grok-1後幾天，又推出了開發環境PromptIDE，能專門處理複雜的提示工程和可解釋性研究。xAI指出，PromptIDE本是團隊用來開發Grok-1所打造的開發環境，核心是一個Python程式碼編輯器和Python SDK，可讓使用者嘗試複雜的提示技術。

在IDE中執行提示時，使用者可查看分析結果，如精確分詞（Tokenization）、抽樣機率、替代token和聚合注意力遮罩等。此外，這個IDE還提供品質管理功能，如自動保存所有提示、內建版本控制等。xAI表示，他們希望藉PromptIDE建立社群，來讓使用者一鍵分享提示和分析資訊。目前，PromptIDE只供xAI的早期存取計畫成員使用。（詳全文）

  生成式AI     晶片     晶創臺灣方案  

鼓勵生成式AI晶片應用，政院通過10年3千億晶創臺灣方案

日前，行政院核准國科會提出的晶片驅動臺灣產業創新方案（簡稱晶創臺灣方案），將在2024至2033年的未來10年內，投入3,000億元經費來推動生成式AI和晶片的創新應用。

進一步來說，該方案提出4大策略，除了促進生成式AI結合晶片的產業新應用，還要強化人才培育環境、加速產業創新所需的異質整合與先進技術，以及吸引國際新創和投資來臺。該方案是由國科會跨部會，聯手經濟部、教育部、衛福部、農業部、數發部、國發會共同推出，不只規畫2024年科技預算120億元，未來10年還要投入3,000億元來執行。國科會表示，該方案明年開始執行，後續將由經濟部制定企業申請和審核規範。（詳全文）

  LLM     0.1AI     Yi  

李開復AI新創開源雙語LLM

由前微軟亞洲研究院院長、創投家李開復創立的AI新創零一萬物（[01.AI](http://01.ai/)）最近發布大型語言模型Yi-6B和34B版本，並開源出來。零一萬物是今年3月在中國成立的生成式AI新創，在成立8個月後，李開復在與彭博的訪談中公布名為Yi的首個LLM，包含60億及340億參數訓練的2個版本 。這個模型已透過GitHub開源給社群。

Yi是一套中英雙語的基礎模型，可處理的上下文長度為200K個Token。雖然比起其他開源模型小得多，但根據Hugging Face列出的基準測試結果，Yi-34B效能在數個指標例如在常識推理、閱讀理解和數學與寫程式測試中，表現比Falcon-180B和Llama2-70B等大型模型還好。MMLU、CMMLU、C-Eval等測試中，也都拿下第一名。（詳全文）

  Brave     AI助理     安全  

Brave推出瀏覽器AI助理Leo

繼Google Chrome和微軟Edge後，瀏覽器開發商Brave也推出桌機版Brave瀏覽器的原生AI助理Leo，主打不蒐集對話、不追蹤用戶，且能減少AI幻覺問題。目前，Leo開放免費使用，用戶可針對造訪網頁提出各種要求，例如為網頁文章摘錄重點、生成影片字幕、翻譯網頁、分析／改寫或擴充原有網頁內容。

與其他生成式聊天機器人不同的是，Leo的回應全以網頁內容為基礎，而非憑空生成資訊。與此同時，Brave也推出付費版的Leo Premium服務，每月15美元，有別於免費版Leo是以Llama 2為底層模型，Leo Premium以Claude Instant為基礎模型，不只更快、更輕，還著重邏輯推理和程式碼撰寫，能更準確執行指令，在數學、程式、多語言和回應問題的能力也有提升。（詳全文）

  LLM     LeMA     微調  

微軟研究院：從錯誤中學習的LLM表現更好

微軟亞洲研究院、北京大學、西安交通大學研究人員聯手提出一種AI訓練方法LeMA，能模仿人類學習知識的過程、從錯誤中學習，進而改善AI推理能力。進一步來說，該方法的原理是生成一對包含錯誤與修正版資料的資料組，來微調LLM。為取得修正資料，團隊蒐集了包括LLaMA和GPT系列的5個LLM的錯誤答案和推理途徑，再以GPT-4作為「訂正者」，來提供修正資料。修正資料包含三類資訊，分別是辨識出原有推理的錯誤步驟、解釋推理為什麼錯，最後修正錯誤、以及說明如何修正原方法以獲得最後正確答案，之後再由人類評估，夠好的修正答案才會用來微調LLM。

團隊也以2種問題資料集來測試LeMa方法，並比較只以CoT資料集來微調LLM的效果。結果顯示，以LLaMA-2-70B為例，它在兩種方法下，在GSM8K資料集的準確率分別是83.5%、81.4%，在MATH則為25.0%和23.6%。團隊還發現，在同樣資料量的訓練下，LeMA方法也比純CoT微調來得好。（詳全文）

  三星     生成式AI     程式開發  

三星揭露3款生成式AI模型，還要整合至新手機

南韓電子大廠三星日前在自家AI年度論壇上，揭露生成式AI模型Samsung Gauss，可處理文字生成、圖像生成和程式碼撰寫能力。進一步來說，該模型由三星研究院打造，可細分為3種版本，包括Samsung Gauss Language、Samsung Gauss Image和Samsung Gauss Code。

其中，Gauss Language專精文字生成，可用於撰寫電子郵件、摘錄文件重點和翻譯內容等任務。Gauss Code則與程式碼撰寫助理code.i相輔相成，能讓開發者輸入自然語言指令，來快速完成程式碼撰寫工作，還能透過互動介面生成程式碼描述和撰寫測試用例。Gauss Image則能讓使用者輕易生成和編輯圖片，包括變更風格、增添效果，或將低解析度圖片轉為高解析度。這些模型已於三星內部使用，未來將整合到多種自家產品和應用程式，比如語音助理Bixby、智慧家庭Smart Things設備，甚至是明年將上市的Galaxy S24手機等。（詳全文）

圖片來源／GitHub、OpenAI、xAI、Brave

  AI近期新聞 

1. IBM成立5億美元的AI創投基金

2. 微軟Xbox與Inworld AI合作打造基於AI的遊戲開發工具

3. 英特爾首度在臺公開展示三款AI PC筆電，還支援7B Llama 2模型推論

資料來源：iThome整理，2023年11月