GitHub
重點新聞(1103~1109)
GitHub Copilot Chat 程式開發
GitHub將在12月正式上線程式助理Copilot Chat
原始碼代管平臺GitHub最近在技術年會上揭露新進展,將在下個月正式上線程式開發助手GitHub Copilot Chat,使用者可以自然語言方式,來進行程式碼除錯、程式碼編寫等任務。所有GitHub Copilot訂閱戶屆時皆可使用,Copilot Chat也將免費提供給經驗證的教師、學生和熱門開源專案的維護者。
今年7月,GitHub就開始測試以GPT-4為基礎的Copilot Chat。這次,他們在11月8日的年度大會上,除了揭露正式上線時間,也說明Copilot Chat的亮點,包括能根據程式碼上下文來解釋複雜概念、偵測安全漏洞,還能直接在程式碼行中使用Copilot Chat處理特定程式碼,另也引入斜杠指令(如/fix、/tests)和建議動作,使用者點擊一下就能完成任務。GitHub也表示,他們正將Copliot Chat整合至github.com和行動版App中,後者可讓使用者在Android或iPhone手機上,以文字或語音方式解決程式開發問題。
不只如此,GitHub Next研究團隊還揭露新服務Copilot Workspace,由AI驅動,可協助開發者將想法轉化為程式碼。比如,開發者可在Copilot Workspace中提問,系統會自動產出建議計畫,解釋如何實作變更,開發者就可透過Workspace中的元件來建置、執行和測試程式碼,若出現錯誤,系統還會自動修復。GitHub預計在明年正式推出Copilot Workspace。(詳全文)
OpenAI GPTs ChatGPT
OpenAI發表客製化AI服務GPTs
OpenAI在年度技術會上發布新工具GPTs,能讓使用者用來打造客製化ChatGPT,還能上傳自己的ChatGPT到GPT商店,來讓其他用戶使用。OpenAI也提供幾種樣板,比如能回答所有桌遊規則的ChatGPT、談判教學的ChatGPT,或是技術支援顧問的ChatGPT等。GPTs即日起支援ChatGPT Plus與ChatGPT Enterprise等付費用戶,並計畫開放給更多用戶。
OpenAI指出,使用者只需提供指令和額外知識,就能在GPTs建立特定目的的ChatGPT,完全不需撰寫程式。而且,使用者打造的客製化模型,還能串接API,如資料庫、Email等,來執行即時任務。甚至,企業使用者可用來打造內部分級專用的ChatGPT。OpenAI預告,他們將在這個月推出GPT Store,能讓經驗證的開發者上架自己的ChatGPT、與其它用戶分享,OpenAI也將在未來幾個月建立收費機制。(詳全文)
GPT-4 Turbo API AI助理
OpenAI揭露GPT-4 Turbo,可消化300頁文字
OpenAI最近在技術大會上發表GPT-4 Turbo預覽版,不只訓練資料更新到2023年4月,支援的脈絡(Context Window)長度還達到12.8萬個Token,最大輸出量為4,096個Token。其中,脈絡長度是指GPT在生成答案時,所參考的歷史資料範圍,包括使用者曾輸入的文字,或GPT曾產生的答案,而支援12.8萬個Token,代表GPT-4 Turbo最多可考慮將近300頁的文字。
所有付費開發者皆可於API請求中,加入gpt-4-1106-preview來預覽GPT-4 Turbo,正式版可望於數周後出爐。同時,OpenAI還推出Assistants API,能讓開發者打造AI助理,可呼叫模型和工具來執行任務,如Code Interpreter、Retrieval與函數呼叫等。(詳全文)
提示工程 xAI PromptIDE
xAI推出提示工程開發環境PromptIDE
就在xAI揭露自家大型語言模型Grok-1後幾天,又推出了開發環境PromptIDE,能專門處理複雜的提示工程和可解釋性研究。xAI指出,PromptIDE本是團隊用來開發Grok-1所打造的開發環境,核心是一個Python程式碼編輯器和Python SDK,可讓使用者嘗試複雜的提示技術。
在IDE中執行提示時,使用者可查看分析結果,如精確分詞(Tokenization)、抽樣機率、替代token和聚合注意力遮罩等。此外,這個IDE還提供品質管理功能,如自動保存所有提示、內建版本控制等。xAI表示,他們希望藉PromptIDE建立社群,來讓使用者一鍵分享提示和分析資訊。目前,PromptIDE只供xAI的早期存取計畫成員使用。(詳全文)
生成式AI 晶片 晶創臺灣方案
鼓勵生成式AI晶片應用,政院通過10年3千億晶創臺灣方案
日前,行政院核准國科會提出的晶片驅動臺灣產業創新方案(簡稱晶創臺灣方案),將在2024至2033年的未來10年內,投入3,000億元經費來推動生成式AI和晶片的創新應用。
進一步來說,該方案提出4大策略,除了促進生成式AI結合晶片的產業新應用,還要強化人才培育環境、加速產業創新所需的異質整合與先進技術,以及吸引國際新創和投資來臺。該方案是由國科會跨部會,聯手經濟部、教育部、衛福部、農業部、數發部、國發會共同推出,不只規畫2024年科技預算120億元,未來10年還要投入3,000億元來執行。國科會表示,該方案明年開始執行,後續將由經濟部制定企業申請和審核規範。(詳全文)
LLM 0.1AI Yi
李開復AI新創開源雙語LLM
由前微軟亞洲研究院院長、創投家李開復創立的AI新創零一萬物([01.AI](http://01.ai/))最近發布大型語言模型Yi-6B和34B版本,並開源出來。零一萬物是今年3月在中國成立的生成式AI新創,在成立8個月後,李開復在與彭博的訪談中公布名為Yi的首個LLM,包含60億及340億參數訓練的2個版本 。這個模型已透過GitHub開源給社群。
Yi是一套中英雙語的基礎模型,可處理的上下文長度為200K個Token。雖然比起其他開源模型小得多,但根據Hugging Face列出的基準測試結果,Yi-34B效能在數個指標例如在常識推理、閱讀理解和數學與寫程式測試中,表現比Falcon-180B和Llama2-70B等大型模型還好。MMLU、CMMLU、C-Eval等測試中,也都拿下第一名。(詳全文)
Brave AI助理 安全
Brave推出瀏覽器AI助理Leo
繼Google Chrome和微軟Edge後,瀏覽器開發商Brave也推出桌機版Brave瀏覽器的原生AI助理Leo,主打不蒐集對話、不追蹤用戶,且能減少AI幻覺問題。目前,Leo開放免費使用,用戶可針對造訪網頁提出各種要求,例如為網頁文章摘錄重點、生成影片字幕、翻譯網頁、分析/改寫或擴充原有網頁內容。
與其他生成式聊天機器人不同的是,Leo的回應全以網頁內容為基礎,而非憑空生成資訊。與此同時,Brave也推出付費版的Leo Premium服務,每月15美元,有別於免費版Leo是以Llama 2為底層模型,Leo Premium以Claude Instant為基礎模型,不只更快、更輕,還著重邏輯推理和程式碼撰寫,能更準確執行指令,在數學、程式、多語言和回應問題的能力也有提升。(詳全文)
LLM LeMA 微調
微軟研究院:從錯誤中學習的LLM表現更好
微軟亞洲研究院、北京大學、西安交通大學研究人員聯手提出一種AI訓練方法LeMA,能模仿人類學習知識的過程、從錯誤中學習,進而改善AI推理能力。進一步來說,該方法的原理是生成一對包含錯誤與修正版資料的資料組,來微調LLM。為取得修正資料,團隊蒐集了包括LLaMA和GPT系列的5個LLM的錯誤答案和推理途徑,再以GPT-4作為「訂正者」,來提供修正資料。修正資料包含三類資訊,分別是辨識出原有推理的錯誤步驟、解釋推理為什麼錯,最後修正錯誤、以及說明如何修正原方法以獲得最後正確答案,之後再由人類評估,夠好的修正答案才會用來微調LLM。
團隊也以2種問題資料集來測試LeMa方法,並比較只以CoT資料集來微調LLM的效果。結果顯示,以LLaMA-2-70B為例,它在兩種方法下,在GSM8K資料集的準確率分別是83.5%、81.4%,在MATH則為25.0%和23.6%。團隊還發現,在同樣資料量的訓練下,LeMA方法也比純CoT微調來得好。(詳全文)
三星 生成式AI 程式開發
三星揭露3款生成式AI模型,還要整合至新手機
南韓電子大廠三星日前在自家AI年度論壇上,揭露生成式AI模型Samsung Gauss,可處理文字生成、圖像生成和程式碼撰寫能力。進一步來說,該模型由三星研究院打造,可細分為3種版本,包括Samsung Gauss Language、Samsung Gauss Image和Samsung Gauss Code。
其中,Gauss Language專精文字生成,可用於撰寫電子郵件、摘錄文件重點和翻譯內容等任務。Gauss Code則與程式碼撰寫助理code.i相輔相成,能讓開發者輸入自然語言指令,來快速完成程式碼撰寫工作,還能透過互動介面生成程式碼描述和撰寫測試用例。Gauss Image則能讓使用者輕易生成和編輯圖片,包括變更風格、增添效果,或將低解析度圖片轉為高解析度。這些模型已於三星內部使用,未來將整合到多種自家產品和應用程式,比如語音助理Bixby、智慧家庭Smart Things設備,甚至是明年將上市的Galaxy S24手機等。(詳全文)
圖片來源/GitHub、OpenAI、xAI、Brave
AI近期新聞
1. IBM成立5億美元的AI創投基金
2. 微軟Xbox與Inworld AI合作打造基於AI的遊戲開發工具
3. 英特爾首度在臺公開展示三款AI PC筆電,還支援7B Llama 2模型推論
資料來源:iThome整理,2023年11月
熱門新聞
2024-12-03
2024-11-29
2024-12-02
2024-12-02
2024-11-20