開放工程聯盟MLCommons宣布成立新的MLPerf個人端工作組,替桌上型電腦、筆記型電腦和工作站等個人端裝置創建機器學習基準。MLPerf個人端工作組的初始參與者包括AMD、Arm、華碩、戴爾、英特爾、聯想、微軟、Nvidia和高通等公司。
MLCommons之前所創建的MLPerf基準測試套件,是資料中心人工智慧基準測試的黃金標準,而MLCommons正在利用以社群為中心的協作開發方法,結合對機器學習技術的知識,創建消費者個人端系統基準測試套件。
人工智慧技術的重要性不言而喻,已經成為運算裝置使用者日常的一部分,而個人端系統晶片加入各種人工智慧硬體加速功能,不少作業系統和應用程式也都整合了人工智慧功能。MLCommons指出,隨著這些軟硬體功能的增加,許多機器學習模型會在個人端系統本地執行,因此產業需要一個可靠且標準的方法,來衡量個人端系統上人工智慧加速解決方案的效能與效率。
MLPerf個人端基準把焦點擺在終端使用者的真實用例上,這有助於更準確地反映日常使用人工智慧系統的實際表現。MLCommons將社群的回饋當作基礎,官方計畫第一個MLPerf個人端基準測試會針對大型語言模型,特別是Llama 2。
創建適用於個人端裝置的機器學習基準,有許多困難需要克服。在個人端執行大型語言模型,需要在系統的效能與模型輸出的品質取得平衡點,而這對於制定基準測試是一項挑戰,因為高品質的輸出,代表著需要更多的運算資源,而這可能影響系統整體效能。
其次,當使用特定資料集和模型時,可能涉及著作權和授權問題,需要經妥善處理避免違反法律規定。同時,MLCommons還需要透過將Llama 2的工作負載,納入MLCommons訓練和推理基準套件,來解決安全性問題。
熱門新聞
2024-10-05
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07