Mozilla宣布成立人工智慧新創公司Mozilla.ai以及相關社群,建立可信任且獨立的開源人工智慧生態系,投入3,000萬美元資金,首要目標是開發安全且透明的生成式人工智慧工具。

近期人工智慧技術蓬勃發展,許多應用和服務都整合機器學習模型,提供創新服務,這波熱潮由Stable Diffusion等文生圖模型,以及類似GPT-4等大型語言模型所驅動,Mozilla認為,生成式人工智慧(Generative AI)工具足以對人類溝通、創造力,甚至是整個社會,產生深遠的影響。

生成式人工智慧是指特定一類的人工智慧技術,能夠自動生成具有特定特徵,或是符合特定規則的資料,目前生成式人工智慧被應用在多種領域上,諸如圖像生成、語音合成、自然語言處理以及圖形合成等,由於該技術能夠一定程度模仿人類的創造力,因此生成式人工智慧能夠創作圖像、音樂和文本。

Mozilla提到,儘管新一波人工智慧浪潮讓人興奮,但同時也帶來了憂慮。在越來越多應用整合生成式人工智慧,也讓人發現了更多該技術許多缺陷,像是模型生成結果的不可控制性,人工智慧可能會產生不符道德或是不真實的內容,或是如Deepfake技術被濫用在不道德和惡意的目的上,且由於模型訓練需要有大量的資料,因此人工智慧生成的產物,也存在著作權和智慧財產權等問題

Mozilla在過去與社群反覆探討相關問題下,勾勒出他們認為可信任人工智慧應該有的樣子,並且決定投入資源創立可以實現該願景的新創公司。雖然社群正在建構開源人工智慧技術,並且發展稽核方法,試圖建立可信任的人工智慧技術,但Mozilla認為,目前對人工智慧最具影響力的大型科技公司,他們並沒有看到足夠的努力,甚至這些公司更重視鞏固市場的控制。

Mozilla.ai將從非營利組織Mozilla拿到3,000萬美元資金,建立開源社群以及建構可信任人工智慧。Mozilla.ai目標是開發同時具有代理性、責任性和透明性的人工智慧系統。

也就是說,Mozilla.ai將發展具有一定程度的自主性和能力人工智慧系統,該系統將使相關利益方對人工智慧系統的行為負起責任,他們所開發的人工智慧系統,運作原理和決策過程也會清晰易懂,讓人們因為其透明機制而能夠信任人工智慧,Mozilla也特別強調了開放性,認為人工智慧應該開放利益相關者參與、評估和改進,以促進技術創新,保持公平、公正和無歧視性。

Mozilla.ai最初的重點在於開發安全且透明的生成式人工智慧工具,發展以人為本的推薦系統,避免散布錯誤訊息,Mozilla.ai還會在接下來數個月發布更多相關資訊和成果。

熱門新聞

Advertisement