OpenAI收購AI安全測試工具Promptfoo，強化代理人安全評估能力

OpenAI周一（3/9）宣布，將收購AI安全測試平臺Promptfoo，未來將把其技術整合至企業AI平臺OpenAI Frontier，以強化AI代理人（Agents）在開發與部署過程中的安全測試、風險評估與合規能力。

Promptfoo成立於2024年，由Ian Webster與Michael D'Angelo共同創辦，最初從開源LLM測試工具發展而來，主要提供AI應用安全測試與紅隊演練（Red Teaming）工具，目前已有超過25%的《財富》500大企業使用其工具。雙方並未公布交易價格，但Promptfoo在2025年完成A輪募資時的估值約為8,550萬美元。

Promptfoo提供命令列工具（Command-Line Interface，CLI）與程式庫，讓開發者可建立測試案例，評估AI模型在不同提示下的回應品質與安全性，例如檢測提示注入（Prompt Injection）、越獄（Jailbreak）、資料外洩或不當輸出等問題。該平臺也支援比較不同模型或不同版本系統的表現，以協助企業在開發AI應用時進行持續評估。

至於OpenAI Frontier則是OpenAI甫於今年2月推出的企業AI平臺，用於建立與管理AI代理人及AI工作夥伴（AI Coworkers），企業可利用該平臺建立能執行任務、操作工具或存取資料的AI代理人。

OpenAI指出，有鑑於企業逐步將AI代理人導入實際工作流程，評估、安全與合規已成為企業部署AI系統的基礎需求。透過整合Promptfoo技術，Frontier未來將在平臺中提供自動化安全測試與紅隊演練功能，協助企業在部署前識別風險並修補漏洞。

Promptfoo共同創辦人暨執行長Ian Webster則說，加入OpenAI後，團隊將可加速開發AI安全與治理相關工具。此外，OpenAI也已承諾將持續開發Promptfoo的開源專案，同時也會在Frontier中推出更完整的企業級安全與治理功能。