OpenAI招募與模型安全相關的準備度主管

OpenAI共同創辦人暨執行長Sam Altman上周宣布，該公司正在招募一名準備度主管（Head of Preparedness），負責評估模型的風險，從模型能不能作惡、會不會突破現有防護，到可否發布等，不計股票的年薪為55.5萬美元（逾1,800萬元新臺幣）。

根據OpenAI所公布的職缺，準備度主管隸屬於安全系統團隊，主導OpenAI準備度框架的技術策略與實際執行，該框架將可說明OpenAI如何追蹤及因應前沿能力所帶來、可能造成嚴重傷害的新型風險。

而準備度主管將負責評估模型能力、判斷潛在威脅，以及所對應的風險防護措施，並確保這些工作被整合為一套一致、嚴謹，且能隨著產品規模與更新節奏運作的安全流程。OpenAI表示，此一職務需要深厚的技術判斷力、清楚溝通能力，以及跨多個風險領域推動複雜工作的能力。

具體而言，該職務將全權負責OpenAI的準備度策略，主導前沿能力評估的開發，監督主要風險領域，引導評估結果的解讀，也應隨著新風險或能力的出現改善準備度框架，以及同時與研究、工程、產品、政策監測，以及執法、治理及外部合作夥伴跨部門協作，以將準備度落實於實際部署中。

從職務設計來看，外界認為OpenAI正試圖將安全焦點從理論層次的長期風險，轉為能直接影響產品發布的實務問題。

Altman說，如果想幫世界找出如何賦予網路安全防禦者最頂尖的能力，同時確保攻擊者無法利用這些能力來作惡，亦想捍衛生物相關功能的安全性，或是如何放心讓系統自我進化，那麼請考慮加入OpenAI。這是一份壓力非常大的工作，一開始就會直接面對最棘手的問題。