APMIC與奧義智慧(CyCraft)團隊對此次戰略合作充滿信心,雙方期望結合AI與資安專業,攜手推動臺灣智慧防禦技術邁向國際。(由左至右)APMIC海外事業部總經理許宏祥、CyCraft技術長暨共同創辦人邱銘彰、APMIC創辦人暨執行長吳柏翰、CyCraft執行長暨共同創辦人吳明蔚、CyCraft資安長暨共同創辦人叢培侃、APMIC AI資安副總徐方繹。

圖片來源: 

奧義智慧科技(CyCraft)提供

隨著AI應用,特別是大型語言模型在各產業的普及,其潛在的安全漏洞已成為企業揮之不去的陰影。深耕AI資安的臺灣資安業者奧義智慧科技(CyCraft)於日前宣布,將和臺灣提供企業自主AI解決方案業者APMIC(Accelerate private machine Intelligence Company)合作,共同推出業界首款專為防禦而生的AI模型XecGuard,以及Safety LLM安全評測服務。

奧義智慧科技技術長暨共同創辦人邱銘彰表示,目前已經有多家正在使用AI聊天機器人的企業用戶會做先導測試(Pilot Run),預計今年第三季推出閘道端的AI防火牆產品XecGuard,便利更多企業使用。

奧義智慧推AI防火牆,是一款LoRA安全升級模組

邱銘彰表示,XecGuard是從根本上解決大型語言模型(LLM)面臨安全挑戰的產品,特別是針對「提示詞注入」(Prompt Injection)、提示詞竊取(Prompt Extraction)和「越獄」(Jailbreak)等惡意攻擊,提供防禦能力。

根據邱銘彰的解析,XecGuard不僅是技術的突破,更是AI「安全」(Safety)思維,而非傳統「資安」(Security)思維的典範轉移,原因在於:攻擊者可能透過誘導AI產生不當內容,甚至竊取敏感數據,造成難以估量的損失。

他也指出,傳統的資安防護,如基於規則的防火牆(Rule-based Firewall),在面對AI模型複雜的人類輸入與邏輯時,往往顯得力不從心。正如邱銘彰所言:「你看看那些爺爺奶奶角色扮演,沒辦法寫防火牆規則,也沒辦法寫如何被防火牆全部阻擋,只有魔法才能打敗魔法。」

奧義智慧的XecGuard正是這「魔法」的體現。邱銘彰解釋,它並非傳統意義上的防火牆,而是一種革命性的LoRA(Low-Rank Adaptation)安全升級模組。LoRA是在AI領域,特別是語言模型領域相當常見的微調(Fine-tuning)技術,它允許將一個小模組「嫁接」到大型語言模型上,賦予其全新的能力,同時保持基礎模型架構的完整性。

邱銘彰進一步闡釋:「它其實是一種Model(模型)的技術,可以把一個小的模組裝在語言模型(Language Model)上,然後它就具備新的能力」。這項技術的核心優勢在於:「隨插即用」(Plug-and-Play)的特性,企業無需修改既有的模型架構,也無需額外進行訓練或翻譯,即可直接安裝,如同為LLM穿上強大的防禦裝甲。

邱銘彰提到,目前業界對於AI防火牆這個「術語」還沒有共通的說法。雖然微軟推出Azure AI Studio安全工具,Cloudflare也有Firewall for AI等產品提供類似功能,「但它們大多採用規則(Rule-based)檢查輸入與輸出。」他說。

奧義智慧推出的XecGuard則是真正基於「模型」的安全模型,他表示,為了更便利企業用戶使用,預計今年第三季,奧義智慧會將XecGuard這款AI模組硬體化,使其能作為獨立的閘道器(Gateway)產品,可以安裝在AI聊天機器人之前,做到自動過濾有害問題與有害內容的AI硬體防火牆。

從「道安講習」到「交通規則」,AI的「安全」新維度

XecGuard最引人入勝的創新之處,在於其獨特的訓練方法,使AI模型能夠從根本上「學會」遵守規則,而非被動地阻擋已知的違規行為。邱銘彰生動地比喻:「等於是你有一個機器人的駕駛幫你開車,但裝上這個模組之後,等於這個機器人的駕駛上過了道安講習,它上過了一些訓練課程,會更遵守交通號誌」。

他進一步說明,傳統的資安產品,特別是基於規則的防火牆,就會像是條列「數百萬條交通法規」,然後針對每一條違規行為進行阻擋,本質上是一種「黑名單」的策略。

但是,他表示,人類的輸入充滿了語言的彈性、邏輯的複雜性及隱含的意義,這些都不是簡單的模式匹配或正規表達式所能解決的,像是攻擊者就常常會透過角色扮演、情境引導等方式,巧妙地繞過規則限制,促使AI做出一些違背原始設定的行為,這就是所謂的「越獄」。

XecGuard則是透過該公司多階段微調技術(SFT+GRPO),並運用近六萬筆獨家安全攻防資料集進行訓練。邱銘彰指出,這種訓練方式讓模型能夠自我理解,並「遵守交通規則」,可以更嚴格地遵循其基礎設定(System Prompt)所定義的政策與規範。

邱銘彰表示,它不只是辨識「違規」,更是內化了「以人為本,保護人類生命」的核心原則。如同之前舉例的那位上過道安講習的機器人駕駛,它會更遵守原始定義的「交通號誌規範」,而不容易被用戶的奇特提問所影響,做出有害的內容,例如「路上的狗跳出來,在其他道路都亂開車」的不當行為。

邱銘彰強調,奧義智慧的XecGuard,從根本上看待的是AI的「Safety」(安全)問題,而不是傳統資安的「Security」(資訊安全)問題。「這是個巨大的區別,因為它要求模型從行為的本質上實現可信賴性,而非僅僅是防堵外部威脅。」他認為,這種以語言模型對抗真實攻擊,特別是提示詞注入的能力,是目前市場上用規則無法解決的難題,也是XecGuard最大的特色。

透過實測小參數模型,驗證具備商業級防護力

XecGuard的實力不僅體現在其獨特的技術理念,更在嚴格的實戰測驗得到驗證。奧義智慧科技選擇了APMIC與Twinkle AI社群聯合開發的3B規模開源模型「F1」,搭配XecGuard安全升級模組進行實際攻防演練,並透過業界常見的LLM Red Teaming攻防測試來驗證成效。

結果令人印象深刻,整體安全防禦分數平均提升了19.4%,在特定攻擊場景下,防禦效果甚至高達33.9%,展現了卓越的安全韌性。更令人驚訝的是,F1模型結合XecGuard後的防護表現,已顯著超越了同級甚至更大規模的商業模型,包括OpenAI等大型商業級模型,以及Llama 3B、Qwen3 4B、Gemma3 4B、DeepSeek 8B等主流開源模型。

邱銘彰認為,根據這些測試結果,不僅證明小參數模型透過安全蒸餾與專屬訓練,可以做到媲美國際商業大型模型的防護力,也為企業在兼顧成本與效能的前提下,提供了頂級的AI安全保障。

邱銘彰也提到,目前商業模型的分數在他們的基準測試報告中都「蠻慘的」,這更突顯了XecGuard面對複雜攻擊時的優勢。

強強聯手,奧義智慧與APMIC共築可信賴AI生態

XecGuard的問世,是奧義智慧科技與APMIC戰略合作的結晶,其中,APMIC自2017年在臺灣創立以來,以其自然語言理解(NLU)核心技術,為企業提供模型代工的「S1模型微調與蒸餾」解決方案、企業私有化AI解決方案「PrivAI」,以及一站式AI Chatbot建置平臺「CaiGunn開講」。目前,APMIC產品已廣泛應用於橫跨健康、製造、金融、零售等1100多家企業和政府部門。

邱銘彰表示,這一次的「強強聯手」,就是結合奧義智慧的資安攻防經驗與APMIC的AI開發實力。他指出,APMIC不僅是NVIDIA的合作夥伴,未來也計畫在他們的推論伺服器(inference server)中,預設搭載奧義智慧的XecGuard安全模型。「這意味著,企業將能更便捷地將XecGuard整合到其現有的AI基礎設施中,大幅降低部署門檻。」他說。

奧義智慧科技執行長暨共同創辦人吳明蔚強調:「過去我們用AI解決資安難題,現在我們用AI保護AI。」他表示,XecGuard融入了該公司在政府、金融等關鍵領域的實戰攻防經驗,它不只智慧,更有韌性,是企業在AI時代最堅實的防護盾。

克服聊天機器人痛點,今年Q3硬體版正式登場

AI安全議題的嚴重性已逐漸浮現,並成為企業關注的焦點。邱銘彰指出,雖然目前AI圈普遍傾向「衝快再說」,但很快就會意識到安全議題的嚴重性。他指出,奧義智慧已接獲某些銀行資安長主動聯繫,表達試用XecGuard的高度意願,這也印證市場對此類安全解決方案的迫切需求。

XecGuard的目標客戶群,尤其鎖定那些提供「對外客服」的聊天機器人應用的企業,邱銘彰指出,這類聊天機器人直接面對廣大使用者,容易受到來自「鄉民們」各種充滿創意且難以預測的攻擊。

因此,他表示,諸如電商、高科技產業及金融業等大量採用客服機器人的領域,將是XecGuard最適合的應用場景。「廣義而言,任何將AI嵌入自家服務的企業,都非常適合導入XecGuard。」他說。

邱銘彰表示,目前,奧義智慧已有一些客戶準備進行這款AI防火牆產品XecGuard的先導測試,預計今年第三季正式對外推出閘道端的硬體版AI防火牆,便利企業更容易部署。

隨著XecGuard的問世,他也說,奧義智慧科技與APMIC將引領業界邁向AI必須安全、且安全必須是「標配」而非「選配」的新時代。

 
 

熱門新聞

Advertisement