AI知名新創業者超過六成AI機密資訊外洩GitHub

雲端資安公司Wiz研究發現，在GitHub上，可以找到眾多組織的機密憑證，包括65%的知名AI新創公司。

Wiz這項研究是分析知名AI新創公司的資安作業。該公司假設任何AI公司若在GitHub有夠多軟體程式碼，絕對會洩露一些憑證。因此他們研究對象鎖定AI未上市公司，特別是具有指標性的富比世AI 50（Forbes AI 50），大到Anthropic、小到新創如Glean和Crusoe等，並著手在GitHub掃描。

研究掃描的範圍除了提交歷史記錄、已刪除分叉（fork）、工作流程日誌（logs）、gist等常見地方，還包括拓樸（topology）、以及周圍區域如組織追蹤者（metadata中引用組織名稱的帳戶）、程式碼貢獻者、與HuggingFace和npm等相關網路中的相關性。

Wiz發現，在Forbes AI 50中，將近2/3，約65%可在GitHub上找到機密資訊，像是API金鑰、令牌、和敏感憑證等。這些資料可能藏在已刪除的分叉、gist或開發人員repository中，多數掃瞄工具可能忽略這些地方。研究人員表示，這些資訊可能導致洩露組織架構、AI訓練資料甚至模型。

Wiz估計，這些經驗證的機密資訊價值超過4000億美元。

在這些外洩的組織中，在GitHub上足跡（footprint）最小的是沒有公開程式庫，但仍然有14家公司成員洩露了其他資料。最大足跡者而沒有外洩資訊的，擁有60個公開程式庫，分屬28個成員。研究人員表示這些組織具有完善的機密管理策略。

從外洩的機密類型分布來看，主要三類都和AI有關，分別是WeightsAndBiases、ElevenLabs和HuggingFace。Google API為第四大。

Wiz也分析了揭露或公開管道。近半通報消息未能真正到達受影響的公司或未接獲回應。許多公司沒有官方揭露管道、未能回應或無法解決問題。但研究人員發現，AI公司這方面逐步改善。例如LangChain和ElevenLabs API金鑰都很快解決。

但也有一家AI 50公司在已刪除的分叉中洩露了HuggingFace令牌，後者可存取1000個不公開模型。此外，Wiz也發現多個WeightsAndBiases API金鑰，洩露了不公開模型的訓練資料。

Wiz建議這些AI公司最好能使用執行公開VCS （Version Control System）掃描機密資訊，並設立公布管道，確保和大眾的資訊流通，最好也考慮專屬機密資料偵測，防範資訊外洩。