AI模型安全技術

全球知名的資安方案供應商Sophos的全球安全研究中心─SophosLabs，長期進行對全球的安全隱患的調查研究，在其2020年所發布的資安威脅報告中指出，人工智慧（AI）將成為資訊安全的新戰場。當產業廣泛運用AI來提升效率的同時，也必須關注如何防衛以AI模型為核心的資訊系統與服務。例如當AI系統被注入惡意發送的偽造的面部識別圖像，造成AI模型分類錯誤使得犯罪者逃脫檢測。另一方面，AI模型本身就是具價值的智慧財產，必須保護其免於洩露和濫用。針對這類新興AI資安議題，AI模型安全技術軸向的發展規劃上，則是將重點放在建構可信賴且具備容錯能力的AI應用系統、安全不受攻擊威脅的AI模型、以及能自我保護不受侵權的AI模型／應用系統。關鍵技術重點包括：可調式對抗樣本生成、對抗樣本防禦、AI攻擊防禦與容錯能力評估系統、差分隱私、邊緣／設備資料差分隱私、邊緣／設備資料AI隨機響應、AI模型編碼／參數混淆、AI模型浮水印、可溯源的AI模型保護等項目。工研院