●文章摘要：

本文檔是由華為技術有限公司發(fā)布的AI安全白皮書。本白皮書主要目的是探討AI自身的安全，確保AI模型和數據的完整性與保密性，使其在不同的業(yè)務場景下，不會輕易地被攻擊者影響而改變判斷結果或泄露數據。不同于傳統的系統安全漏洞，機器學習系統存在安全漏洞的根因是其工作原理極為復雜，缺乏可解釋性。華為致力于AI安全的研究，旨在提供一個令用戶放心的AI應用安全環(huán)境，為華為AI使能構建智能世界的新時代愿景與使命做出貢獻。為了應對AI安全的新挑戰(zhàn)，本白皮書提出了將AI系統部署到業(yè)務場景中所需要的三個層次的防御手段：攻防安全，對已知攻擊設計有針對性的防御機制；模型安全，通過模型驗證等手段提升模型健壯性；架構安全，在部署AI的業(yè)務中設計不同的安全機制保證業(yè)務安全。

●關鍵詞：

AI；安全；攻防安全；模型安全；架構安全

●作者簡介：

華為技術有限公司（2018年）

●文章來源：

摘編自網絡

●文章目錄：

一、邁向智能社會

二、AI安全面臨五大挑戰(zhàn)

三、AI安全典型攻擊方式

1、閃避攻擊

2、藥餌攻擊

3、后門攻擊

4、模型竊取攻擊

四、AI安全防御手段

1、AI安全攻防

2、AI模型安全

3、AI業(yè)務的安全結構

五、攜手共建安全的智慧未來

●文章內容：