信条：阿里云AI攻防安全启示录

数据收集阶段

常见的攻击手法有操控输入数据实施闪避攻击，致使模型应用时判断失误。

模型训练阶段

诱饵攻击会使训练数据中毒，后门攻击能令模型在特定条件下触发后门效果。

模型使用阶段

攻击者会分析系统输入输出等外部信息，推测模型参数及训练数据。