正文

请到「今天看啥」查看全文

随着Skylight Cyber这种AI公司越来越多，消费者和企业保护的级别固然会上升，但是针对AI特有弱点的新一批黑客和软件也会随着出现。

另一方面，黑客也可能会从数据的角度来愚弄AI，即破坏AI算法的训练数据，使得AI产生偏见，影响其对网络中正常行为和恶意行为的区分。

利用语音合成的犯罪案件

当网络安全研究员越来越多的使用AI防御攻击时，AI本身也会被用来制造更加复杂，更有针对性的网络攻击。例如Deepfake生成的语音和合成的语音越来越逼真。在欧洲，已经发生了一些黑客利用AI模仿公司CEO给员工打电话然后让其转账的案件。

虽然在现实世界中利用AI来攻击的犯罪案件尚未有报道，但是早在2018年，IBM就开发了一种名为Deeplocker的深度学习驱动的恶意软件，可以绕过网络安全保护来进行攻击。该软件被描述为“一种由AI驱动的具有高度针对性和规避性攻击工具的新型恶意软件”，目的是了解现有的AI模型是如何与恶意软件技术相结合，从而创造出一种新的攻击类型。

此技术将黑盒AI的传统弱点变成了一种优势，在目标物未出现之前，可以隐藏在普通的应用软件中，感染掉上百万的系统也不会被察觉。这个 AI 模型只有在识别出特定的标准时，才会“解锁”并开始攻击。

当然，除了AI型的黑客，使用量子计算资源的量子黑客、利用大数据进行分析的大数据黑客等也将逐渐浮出水面。

所以在技术层面，2020 年黑客发展趋势主要包括：

1）AI本身也会被用来制造更加复杂，更有针对性的网络攻击。

2）由于AI的黑盒性质，网络攻击将会变得更加隐蔽和猛烈。

三、AI 技术日益普及化和平民化，AutoML将大显身手

AutoML 作为一套自动化设计和训练神经网络的工具，能够降低企业的进入门槛，使得技术更加“平民化”。

从数千个特定任务中设计或搜索正确的神经网络框架整个过程非常耗时，尤其是在为更加复杂的场景（例如自动驾驶，需要兼具速度和准确率）设计AI 架构时，就更非易事。

对此，神经架构搜索（NAS）应运而生，可自动化为给定任务找到最佳 AI 设计的过程。2017年，谷歌正式将其命名为“AutoML”。谷歌在当时便指出， AutoML 将启发新型神经网络的诞生 ，并且还能够让非专家也能够根据他们的特殊需求创建相应的神经网络。

自此之后，AutoML 的应用越发广泛，在数据准备、训练、模型搜索、特征工程等 AI 设计中都发挥着巨大的作用，极大地推动了 AI 技术的普及化。

总体而言，AutoML 主要具备两个主要优势：

1）可缓解人才短缺问题：目前 AI 专家还是处于非常短缺的状态，而AutoML 则会极大地降低非专家以及企业的技术使用门槛，从而推动 AI 技术的普及和推广。

2）可节省成本和降低复杂性：即便对于专家而言，设计神经网络都是一个费时费力的过程。AutoML 在降低计算和试错成本的同时，开发的解决方案也更胜一筹。

随着 AI 技术越发普及化和平民化，AutoML将继续大显身手。

而在未来的研究方向上，主要可以从算法方向和理论方向着手：

1）在AutoML算法上，未来的工作如果能在效率提升、泛化性、全流程的优化、面对开放世界、安全性和可解释性这 5 个方向上取得突破，将会有较大的价值。

2）在AutoML理论研究上，目前相关的研究还较少，对自动机器学习的泛化能力及适用性也不是很清楚。因而，一方面要回答目前自动机器学习算法的适用性和泛化能力，另一方面也要回答哪些问题类存在通用的机器学习算法上和更广泛问题空间上的自动机器学习算法的可行性。

请到「今天看啥」查看全文