利用机器学习的攻击方式层出不穷因此需要有针对性的防御措施

由于几乎所有业务领域的公司都会将人工智能（AI）应用于他们制造的设备和软件产品，机器学习(ML)输入和输出正变得越来越广泛地可供客户使用。这自然引起了恶意行为者的注意。

企业正在慢慢意识到机器学习可以为他们开辟的途径。但是，他们是否也密切关注网络安全？

很少有企业专注于保护他们的机器学习资产，更少的企业将资源分配给机器学习安全。造成这种情况的原因有很多，原因包括竞争的发展中国家的预算优先事项、专家级的人才稀缺，以及直到最近还严重缺乏针对此问题的下一代安全人工智能产品。

攻击者如何利用公开的机器学习输入？

随着机器学习模型被集成到越来越多的生产系统中，它们正在硬件和软件产品、Web应用程序、移动应用程序等领域向客户展示。这种趋势通常被称为“边缘人工智能”，它为我们每天使用的所有技术带来了令人难以置信的决策能力和预测能力。向越来越多的最终用户提供机器学习同时将这些相同的机器学习资产暴露给威胁参与者。

企业应该特别担心哪些针对机器学习系统的威胁？

虽然需要防御所有对抗性机器学习攻击类型，但不同的企业将有不同的优先级。利用机器学习模型识别欺诈交易的金融机构将高度关注防御推理攻击。

另一个主要考虑因素是，其中许多攻击并不明显，如果不寻找它们，可能无法理解它们正在发生。作为安全从业者，已经习惯了勒索软件，这清楚地表明一个企业受到了攻击，数据被锁定或被盗。对抗性机器学习攻击可以定制为在更长的时间内发生，并且有些攻击（例如数据中毒）可能是一个较慢但具有永久性破坏性的过程。​这意味着，如果您的系统遭受攻击，您可能无法恢复到正常状态。因此，您需要确保您的计算机足够安全，以防止未经授权的访问。

（编辑：银川站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!