人工智能前期需要预防的安全隐患

一些恶意也会利用机器学习和AI扩大其网络攻击，规避安全控制措施，以前所未有的速度找出新漏洞并带来毁灭性的后果。提前预防熟悉利用技术入侵的安全隐患。
投资机器学习需要大量的专业知识，而机器学习相关专业知识目前是稀缺技能。而且，由于很多漏洞都没修复，攻击者可以用来突破企业防线的便捷途径多的是。
一：无效化现成安全工具
当前常用的很多安全工具都内置了某种形式的人工智能或机器学习。比如说，杀毒软件在查找可疑行为时就不止依赖基本的特征码。“网上任何可用的东西，尤其是开源的东西，都会被坏人利用。”
攻击者可以使用这些工具，不是用来抵御攻击，而是用来调整自己的恶意软件，直到能够绕过检测为止。AI模型都有很多盲点。
而且，攻击者利用的可不仅仅是AI赋能的安全工具。AI只是大堆不同技术之一。举个例子，用户常能学会通过找寻语法错误来识别网络钓鱼邮件。而AI赋能的语法检查器，比如Grammarly，可以帮助攻击者改善他们的写作。
二：垃圾邮件
垃圾邮件预防是机器学习成功的初始用例，如果所用垃圾邮件过滤器提供了未放行电子邮件或给出某个分数的原因，那么攻击者就可以调整自己的行为。他们会使用合法工具来让自己的攻击更加成功。只要提交的够多，你就可以还原出模型是什么，然后你就可以调整攻击，绕过这个模型。
脆弱的不仅仅是垃圾邮件过滤器。提供评分或其他某种输出的任何安全供应商，都可能被滥用。不是所有人都存在这个问题，但只要你不小心，有人就会恶意利用这种输出。
三：的密码猜解
网络罪犯还会采用机器学习来猜解密码。我们有证据显示他们使用密码猜解引擎的频率更高了，猜解成功率也更高。网络罪犯正在编造更好的字典来破解被盗散列。
他们还利用机器学习识别安全控制措施，以便能够以更少的尝试次数猜中密码，提高成功入侵系统的概率。
四：深度伪造
人工智能令人惊恐的滥用方式是深度伪造工具：生成能够以假乱真的视频或音频的工具。能够模拟他人声音或相貌非常有效。
事实上，过去几年里披露的一系列重大案件显示，伪造的音频可致使公司损失成百上千乃至数百万美元。
更为常见的是，骗子用AI生成看起来很真实的照片、用户资料和网络钓鱼邮件，让他们邮件看起来更可信。有媒体称，香港一家银行被骗转账给犯罪团伙3500万美元，仅仅是因为一名银行职员接到了自己认识的公司董事的电话。他认出了董事的声音，毫不怀疑地授权了转账。
五：网络钓鱼电子邮件
攻击者不仅仅采用机器学习安全工具来测试自己的邮件能否通过垃圾邮件过滤器。他们还会使用机器学习来编造这些电子邮件。他们利用这些技术生成更精致的网络钓鱼电子邮件，编造虚假人设来推进活动。
攻击者可以利用机器学习创造性地定制网络钓鱼电子邮件，防止这些邮件被标记为垃圾邮件，从而让目标用户有机会点进去。他们定制的可不仅仅是邮件文本。攻击者会利用AI生成看起来非常真实的照片、社交媒体资料和其他材料，让交流看起来尽可能真实可信。
六：AI模糊测试
合法软件开发人员和渗透测试人员使用模糊测试软件生成随机样本输入，尝试搞崩应用程序或者找出漏洞。此类软件的加强版利用机器学习以更具针对性、更有条理的方式产生输入，例如优先考虑有可能导致问题的文本字符串。这类模糊测试工具为企业所用能取得更好的测试效果，但在攻击者手中也更为致命。
以上这些技术都是安全补丁、反网络钓鱼教育和微分隔等网络安全手段依然至关重要的原因之一。设置多重路障，而不是仅仅采用攻击者反用来对付你的那一种。