新闻资讯
您的位置:主页 > 新闻资讯 > 行业新闻 >

AI时代发展的同时也要给网络安全提供“安全阀”

日期:2021-01-22 13:15
    不久前,一位客户戴着头盔去买房。经过媒体的深度洗礼,人们发现,这种夸张动机的原因并不是客户害怕透露自己的财富或其他东西,而是聪明的开发商会不自觉地通过人工智能(AI)收集客户的面部数据,并以此为依据确定佣金在各个销售渠道之中的归属。同时,这一动作也完全阻断了顾客在不同市场销售商品的欲望——在销售渠道比较商品的想法——因为只要你以前“露脸”,系统就会知道以前其他渠道给你的报价。在这个时候,你不可能削减一分钱。为了避免自己的“面子”被开发商“偷走”,用来对付自己,客户不应该用这种最原始的方法来对抗AI。
AI时代发展的同时也要给网络安全提供“安全阀”

    这一事件引起了人们对人脸识别等人工智能应用日益广泛的关注,并由此开始计算人们在享受人工智能带来的新体验时可能付出的安全代价。

人工智能安全问题
    如果仔细划分,我们会发现当今的人工智能至少面临三个挑战:
    第一个层面是人工智能技术本身固有的安全风险。我们需要知道,人工智能所依赖的机器学习实际上把我们所依赖的正常逻辑变成了“黑箱操作”。我们只知道决策结果的输出,却没有完全掌握神经网络外部工作的逻辑。这是人工智能与传统“自动控制”的最大区别。如果在这个过程之中,机器学习的数据受到污染,会影响样本和判断的准确性;机器学习模型本身的缺陷会带来更多的安全隐患。也就是说,与传统的信息安全问题相比,人工智能的外部安全问题更难及时发现和处理。
    第二个层次是恶意使用人工智能技术。历史经验告诉我们,黑客总是追随最新技术,有时甚至引领最新技术。人工智能的出现无疑为黑客提供了一种新的攻击武器。他们可以利用机器学习来分析海量数据,推测攻击目标的安全策略和方法,并找到突破口。我们应该知道,安全领域的困境在于:防御者必须预测并阻止攻击者可能使用的10000次攻击手段,而攻击者只需要利用防御者的一个漏洞就可以完成入侵并达到目的。因此,随着人工智能技术的发展,信息安全的风险越来越高。
    第三个层次是人工智能应用之中的隐私泄露和数据滥用问题。本文开头提到的例子属于这一类。而且,人工智能和物联网催生“人工智能物联网”之后,这种风险传播速度会更快,影响范围会更广,防范难度也会更大。

    应对人工智能安全挑战
    从这个角度来看,人工智能安全确实很难解决。但是,再难也要拧紧“安全阀”,这是必须解决的问题。
    缺少工具可能是解决人工智能难题的最大难题。世界著名的白帽黑客凯文·米尼克(Kevin Mitnick)曾经说过,没有真正符合人工智能核心技术的工具或产品,他自己在人工智能产品安全分析和评估方面的经验也不足。
    然而,正如人工智能可以被黑客用作攻击手段一样,人工智能本身强大的能力也可以被用作安全工具。当今的网络安全厂商纷纷引入人工智能技术来解决传统防御方案无法解决的新威胁,提高原有检测方案的检测精度,进行更高效的数据自动分类,实现更快的威胁响应和处置。也就是说,人工智能不仅可以用来对抗现有的攻击,而且可以感知和预测未来可能出现的安全威胁,使安全防御更加活跃。
    根据中国信息技术研究院发布的《中国网络安全产业白皮书(2019)》,人工智能技术正在网络安全领域发展,包括(但不限于)下列几个方面:
    在异常流量检测方面,人工智能为加密流量分析提供了新的解决方案。
    在恶意软件防御方面,针对特定场景的AI应用取得了积极进展。
    人工智能是模式识别在异常行为分析之中的有效补充。
    在敏感数据保护方面,AI有助于提高数据识别和保护能力。
    在安全运行管理方面,基于人工智能的安全编排与自动响应(Sora)逐渐兴起。
    有了人工智能作为安全防御的利器,人们之下一步的工作就是探索系统化的安全解决方案。例如,为了应对AI模型各方面可能存在的安全风险并给出相应的防御建议,腾讯发布了“AI安全攻击矩阵”。
    这个人工智能安全攻防矩阵的意义在于,它可以覆盖从人工智能模型开发后的环境建设,到模型的训练和部署,再到末期的使用和维护的整个人工智能产品生命周期。列出了在这个过程之中可能遇到的所有安全问题,并给出了相应的对策。这样,与这个“矩阵”相比,开发者可以根据AI部署和运行的基本情况,检查可能出现的安全问题,并根据推荐的防御建议部署防御,从而降低已知的安全风险。虽然这种探索目前只是一个开始,但也是一个良好的开端。

    科技以外的努力
    AI安全策略当然不能只停留在技术层面,因为AI对人类社会的影响是多方面、深层次的。具体来说,除了技术,我们至少要在两个方面采取行动:
    一是从法律的角度构筑安全防线,通过立法明确AI安全的“红线”,让黑客和AI滥用者付出应有的代价;二是通过行业自律,建立行业公认的行为准则,覆盖法律滞后于技术发展可能出现的灰色地带,最大限度地保护用户安全,这也为人工智能的快速发展创造了更加健康的生态。
    文章最终,分享一组数据:根据IDC的研究数据,2019年全球网络安全支出较2018年增长近9.4%,达到1066.3亿美元;但与此同时,一些机构预测,同期网络犯罪总成本可能超过2万亿美元美元,也就是说,网络犯罪活动的成本大约是安全支出的20倍。

    这就是人们面临的安全环境,而人工智能的出现将使这个环境更加复杂。在安全问题之上,我们绝不能妥协,因为一旦关键点丢失,就不会像丢失一个“面子”数据那么简单。这种可怕的压力也是推动行业进步的动力。