，人工智能(AI)作为新型基础设施的重要战略性技术加速发展，并与社会各行各业创新融合，引发链式变革。

ChatGPT是人类在计算机软件领域地一次重大突破，标志着人工智能技术跨出了划时代的一步。虽然目前的AI技术尚处于发展起步阶段，但可以确定的是，人工智能必定是新一轮科技革命和产业变革的重要驱动力量。

所有数字化技术都是双刃剑，相比一般的数字技术，人工智能面临的安全问题要更加复杂，包括网络攻击、漏洞攻击、数据攻击，以及内容安全问题等。特别是当一大批人工智能研究领域的高科技公司将人工智能技术平民化后，新技术带来的隐患也在引起越来越多的关注。

随着人工智能发展加速，由此引发的问题逐渐摆上台面。2023年6月，欧洲议会通过了《AI法案》授权草案，草案内容包括用于监督人工智能基础模型的分级管理办法。

2023年10月，由中国全国信息安全标准化技术委员会组织，面向社会公开征求《生成式人工智能服务安全基本要求》意见。同月，日本首相岸田文雄在日本京都发表演讲，公布面向生成式人工智能的监管计划。

2023年11月，英国全球第一届人工智能安全峰会在英国召开，与会各国讨论了当下全球人工智能治理的问题。中国科技部副部长吴朝晖率团参会并在峰会开幕式上发表讲话，并在会后联合发布《宣言》，该《宣言》成为“第一份关于有必要监管AI发展的全球声明”。

斯坦福大学发布的《2023年人工智能指数报告》中提到，对127个国家的立法记录调研的结果显示，包含“人工智能”的法案被通过成为法律的数量，从2016年的仅1个增长到2022年的37个。该报告对自2016年以来81个国家的人工智能法律法规记录的分析也同样表明，全球立法程序中提及人工智能的次数增加了近6.5倍。

AI安全行业市场发展前景分析

今年我国AI企业新增368家，生成式AI的企业采用率已达15%，其中在制造业、零售业、电信行业、医疗健康等四大行业，采用率分别为5%、13%、10%和7%，生成式AI市场规模约为14.4万亿元。

人工智能不断走入人们的工作和生活场景时，数据的采集、存储和应用也越来越面临诸多风险。概括来说，数据安全问题体现在五个方面：可复制、易泄露、来源广、危害大、监管难，这是由数据的特性决定的。

在具体危害表现上，一方面，最常见的是对数据保密性的侵害，如在金融领域，通过网络窃取人工智能系统用户的交易账单、理财情况来了解其个人资产状况和基于在线行为的支付意愿，从而快速有效地定位金融诈骗的受害者和目标群体;或是通过各种网络漏洞，窃取大量用户的指纹、虹膜、面孔、身形等个人隐私信息数据用于犯罪;也有一些手机应用软件违法违规收集用户个人信息等用于商业目的。

AI安全行业是指专注于保护人工智能系统免受恶意攻击和滥用的一门行业。2023年第三季度中国IT安全硬件市场整体收入约为58.5亿元人民币(约合8.1亿美元)，同比增长2.5%。截至2023年三季度末，2023年中国IT安全硬件市场规模达到133.6亿元人民币(约合18.9亿美元)，同比增长1.4%。

从行业来看，政府和企业预算持续缩减，主要需求点仍集中在公共事业、能源、通信等“关基”行业。AI赋能网络安全技术是厂商们共同探索的重要话题。威胁检测、自动化响应、行为分析等安全能力在AI技术的加持下将变得更为精准、高效、智能。

目前,AI已被应用于威胁分析、策略生成、态势感知、攻防对抗等方面,防护有效性得到充分验证。Capgemini研究结果显示,80%的公司都依靠AI来帮助识别威胁和阻止攻击。IBM指出,缺乏AI安全的企业,在抵御网络攻击方面的成本是部署了AI自动化防御系统的企业的三倍。

数字化技术发展、安全威胁加剧、国家政策法规分别构成我国AI安全产业发展的原动力、驱动力和推动力，使AI安全产业持续快速增长。

AI时代已至,随着AI成为各行各业的底层能力和必选应用,不断涌现的新型威胁和防护需求,将对安全防护技术提出更高要求。AI+安全作为公认的应对之策,将迎来深度融合。

对安全厂商而言,广阔市场机遇之下,是否具备AI安全能力优势将是竞争突围的分水岭,而依靠率先布局和持续深耕铸就起能力壁垒的厂商,有望在市场中占据一席之地。