#本文仅代表作者观点，不代表IPRdaily立场，未经作者许可，禁止转载#

“AI的决策最终需要得到人类用户的信任，如何在模型投入生产、决策过程中，以及决策后能够透明、可视地向使用者展示决策过程？如何避免因为算法、数据歧视，而影响决策的公平性？对于建立公众对AI决策结果的信任至关重要。”

来源：IPRdaily中文网（iprdaily.cn）

数字时代是人工智能深度应用和发展的时代。人工智能作为关键性的新型技术能力，推动了产业升级与变革，加速了智能社会的建设。随着AI技术的规模化产业落地，数据隐私、算法安全、算法歧视等风险成为不可回避的行业共性问题，也将AI指向了“不被信任”的困境 。让AI安全可信，发展可信AI技术，是数字时代抵御风险的关键能力，也是人工智能从高速增长转变为高质量增长的关键内驱力。

AI技术首先要服务于各类应用。如何确保其在各种条件和环境变化时，仍能在安全范围内运行，是首要解决的问题。增强模型算法的鲁棒性、抗打击能力，有助于提升AI应用的稳定运行。同时，数据作为AI模型的重要支柱之一，如何实现合理的利用和保护成为关键。如何借助技术手段，避免数据的过度采集、滥用盗用，既是行业研究的责任，也是用户权益保护的基础。同时，针对当前多数据所有权、地区法律法规差异大的现状，如何借助技术手段、在保护隐私的前提下实现计算服务，将进一步释放数据价值。AI的决策最终需要得到人类用户的信任，如何在模型投入生产、决策过程中，以及决策后能够透明、可视地向使用者展示决策过程？如何避免因为算法、数据歧视，而影响决策的公平性？对于建立公众对AI决策结果的信任至关重要。

面对人工智能引发的信任问题，可信AI成为近年来学术界、工业界和政策制定者的重点研究方向，并形成以AI鲁棒性、AI数据隐私保护、AI可解释性和AI公平性为安全可信关键特征的共识。我们于2021年首次进行AI安全可信关键技术专利检索，随着安全可信成为人工智能发展基础的定性，在过去的一年，我们也观察到相关的专利申请量和授权量也在大幅激增。所以，我们再次进行全球专利数据的检索和分析，延续性分析都有谁在致力于AI安全可信技术的研究？实践应用在哪里领域和场景？本文即通过公开可获取的专利数据[1]一窥究竟。

1、AI安全可信关键技术的创新产出

图1的分析结果显示[2]， AI安全可信关键技术相关专利共有17065项德温特专利家族[3]，对应26593件专利申请。可见目前AI安全可信关键技术已经获得了一些关注，并且已经具有一定数量的创新技术产出。

这17065项创新技术中，约69%是关于AI数据隐私保护相关的专利，23%是AI鲁棒性相关的专利，AI可解释性相关专利的占比为9%，AI公平性方向的专利相对较少仅1%。

图1 AI安全可信关键技术专利产出

基于图2显示的专利首次申请地域（优先权国家/地区）可以看出，本领域62%的创新源自中国，20%的创新源自美国，这两个国家的创新占全球的半数以上，是最为关注AI安全可信技术并进行创新研究的地区。

图2 AI安全可信关键技术专利优先权国家/地区

2、AI安全可信关键技术的Top创新主体

AI安全可信关键技术领域按照德温特专利家族数量排名前20位的Top创新主体如下表所示，排名第一的支付宝（蚂蚁集团）有753项德温特专利家族，其次是腾讯有521项，IBM以456项紧随其后。

图3 AI安全可信关键技术Top创新主体-按德温特专利家族数

3、AI安全关键技术的Top创新主体授权专利数量

进一步分析在AI安全可信关键技术领域整体排名领先的Top创新主体的德温特专利家族专利授权量(只要家族中有一件专利获得授权即视为这个专利家族已经获得授权)并按照授权数量排名，结果显示前三位是支付宝（蚂蚁集团）、IBM、NTT，这三家公司的授权专利数量都在150项以上。

图4 AI安全可信关键技术Top创新主体专利授权量

4、AI安全可信关键技术Top创新主体的关注市场

通常专利布局的国家/地区会根据企业的市场战略制定，而且企业一般会选择比较重要且有信心获得授权的专利技术去多个目标市场进行布局。所以通过分析企业的专利布局目标国家/地区可以了解该企业的目标市场和技术自信，通过分析AI安全可信技术领域整体的专利布局目标市场发现：本领域的Top创新主体除了中国的科研机构主要关注中国本土(即较少布局海外市场)外，阿里巴巴布局了21个市场，支付宝（蚂蚁集团）布局了14个市场，是布局市场较多的中国企业。除此以外，腾讯和华为各布局了8个市场、百度和中国平安各布局了5个市场。其中的国外Top创新主体都至少布局了10个以上的市场。

图5 AI安全可信技术Top创新主体专利布局目标市场

5、AI安全可信技术的主要应用领域解析

通过本次调查的词频可以了解到，与电信诈骗、身份冒用、营销作弊、金融风控、企业联合风控相关的“安全风控”是AI安全可信主要应用领域，专利量占比超26%。其中，支付宝（蚂蚁集团）在该领域的专利数达205件，位居第一。

通过本文研究发现，AI安全可信关键技术已经获得了一定的关注并且已经研发了一些技术成果，这其中中国的支付宝（蚂蚁集团）和腾讯两家企业起到了引领作用，紧随其后的包括IBM, NTT, 阿里巴巴等信息巨头企业。相信随着AI更为广范的应用，AI安全可信关键技术会获得更高的研究关注度。

注释：

[1]专利制度的设计初衷是为了鼓励发明创造，方便技术传播，而且因为专利的先申请制，任何创新技术方案除非是技术秘密正常都会先申请专利，所以专利文献是最全面、及时、客观的情报载体，可以通过公开的专利数据掌握客观的技术、市场、竞争情报。

[2]本文的专利数据检索截止日为：2022年11月28日，涵盖专利最早优先权日2000年1月1日以后公开的全球利申请和/或授权专利。

[3]德温特世界专利索引 (Derwent World Patents Index, DWPI)是全球最权威的专利增值数据，全球超过40个国家/地区的专利局都在使用德温特世界专利索引进行官方的专利检索和审查。德温特世界专利索引在数据加工过程中，会将相同技术主题的多件专利归并为一个德温特专利家族，这一个家族的多件专利都是保护相同技术主题。本文针对技术的分析均以德温特专利家族为单位，如此可以避免将一个技术主题因为有多个专利家族成员而被计算多次，而具体到分析在哪个国家布局几件专利时则以单独的专利作为统计单位。

（原标题：AI安全可信关键技术专利分析简要报告）

来源：IPRdaily中文网（iprdaily.cn）

编辑：IPRdaily赵甄 校对：IPRdaily纵横君