威尼斯网站大全

中国正在向世界各国出口人工智能监测技术

美国科技巨头微软与中国军事大学合作开发人工智能系统,可能会增强政府的监控和审查能力。 两名美国参议员公开谴责这种伙伴关系,但中国国防科技大学希望从微软那里得到的并不是唯一的问题。

正如我的研究表明,数字压制的出现深刻地影响了公民与国家之间的关系。 新技术正在为政府提供前所未有的监控,跟踪和监视个人的能力。 即使是拥有强大法治传统的民主国家的政府也会发现自己试图滥用这些新的能力。

在拥有不负责任的机构和频繁侵犯人权的国家,人工智能系统很可能会造成更大的破坏。 中国是一个突出的例子。 它的领导者热情地接受了人工智能技术,并在新疆建立了世界上最先进的监控国家,跟踪公民的日常活动和智能手机的使用。

它对这些技术的利用为同盟独裁者提供了一种令人不寒而栗的模式,并对开放的民主社会构成直接威胁。 虽然没有证据表明其他政府已经复制了这种级别的人工智能监控,但中国公司正在积极向世界各地出口相同的基础技术。

在美国越来越依赖AI工具

人工智能系统在现代世界无处不在,有助于运行智能手机,互联网搜索引擎,数字语音助理和Netflix电影队列。 由于要分析的数据量不断增加,改进了算法和先进的计算机芯片,许多人都没有意识到AI的扩展速度。

任何时候有更多的信息可用,分析变得更容易,政府感兴趣 - 而不仅仅是专制的。 例如,在美国,20世纪70年代,政府机构(如FBI,CIA和NSA)建立了广泛的国内监控网络来监控和骚扰民权抗议者,政治活动家和美洲原住民团体。 这些问题并没有消失:今天的数字技术加深了更多机构进行更具侵入性监控的能力。

例如,美国警方急切地接受了人工智能技术。 他们已经开始使用软件来预测犯罪将发生在何处,以决定派遣巡逻人员的位置。 他们还在刑事调查中使用面部识别和DNA分析。 但对这些系统的分析表明,训练这些系统的数据往往存在偏差,导致不公平的结果,例如错误地确定非裔美国人比其他群体更有可能犯罪。

世界各地的人工智能监控

在专制国家,人工智能系统可以直接促进国内控制和监视,帮助内部安全部队更快,更有效地处理大量信息 - 包括社交媒体帖子,短信,电子邮件和电话。 警方可以根据这些系统发现的信息,确定社会趋势和可能威胁政权的特定人员。

例如,中国政府已经在中国境内少数民族聚居地区大规模打击人工智能。 新疆和西藏的监测系统被描述为“奥威尔”。这些努力包括强制性DNA样本,Wi-Fi网络监测和广泛的面部识别摄像机,所有这些都与综合数据分析平台相连。 根据美国国务院的统计,在这些制度的帮助下,中国当局“任意拘留”了100万至200万人。

我的研究着眼于世界上90个国家的政府类型,从封闭的专制主义到有缺陷的民主国家,包括泰国,土耳其,孟加拉国和肯尼亚。 我发现中国公司正在向其中至少54个国家出口人工智能监控技术。 通常,这项技术被打包成为中国的一带一路旗舰项目的一部分,该项目正在为广泛的公路,铁路,能源管道和电信网络提供资金,为全球60%的人口和经济提供服务,产生全球GDP的40%。

例如,华为和中兴等中国企业正在巴基斯坦,菲律宾和肯尼亚建设“智慧城市”,拥有广泛的内置监控技术。 例如,华为在菲律宾的Bonifacio Global City配备了高清互联网摄像头,可提供“24/7智能安全监控,数据分析,检测犯罪,帮助管理流量”。

海康威视,Yitu和SenseTime正在提供最先进的面部识别摄像头,供新加坡等地使用,宣布建立监控计划,在城市周围的灯柱上安装了110,000个摄像头。 津巴布韦正在创建一个可用于面部识别的国家图像数据库。

然而,出售利润的先进设备不同于具有明确地缘政治目的的共享技术。 这些新的能力可能为全球监测埋下了种子:随着各国政府越来越依赖中国的技术来管理其人口和维持权力,他们将面临更大的压力,以配合中国的议程。 但目前看来,中国的主要动机是主导新技术市场并在此过程中赚大钱。

AI和虚假信息

除了提供全面和细粒度的监控功能外,AI还可以帮助压制性政府操纵可用信息并传播虚假信息。 这些活动可以自动化或自动化辅助,并部署针对特定人群或群体的超个性化消息。

AI还支持通常称为“deepfake”的技术,其中算法创建逼真的视频和音频伪造。 在一个紧张的选举中,当一个候选人可以制作虚假的视频来展示对手在做什么和说从未发生过的事情时,在真相和虚构之间徘徊可能会变得有用。

在我看来,民主国家的政策制定者应该仔细考虑人工智能系统对他们自己的社会和生活在世界各地专制政权下的人们的风险。 一个关键问题是有多少国家将采用中国的数字监控模式。 但这不仅仅是专制国家的感觉。 此外,不仅仅是中国企业在推广这项技术:包括微软在内的许多美国公司,以及IBM,思科和赛默飞世尔,都为恶劣的政府提供了先进的功能。 人工智能的滥用并不仅限于专制国家。

史蒂芬费尔德斯坦,弗兰克和贝辛教会公共事务主席兼公共服务

本文根据知识共享许可在重新发布。 阅读 。

GettyImages-1052877600
2018年10月24日,在北京中国国际展览中心举行的第14届中国国际公共安全与安全展览会上,人工智能安全摄像机使用面部识别技术拍摄了访客 .NICOLAS ASFOURI / AFP / Getty Images