IEEE标准协会面部识别标准工作组将促进该技术在使用过程中符合社会道德 | 智能安防

发布日期:2019-10-01 10:00
正如乔治·奥威尔(George Orwell)1984年的研究所一样,面部识别技术现在被用来实时识别、分析和跟踪人。尽管这项技术有它的好处,比如它能够帮助寻找罪犯和失踪人员,但许多人都有隐私问题,担心代码中可能存在偏见。



在英国,公民们正敦促政府出于这些原因限制软件的使用。

今年5月,旧金山成为美国第一个禁止警察和城市机构使用该项技术的城市。这项禁令是由于担心面部识别监控不公平的目标和特定的社会成员,特别是有色人种。马萨诸塞州的萨默维尔和加利福尼亚州的奥克兰也纷纷效仿。这些城市的官员指出,这项禁令缺乏技术标准。

IEEE P7013自动面部分析技术工作组的包含和应用标准正在解决这些问题。该团队正在调查面部识别人工智能算法的范围以及可以标准化的相关指标。

IEEE P7013工作组主席、IEEE高级成员玛丽-何塞·蒙佩蒂(Marie Jose Montpetit)说:“IEEE正在从严格与技术、过程或设备相关的标准转变为解决社会问题的标准。”“面部识别刚好是各方面备受关注的一种技术,如隐私,种族和性别偏见,以及不准确。

“作为一名公众,我也担心执法部门和其他组织可能会以不适当的方式使用面部识别软件。我感兴趣的地方是确保我们制定必要的标准,使技术在必要时得到合乎道德的使用。

“作为一个公民,我同意临时禁令,因为我意识到软件中的许多算法不够精确,所以不能被认为对它的使用是没有偏见的。一旦算法得到改进,定期使用这个软件可能会变得更容易接受。”

她说,组织已经开始使用面部识别技术,而没有经过可接受的审批程序,也没有考虑这项技术可能对普通人群产生的影响。“例如,”蒙佩蒂说,“英国有一家餐馆用它来确保顾客的服务顺序是正确的。这个问题使我们工作组的作用更加重要。”

为什么要标准化?
现在几乎所有使用面部识别技术的公司都在监控自己的应用程序,没有监管机构确保这项技术的使用符合道德规范。例如,对纽约市警察的调查发现,他们编辑嫌疑人的照片,上传名人的相貌,试图操纵面部识别结果。

Montpetit说:“每周都会有一篇关于不道德使用这项技术的新闻文章,特别是关于隐私问题的。”“认为面部识别软件的一个问题是它的不准确。”

“这项技术一直被指责对某些群体有偏见。我认为,对我们来说,重要的是要确定机制,以确保如果要使用这项技术,它将以公平和准确的方式使用。”

她说,工作组将确定可接受的指标。

为什么IEEE要这么做
她说:“IEEE认识到,确保这项技术及其算法是标准化的、具有定义良好的用例和度量标准并且被很好地理解是很重要的。”“组织内部也有很多多样性,无论是在专业知识、性别还是组织类型方面。IEEE可以在制定标准时考虑到每一个观点,这是很重要的。

工作组正在审查各种情况,其中适当地和不适当使用软件,使其成员有了一个全面的观点。

“通过审查用例,我们可以定义一套合规措施,”蒙佩蒂说。“我们需要为这项技术定义一组共同的特征,例如面部分析、捕捉和分析运动以及活动检测。另一个目标是为如何道德地使用软件来创建一个指南。”

IEEE和其他工程组织的责任是标准化技术,蒙佩蒂说:“我认为这取决于我们的工程师、学者和社会科学家来定义技术能做什么以及如何做这项工作的界限。”然后,当它成为一个为公众使用软件的问题时,政府的职责就是监督它的使用。”