行业动态 | AI崛起,人工智能的伦理底线在哪里?

发布日期:2023-09-18 15:33


自2019年3月1日起,全国多地的市场监管部门陆续开始实施企业登记身份信息的“实名制”政策,这意味着新公司和对已存在的公司进行法人变更或注销等手续时,当事人不仅需要提供身份信息,还必须通过“登记注册身份验证”APP完成“人脸识别”认证。
 
然而,网上出现了一些不法机构,它们利用技术手段成功破解了政务APP的“人脸识别”认证,在当事人毫不知情的情况下,运用AI技术进行换脸操作,以代替当事人完成实名认证,从而注册公司或变更股东等。这一情况涉及个人信息泄露、非法经营等问题,对社会秩序和公共利益带来潜在威胁。

人工智能在科技发展的浪潮中崭露头角,引领着产业变革,为经济增长注入了新活力。但伴随着这场数字化浪潮,也涌现出一系列引人深思的伦理问题。

01人工智能面临的伦理困境
人工智能作为科技革命和产业变革的代表,是实现产业和经济高质量发展的重要力量。然而,数据依赖、算法黑箱、技术滥用、治理滞后等原因,导致出现算法歧视、隐私侵犯、信息伪造等伦理问题。

02人工智能伦理治理需要解决的问题
人工智能作为科技革命和产业变革的代表,是实现产业和经济高质量发展的重要力量。然而,数据依赖、算法黑箱、技术滥用、治理滞后等原因,导致出现算法歧视、隐私侵犯、信息伪造等伦理问题。

03人工智能伦理治理可以关注的重点
要以促进人工智能发展为主要目标,同时强化伦理治理。在人工智能伦理治理理念方面,要追求产业发展与伦理治理之间的平衡,减少限制性措施的采取,促进产业发展。

采用分级分类的人工智能产品管理模式

(1)采取分类分级的思路
按照风险管理、应急管理善后学习三个阶段提出应对人工智能风险的举措。同时,可将不同的人工智能产品进行风险的大小划分为不可开发、高风险、有限风险和低风险四个等级。对于对人类安全、人格尊严和自主意识产生显著危害的应用采取禁止措施,对高风险和有限风险产品采取相应措施进行管理。

(2)建立人工智能产品后续观察义务制度
人工智能产品的生产者要积极建立内部产品质量监控与信息反馈机制,保障产品在生产过程中符合各项安全指标;制定缺陷产品召回或强制销毁制度,一旦发现产品有缺陷或风险,除了发布警示信息外,还应该提供修理或召回政策,将市场上流通的产品及时召回。

(3)建立人工智能风险数据平台
加强风险监测和预防。当前,消费者对于提供消费品缺陷信息的参与度不高,网络舆情中的产品事故和伤害报道信息来源质量、专业性、系统性还有待提升。要拓宽缺陷信息采集渠道,建立统一、科学、权威的检测监控体系,搭建人工智能风险数据平台,实现风险监测和预防。

善用技术创新解决技术问题

人工智能是技术密集型产业,建立治理规则后可以善用技术创新来解决技术所带来的问题,如组织优秀的企业公共开发治理工具,实现实时监测、技术监测、风险预测等功能。比如,对于算法应用中可能存在的数据泄露和隐私侵犯问题,尝试以数据匿名化、区块链等一系列技术方法予以应对。

对中小企业兼顾激励与监管

目前来看,无论是广东省还是全国,人工智能企业还是以中小企业为主。在统一的监管措施面前,中小企业往往难以承担巨大的合规成本,大型企业则可以凭借资源优势和技术创新找到平衡,而中小企业则面临创新和合规之间的艰难选择,可能加剧大型企业的垄断现象。

可以通过适当降低中小企业的评估费用或其他合规要求,并在相关处罚规定中考虑中小企业的利益和经济活力,以实现降低合规成本的目标。制定相关准则时,也要充分考虑中小企业的需求,确保中小企业不会因参与不足而承担过重的合规负担。

为更好的促进产业健康可持续发展,应对人工智能伦理带来的突出风险,广东省人工智能产业协会目前正在参与起草人工智能伦理治理相关政策,进一步引导广东省人工智能产业健康有序发展。

广东省人工智能产业协会期望邀请在人工智能领域有深厚造诣和丰富经验的专家学者参与广东省人工智能伦理治理工作,为广东省人工智能伦理治理提供专业指导和建议,共同推动广东省人工智能产业高质量发展。欢迎专家学者通过文末联系方式与我们取得联系。