我们必须学会信任人工智能 | 广东省智能创新协会

发布日期:2019-05-19 10:00
近日,澳大利亚首席科学家艾伦芬克尔博士指出,“人类和人工智能可以学会很好地相处”。



每天,我都把生命交给数百人,我可能永远不会见面。例如那些设计和制造我的汽车的人,那些准备我午餐的人,那些在我办公室安装电源插座的人,还有无数其他人。

信任我们不知道的其他人类的能力是我们的物种在地球上占主导地位的原因。我们是巧妙的,我们不断寻求新的和更好的技术刺激我们。但是,如果没有我们大量合作的诀窍,以及我们遏制危险力量(如电力)到安全和有价值的目的的能力,单凭独创性是不够的。

为了创造现代世界,我们不得不发明复杂的法律,法规,行业惯例和社会规范网络,使我们能够依赖我们的同胞。

那么您信任人工智能需要什么?允许它开车吗?监视你的孩子?分析你的脑部扫描和直接手术器械来提取你的肿瘤?为了监控一场音乐会的人群并对劫案犯罪者采取行动?

信任默认
今天,我们倾向于默认回答这个问题。我们很少有人在勾选同意框之前阅读条款和条件,并邀请虚拟助手(如Alexa或Google Home)进入我们的家中。我们也没有过多考虑在警察部队,信用合作社和福利机构幕后工作的算法来塑造我们所居住的社区。

我们可以确信人工智能技术正在快速发展;中国和法国等国家资金雄厚的雄心壮志将加速其发展;亚马逊,谷歌和Facebook手中大量数据集的集中将用于我们可能会感到不舒服的规模实验。

人工智能的一些应用,例如医疗设备,将会遇到现有的监管制度。但这些政权中很少有人考虑到人工智能。当今最受公众关注的人工智能应用 - 那些部署在社交媒体中的应用 - 暴露了现行法律的局限性。

AI中的默认信任假设能持有多长时间?科学家以前来过这里。几十年来,关于生物技术的谈话一直受到对“基因”这个词的广泛不信任的困扰,正如制药和农业产业因害怕“化学品”而受到攻击一样。如果消费者可以被称为“无基因食品”和“无化学水”,那么就不难想象要求“无人工作的互联网”。或AI禁令。

没错,我们永远无法执行这样的禁令。但我们当然可以在我们最想看到它的地方关闭人工智能开发 - 在道德和声誉良好的组织中。我们的方法必须更加细致入微。如果我们记住我们作为物种的标志性成就,我们就可以:确保信任。

举止很重要
想想在人类社会中运作的复杂控制范围 - 让我称之为HI社会,人类智能。

在极端左端,如果你愿意,我们有社会规范方式,以及对良好行为的激励。沿着这个范围,我们有组织规则来管理如何在教室或工作场所采取行动,以及市场互动的商业法规。此外,对于诸如停车不良等不端行为,以及对抢劫和殴打等犯罪的处罚,将会受到处罚。接近频谱的右端,我们对有预谋的谋杀或恐怖主义等最严重的民事犯罪进行严厉惩罚。在最右端,有国际商定的反对大规模毁灭性武器的公约。

我们需要一个类似的人工智能控制谱。特别是在左端,有一个令人担忧的空白。毕竟,社交媒体公司使用人工智能的“良好行为”是什么?它在哪里记录?谁将其编码为人工智能,以便HI和AI能够和平共生,富有成效?

我们可以想象通过反复试验 - 或丑闻和反应来达成一套规范。但是在一个发热的环境中,从一场信心危机到下一次信任危机,不太可能出现智力上的连贯性。

我们需要相当于我们教给孩子的礼仪。我们不等孩子做一些令人反感的事情,然后在我们惩罚他们时制定规则。从第一天起,我们就强化了对道德行为的期望。

HI社团的举止有所不同,但它们都旨在通过相互尊重让个人感到舒适。人工智能的开发人员需要牢记这一点,从一开始就将其整合到公司模型中,并始终如一地强化它作为开展业务的现实。

提高标准
在一个以“快速行动,破坏事物”为名义的行业进行监管的任何提议都将遇到阻力。我理解这种冲动。当我扩展我的公司Axon Instruments制造医疗设备时,我紧张地看着合规要求。我理解监管机构为电子设备制定严格的标准是正确的,该设备旨在通过外科手术插入活人脑。我准备好了非常沮丧。

我最终意识到,标准和整个合规流程是我建立一个有质量交易的竞争公司所需的框架。真正的质量是通过设计实现的,而不是通过测试和拒绝。 ISO 9000质量管理体系(来自国际标准化组织)确保将高期望纳入设计和商业实践,从产品概念化到生产,再到维护和更换。通过内部和外部审核相结合,确保合规性。我们也为非医疗产品保留了这些严格的设计和商业惯例,因为它们使我们成为一家更好的公司并为我们带来了商业优势。

在HI社会中,存在未达到社会标准的后果。对于AI开发人员来说,我们也需要这样做 - 这是消费者识别和奖励道德行为的一种方式。

一种新的信任方式
最简单的方法是AI信任标记。让我们把它称为图灵证书,为伟大的阿兰图灵。图灵邮票将标志着供应商和产品作为图灵证书的承载者,这意味着它们值得信任。

两个值得信赖的组织,值得信赖的产品的组合至关重要。这种模式长期以来一直盛行于制造业。事实上,如果不是为了实施商定的设计,制造和商业惯例标准,我们的社会几年前就会出于安全理由完全拒绝所有电气设备,我们今天也不会担心人工智能。

在制造业,标准是强制性的和可执行的。制造业是一个非常明显的过程,具有明显的地理空间。人工智能的发展更难以捉摸。强制性图灵认证将是繁琐的。自愿图灵证书将允许负责任的公司选择加入,包括初创企业。与标准一起成长比在青少年时碰到它们更好。如果做得好,获得认证的成本应该由愿意支付溢价的客户增加销售额来弥补。

但是,如果所有参与者--公司,消费者和政府都可以信任该系统,那么只会有商业动机。每个图灵认证的组织实际上都是图灵大使。以质量为基础的智能公司欢迎审核流程,以消除不良行为,就像Axon Instruments和数千家其他公司定期接受内部和外部质量审核一样,以换取销售医疗和非医疗设备的特权。