科技公司对其生产技术的社会影响的责任 | 智能技术

发布日期:2019-11-16 10:00
硅谷的领导者(HBO的真正领导人和虚构的领导人)本周开始辩论技术公司的职责。


插图:iStockphoto / IEEE Spectrum

周一,我参加了斯坦福大学人类中心人工智能研究所(HAI)的2019年秋季会议。那天晚上,我观看了HBO电视节目硅谷的第六季揭幕战。两者所围绕的辩论都围绕着科技公司对其生产技术的社会影响的责任。这两个事件在我的脑海中混杂在一起,可能是因为我头晕了脑袋,这要归因于头冷和北加州野火在硅谷散发出来的浓烟。但是,也许这种混合是一件好事。
尽管烟尘笼罩,但显而易见的是,在硅谷内外,很多人都在谈论这个问题(目击众议员亚历山大·奥卡西奥·科尔特斯(D-NY)的病毒视频烧烤Facebook CEO)马克·扎克伯格(Mark Zuckerberg)。
因此,除此以外,这是我的HBO 硅谷 / Stanford HAI会议混搭。
硅谷虚构的首席执行官理查德·亨德里克斯(Richard Hendriks)在剧集的开头告诉美国国会,Facebook,Google和Amazon只关心利用个人数据牟利。他说:
“这些公司是国王,他们统治着比历史上任何国家都大得多的王国。”
同时,前欧洲议会议员,HAI研究员Marietje Schaake向900名与会者致敬:
“在少数参与者手中,权力很大。Facebook决定谁是新闻来源,微软将运行国防部的云端……”我相信我们需要就哪些任务需要掌握在公众手中进行更深入的辩论。”
Google前首席执行官兼执行董事长埃里克·施密特(Eric Schmidt)表示同意。他说:
“重要的是,我们现在就我们正在做的事情的伦理以及我们正在开发的技术的影响进行辩论。”
斯坦福大学副教授王格在HAI会议上也指出:
“'不伤害'是一个至关重要的目标,这并不容易。但这与主动目标不同,那就是“做好事”。”
如果硅谷的亨德里克斯(Hendricks)在那里,他会同意的。他在剧集中说:
“仅仅因为它成功,并不意味着它很好。广岛是成功的实施方案。”
在HAI会议上,演讲嘉宾讨论了快速发展,打破常规,将未经测试和不受管制的技术推向世界的含义,因为我们知道,公众信任乃至民主等事物都可以被打破。
Google的Schmidt告诉HAI观众:
“我不认为所有可能的事情都会在社会中肆虐,我们应该共同回答这个问题,我们愿意承担多少风险。
硅谷的真实和虚构的人不再认为事后对不起就可以了。施密特说:
“当您向Facebook询问各种丑闻时,他们怎么还能说'我们非常抱歉;我们有很多要做的事情。”这种天真与电力技术公司所拥有的不相称。权力越大,责任就越大,或者至少要谦虚。”
舍克认为:
“我们需要更多的保证,制度和政策,而不是出于善意。这不仅仅是承诺。”
虚构的首席执行官亨德里克斯(Hendricks)认为,对不起也是一种应付手段。在这一集中,一个开发人员承认尽管Hendricks向国会保证他的公司不这样做,但他的应用仍收集了用户数据:
“您当时不知道,”开发人员说。“不要为此而beat不休。但是,将来不要再说了。还是不我不在乎也许就像Google在说“别作恶”,或Facebook在说“对不起,我们会做得更好。”

政府,科技界和公众如何以更全面的方式解决这一问题?在现实世界中,Stanford HAI的“做什么”讨论围绕着法规:多少,什么种类,什么时候发生。
欧洲议会议员沙克说:
“经常听到的论点是,政府应避免对技术进行监管,因为(监管)会扼杀创新。[该论点]意味着创新比民主或法治更重要。我们的问题不是源于过度监管,而是源于技术监管。”
但是什么时候该法规发生。斯坦福大学教务长埃特赫曼迪(John Etchemendy)在HAI会议上从听众中说:
“我一直主张不要在理解之前就尝试进行监管。像旧金山一样,禁止使用面部识别也不是监管的好例子。我们应该允许使用面部识别。我们想要的规则是正确的,可以防止坏事,允许好事。因此,无论哪种方式,我们都会把它弄错,如果我们尽快进行监管或推迟,我们就会出错。”
Schaake会选择尽早进行监管。她说,她经常听到有人争论监管人工智能为时过早,也有人争论监管基于广告的政治广告或在线隐私为时已晚。对她来说,这两者都没有道理。她告诉HAI与会者:
“我们所需要的不仅仅是保证,而不是既定的善意。”