预防AI走入歧途,DeepMind成立专责团队研究AI伦理
有鑒于人工智慧发展愈来愈快可能超出人类能掌握的程度,Alphabet旗下的AI子公司DeepMind周三 宣布 成立专责小组,将投入AI伦理研究及建立确保其正向发展。
这个名为DeepMind Ethics & Society的小组两名共同发起人Verity Herding 及Sean Leggassick指出,DeepMind创立前提是所有AI应用都应在人类控制之下,被用于有益社会的用途。这个小组的宗旨在了解AI可能带来的影响,进而科技人士落实AI伦理,以及协助社会大众将AI导引到正途上。
DMES小组将以公平、跨领域、讲求实证及社会利益至上为员责,就以下主题进行研究,包括隐私、透明度、公平性问题;AI经济面的影响;治理权责;AI风险管理;AI道德性及价值及其他方面的挑战等。
DMES目前有8名专职员工,一年内将增至25名。同时还延揽外部AI研究权威担任院士,并进行相关研究合作。小组希望在2018年初陆续公布研究成果。
不过DeepMind之前,早就有特斯拉创办人Elon Musk、英国天文物理学家霍金及微软创办人比尔盖兹等人清楚阐释了AI可能的风险。媒体如The Verge 也质疑 由于这个小组不但是DeepMind内部单位,且成员还要向DeepMind产品开发员工报告,则明年产出的报告会有多少公正性及透明度,则有待观察。