本文来自AI新媒体量子位(QbitAI)
英国皇家学会的最新调查显示,英国人更害怕把人工智能整合到家居设备和无人驾驶汽车中,反而不太担心将其用于预测性治安或疾病诊断之中。这份调查首次让我们得以深入了解公众对机器学习相关的风险和利益持有何种观点。
此次调查的参与者最担心的问题是,受到机器学习操控的机器人可能令他们身体受伤。也就是说,那些与用户亲密接触的家用设备和无人驾驶汽车风险极高。
不过,越发普及的机器学习系统的确蕴含着风险——而且不仅限于发生故障的无人驾驶汽车。数据科学家Cathy O’Neil表示,如果算法具备一定规模、工作原理保密而且具备破坏能力,那就非常危险。预测性治安便是一例,因为它有可能因为存在偏见的数据源而产生负面影响。
此外,医疗领域的机器学习也可能产生重要危害。康奈尔研究人员Julia Powles指出,研究人员向受访者呈现的材料显示,斯坦福大学用机器学习提升了乳腺癌诊断率,因此受访者认为,这种技术的误诊率不至于将社会置于风险之中。但Powles却表示:“计算机诊断尚未得到普遍证明。”
伦敦经济学院助理教授Alison Powell表示,风险认知和潜在风险之间的脱节在新技术领域很常见。“这是科技前景沟通问题的一部分:新技术往往会被定位成‘个人技术’,而对系统性风险的认知则会受到阻碍。”她说。
英国皇家学会也没有给出较好的解决方案。他们建议机器学习专业的学生在学习技术的同时参加伦理课程,还建议英国政府资助公众与研究人员展开互动,他们还反对针对机器学习展开监管。
毋庸置疑的是,机器学习如今已经无处不在,影响力还会不断扩大。英国皇家学会主席Peter Donnelly对发布会现场的记者说:“它有能力而且很有可能会对我们的很多个人活动和休闲活动产生影响。”
查看报告原文,请在量子位公众号回复:“英国”两个字。
本文作者:李杉
原文发布时间:2017-04-26