您现在的位置是:首页 > 人工智能 >

AI专家表示对声称可以预测的算法的研究必须结束

2020-09-06 15:28:57

AI研究人员,数据科学家和社会学家组成的联盟呼吁学术界停止发布声称使用经过面部扫描和统计等数据训练的算法来预测个人的研究。

关键技术联盟说,这样的工作不仅在科学上是文盲,而且使对黑人和有色人种的偏见永久化。大量研究表明,司法系统比白人更严厉地对待这些群体,因此,任何接受此数据培训的软件都只会放大并加强社会偏见和种族主义。

该组织写道:“让我们清楚一点:没有办法开发一种可以预测或识别没有种族偏见的“”的系统,因为“”本身就是种族偏见。”“这种性质及其附带的准确性的研究基于这样的假设,即有关逮捕和定罪的数据可以作为潜在活动的可靠,中立的指标。但是这些记录远非中立。”

为回应有关全球最大的学术书籍出版商Springer计划发表此类研究的消息,起草了联盟党撰写的公开信。这封信现已由1,700名专家签署,呼吁Springer废除该论文,并呼吁其他学术出版商今后不再发表类似作品。

该组织写道:“在美国,从根本上来说,在监禁国家的合法性,尤其是维持治安的时代,执法部门对这种性质的研究提出了很高的要求。”“像Springer这样的主要出版商发行的这本书,将代表着朝着合法化和应用现实世界中屡屡揭穿,对社会有害的研究迈出了重要的一步。”

在题为“使用图像处理预测的深层神经网络模型”的研究中,研究人员声称已创建了一个面部识别系统,该系统“能够预测某人是否可能成为分子……有80岁”。 %的准确度和无种族偏见,”根据现在删除的新闻稿。该论文的作者包括博士研究生和前纽约警察局警官乔纳森·科恩。

在对公开信的回应中,Springer表示不会发表该论文。该公司表示:“您所指的论文已提交给即将召开的会议,Springer计划为其召开会议。”“经过全面的同行评审过程,论文被拒绝了。”

但是,正如关键技术联盟所明确指出的那样,此事件只是数据科学和机器学习领域更广泛趋势中的一个例子,在该趋势中,研究人员使用具有社会倾向性的数据来​​尝试对复杂的人类行为进行预测或分类。

在2016年的一个显着例子中,上海交通大学的研究人员声称已经创建了一种算法,该算法还可以根据面部特征预测。这项研究遭到批评和驳斥,谷歌和普林斯顿大学的研究人员发表了漫长的反驳警告,称人工智能研究人员正在重新审查相貌的伪科学。这是一门由塞萨尔·隆布罗索(Cesare Lombroso)于19世纪创立的学科,他声称他可以通过测量面部表情来识别“出生的罪犯”。

研究人员写道:“在实践中,相貌学的伪科学变成了科学种族主义的伪科学。”“人工智能和机器学习的迅速发展使科学种族主义进入了一个新时代,在这个时代,机器学习的模型将偏见嵌入了用于模型开发的人类行为中。”

2016年的论文还证明了AI执业者愚弄自己以为发现了衡量的客观系统是多么容易。谷歌和普林斯顿大学的研究人员指出,根据论文共享的数据,所有“非罪犯”似乎都面带微笑,穿着领衬衫和西服,而(皱着眉头的)罪犯则没有。这种简单而令人误解的视觉提示可能会指导算法假定的复杂分析。

关键技术联盟的来信之际,世界各地的运动都在强调种族正义问题,这是由执法人员杀害乔治·弗洛伊德引发的。这些抗议活动还使大型科技公司撤回了使用面部识别系统的过程,黑人学者的研究表明这在种族上有偏见。

这封信的作者和签署者呼吁AI社区重新考虑它如何评估其工作的“优”-不仅考虑准确性和准确性等指标,还考虑这种技术可能对世界产生的社会影响。这组作者写道:“如果机器学习要带来在赠款提案和新闻稿中吹捧的“社会公益”,那么这个领域的研究人员必须积极思考使他们的工作成为可能的权力结构(以及随之而来的压迫)。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

热点推荐

点击排行

  • · Gogo将商业机上互联网业务出售给破...

    Gogo将商业机上互联网业务出售给破产的卫星提供商机上互联网提供商Gogo已经为其商业航空公司业务找到了买家。两家公司周二宣布,按收入计,全球第二大卫星运营商Intelsat已同意以4亿美元现

  • · 好未来公布了截至2019年11月30日的...

    好未来公布了截至2019年11月30日的2020财年第三季度未经审计财报北京时间1月21日下午消息,好未来(NYSE:TAL)今日公布了截至2019年11月30日的2020财年第三季度未经审计财报,净营收为8 624亿美元,与上年

  • · 苹果正在修复iOS漏洞 让孩子们轻...

    苹果正在修复iOS漏洞 让孩子们轻松绕过屏幕时间限制苹果本周向公众发布了iOS13 3,其中包括屏幕时间的新通信限制功能。然而,CNBC的一篇新报道解释说,该功能并不完全像它设计的那样工作。 根据设计,屏幕时间的沟通限制是为了让父母

  • · 美国今年的预算赤字预计将超过1万...

    美国今年的预算赤字预计将超过1万亿美元根据一份新的报告,美国预算赤字预计将在2020年超过1万亿美元,尽管经济稳步增长,但政府的支出仍将超过其增长。 无党派的国会预算办公室星期二估计,从10月1号开始的这个财政年度的

  • · 微软泄密称Surface Hub 2X可能已经被取消

    微软泄密称Surface Hub 2X可能已经被取消微软可能会取消即将推出的其先前宣布的Surface Hub2X产品,一个新的泄漏声称。微软悄悄删除了与该模式相关的公告材料,似乎证实了这一报告,尽管该公司尚未完全解释其目的何在。在宣

  • · 可视推出打折的家庭计划 家庭是可选的

    可视推出打折的家庭计划 家庭是可选的抓住任何三个人-朋友、家庭成员、室友、偶然的熟人-从可见中获得巨大的储蓄。 可见是一家Verizon的预付费运营商,提供无限的移动电话服务,每月40美元非常合理。但这是每个人的,如果