您现在的位置是:首页 > 人工智能 >

AI专家表示对声称可以预测的算法的研究必须结束

2020-09-06 15:28:57

AI研究人员,数据科学家和社会学家组成的联盟呼吁学术界停止发布声称使用经过面部扫描和统计等数据训练的算法来预测个人的研究。

关键技术联盟说,这样的工作不仅在科学上是文盲,而且使对黑人和有色人种的偏见永久化。大量研究表明,司法系统比白人更严厉地对待这些群体,因此,任何接受此数据培训的软件都只会放大并加强社会偏见和种族主义。

该组织写道:“让我们清楚一点:没有办法开发一种可以预测或识别没有种族偏见的“”的系统,因为“”本身就是种族偏见。”“这种性质及其附带的准确性的研究基于这样的假设,即有关逮捕和定罪的数据可以作为潜在活动的可靠,中立的指标。但是这些记录远非中立。”

为回应有关全球最大的学术书籍出版商Springer计划发表此类研究的消息,起草了联盟党撰写的公开信。这封信现已由1,700名专家签署,呼吁Springer废除该论文,并呼吁其他学术出版商今后不再发表类似作品。

该组织写道:“在美国,从根本上来说,在监禁国家的合法性,尤其是维持治安的时代,执法部门对这种性质的研究提出了很高的要求。”“像Springer这样的主要出版商发行的这本书,将代表着朝着合法化和应用现实世界中屡屡揭穿,对社会有害的研究迈出了重要的一步。”

在题为“使用图像处理预测的深层神经网络模型”的研究中,研究人员声称已创建了一个面部识别系统,该系统“能够预测某人是否可能成为分子……有80岁”。 %的准确度和无种族偏见,”根据现在删除的新闻稿。该论文的作者包括博士研究生和前纽约警察局警官乔纳森·科恩。

在对公开信的回应中,Springer表示不会发表该论文。该公司表示:“您所指的论文已提交给即将召开的会议,Springer计划为其召开会议。”“经过全面的同行评审过程,论文被拒绝了。”

但是,正如关键技术联盟所明确指出的那样,此事件只是数据科学和机器学习领域更广泛趋势中的一个例子,在该趋势中,研究人员使用具有社会倾向性的数据来​​尝试对复杂的人类行为进行预测或分类。

在2016年的一个显着例子中,上海交通大学的研究人员声称已经创建了一种算法,该算法还可以根据面部特征预测。这项研究遭到批评和驳斥,谷歌和普林斯顿大学的研究人员发表了漫长的反驳警告,称人工智能研究人员正在重新审查相貌的伪科学。这是一门由塞萨尔·隆布罗索(Cesare Lombroso)于19世纪创立的学科,他声称他可以通过测量面部表情来识别“出生的罪犯”。

研究人员写道:“在实践中,相貌学的伪科学变成了科学种族主义的伪科学。”“人工智能和机器学习的迅速发展使科学种族主义进入了一个新时代,在这个时代,机器学习的模型将偏见嵌入了用于模型开发的人类行为中。”

2016年的论文还证明了AI执业者愚弄自己以为发现了衡量的客观系统是多么容易。谷歌和普林斯顿大学的研究人员指出,根据论文共享的数据,所有“非罪犯”似乎都面带微笑,穿着领衬衫和西服,而(皱着眉头的)罪犯则没有。这种简单而令人误解的视觉提示可能会指导算法假定的复杂分析。

关键技术联盟的来信之际,世界各地的运动都在强调种族正义问题,这是由执法人员杀害乔治·弗洛伊德引发的。这些抗议活动还使大型科技公司撤回了使用面部识别系统的过程,黑人学者的研究表明这在种族上有偏见。

这封信的作者和签署者呼吁AI社区重新考虑它如何评估其工作的“优”-不仅考虑准确性和准确性等指标,还考虑这种技术可能对世界产生的社会影响。这组作者写道:“如果机器学习要带来在赠款提案和新闻稿中吹捧的“社会公益”,那么这个领域的研究人员必须积极思考使他们的工作成为可能的权力结构(以及随之而来的压迫)。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

热点推荐

点击排行

  • · 拉克罗斯市与ParkMobile合作提供非...

    拉克罗斯市与ParkMobile合作提供非接触式停车付款ParkMobile,在智能停车场和移动解决方案的领先供应商美国,已与合作市拉克罗斯,威斯康星州,让居民和游客支付停在他们的移动设备上。Park

  • · 未来就在这里:谷歌通过YouTube测...

    未来就在这里:谷歌通过YouTube测试支持AR的广告几年前VR曾经是一个大问题,当时每个制造商都认为这将是未来的小工具。唉,它似乎还有很长的路要走,因为它并没有那么多。相反,AR(增强现

  • · WhatsApp不久将不会全部免费

    WhatsApp不久将不会全部免费为了使WhatsApp为用户提供更好的场所,并使公司真正获利,很快就会涉及一些资金。本周发布的WhatsApp商业公告表明,WhatApp商业应用将很快

  • · 感谢诺基亚如何在Facebook上玩Snake

    感谢诺基亚如何在Facebook上玩Snake们经典的游戏 Snake带回公众。从今天早上开始,诺基亚使用Facebook Camera平台的新增强现实功能向所有用户提供了Snake。要获得Snake所说

  • · 以下是传说中亚马逊的人工付费技术...

    以下是传说中亚马逊的人工付费技术的工作原理一份新的报告揭示了亚马逊对传言中让顾客通过扫描手掌来支付购买费用的计划的思考。 《华尔街日报》报道说,亚马逊可能会向其他商家出售付费亭。此前的报道将这项技术主要与亚马逊自

  • · Focal Clear耳机售价1500美元物超所值

    Focal Clear耳机售价1500美元物超所值当你冒险进入高端音频设备的世界时,你会很快意识到费用的增加-而不仅仅是以显而易见的方式。当然,你会花很多钱在顶级耳机或扬声器上,但为了实现真正的改进,你还需要投资一个强大