您现在的位置是:首页 > 百科经验 >

AI专家表示对声称可以预测的算法的研究必须结束

2020-09-06 15:28:57

AI研究人员,数据科学家和社会学家组成的联盟呼吁学术界停止发布声称使用经过面部扫描和统计等数据训练的算法来预测个人的研究。

关键技术联盟说,这样的工作不仅在科学上是文盲,而且使对黑人和有色人种的偏见永久化。大量研究表明,司法系统比白人更严厉地对待这些群体,因此,任何接受此数据培训的软件都只会放大并加强社会偏见和种族主义。

该组织写道:“让我们清楚一点:没有办法开发一种可以预测或识别没有种族偏见的“”的系统,因为“”本身就是种族偏见。”“这种性质及其附带的准确性的研究基于这样的假设,即有关逮捕和定罪的数据可以作为潜在活动的可靠,中立的指标。但是这些记录远非中立。”

为回应有关全球最大的学术书籍出版商Springer计划发表此类研究的消息,起草了联盟党撰写的公开信。这封信现已由1,700名专家签署,呼吁Springer废除该论文,并呼吁其他学术出版商今后不再发表类似作品。

该组织写道:“在美国,从根本上来说,在监禁国家的合法性,尤其是维持治安的时代,执法部门对这种性质的研究提出了很高的要求。”“像Springer这样的主要出版商发行的这本书,将代表着朝着合法化和应用现实世界中屡屡揭穿,对社会有害的研究迈出了重要的一步。”

在题为“使用图像处理预测的深层神经网络模型”的研究中,研究人员声称已创建了一个面部识别系统,该系统“能够预测某人是否可能成为分子……有80岁”。 %的准确度和无种族偏见,”根据现在删除的新闻稿。该论文的作者包括博士研究生和前纽约警察局警官乔纳森·科恩。

在对公开信的回应中,Springer表示不会发表该论文。该公司表示:“您所指的论文已提交给即将召开的会议,Springer计划为其召开会议。”“经过全面的同行评审过程,论文被拒绝了。”

但是,正如关键技术联盟所明确指出的那样,此事件只是数据科学和机器学习领域更广泛趋势中的一个例子,在该趋势中,研究人员使用具有社会倾向性的数据来​​尝试对复杂的人类行为进行预测或分类。

在2016年的一个显着例子中,上海交通大学的研究人员声称已经创建了一种算法,该算法还可以根据面部特征预测。这项研究遭到批评和驳斥,谷歌和普林斯顿大学的研究人员发表了漫长的反驳警告,称人工智能研究人员正在重新审查相貌的伪科学。这是一门由塞萨尔·隆布罗索(Cesare Lombroso)于19世纪创立的学科,他声称他可以通过测量面部表情来识别“出生的罪犯”。

研究人员写道:“在实践中,相貌学的伪科学变成了科学种族主义的伪科学。”“人工智能和机器学习的迅速发展使科学种族主义进入了一个新时代,在这个时代,机器学习的模型将偏见嵌入了用于模型开发的人类行为中。”

2016年的论文还证明了AI执业者愚弄自己以为发现了衡量的客观系统是多么容易。谷歌和普林斯顿大学的研究人员指出,根据论文共享的数据,所有“非罪犯”似乎都面带微笑,穿着领衬衫和西服,而(皱着眉头的)罪犯则没有。这种简单而令人误解的视觉提示可能会指导算法假定的复杂分析。

关键技术联盟的来信之际,世界各地的运动都在强调种族正义问题,这是由执法人员杀害乔治·弗洛伊德引发的。这些抗议活动还使大型科技公司撤回了使用面部识别系统的过程,黑人学者的研究表明这在种族上有偏见。

这封信的作者和签署者呼吁AI社区重新考虑它如何评估其工作的“优”-不仅考虑准确性和准确性等指标,还考虑这种技术可能对世界产生的社会影响。这组作者写道:“如果机器学习要带来在赠款提案和新闻稿中吹捧的“社会公益”,那么这个领域的研究人员必须积极思考使他们的工作成为可能的权力结构(以及随之而来的压迫)。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

热点推荐

点击排行

  • · 尽管大肆宣传Rimac拒绝制造SUV

    尽管大肆宣传Rimac拒绝制造SUVRimac永远不会制造SUV。根据MateRimac的说法,就像从来没有一样。尽管制造SUV是充实银行账户的可靠方式,但这家EV超级跑车制造商甚至根本不

  • · 交易:B&H推出混合LG Watch G7...

    交易:B&H推出混合LG Watch G7 售价190美元 折扣53%或210美元去年十月,LG Watch W7亮相。该设备被认为是混合智能手表,因为它结合了机械手和数字功能。例如,时计在Wear OS上运行,包括气压计,秒

  • · 斯巴鲁制造了一款名为e-Boxer的混...

    斯巴鲁制造了一款名为e-Boxer的混合动力XV型轿车这是全新的斯巴鲁XVe-Boxer-本质上是一个自我充电混合版本的品牌的粗糙‘n’翻滚交叉-如果你继续阅读后,这一点,我们高度赞扬你的承诺,你知道,汽车。 这并不是说XVe-Boxer将是一款

  • · 新的宝马M8将有三种外形

    新的宝马M8将有三种外形在一个似乎无法获得足够高性能汽车的世界里,还有更多的消息可以让马力的瘾君子远离戒毒所一段时间。因为宝马老板强烈暗示M8将有三种口味:coupe,gran coupe(上面以概念形式预览)

  • · 使用无线电源 在驾驶时为电动汽车充电

    使用无线电源 在驾驶时为电动汽车充电虽然电动汽车的采用通常被认为是绿色交通的重要一步,但许多司机对购买一辆可能在旅行结束前失去动力的车辆持谨慎态度。为了消除这种范围焦虑,斯坦福大学的一个团队设计了一个系统,

  • · 2020年马自达CX-9回顾 当时尚战胜功能

    2020年马自达CX-9回顾 当时尚战胜功能这可能是最好看的三排交叉今天出售。尽管这款马自达CX-9已经上市多年,但它仍然是一款好品味的典范,外观和外观都很漂亮。 研究马自达CX-9|在你身边寻找马自达CX-9 但是,当购买一辆