您现在的位置是:首页 > 百科经验 >
AI专家表示对声称可以预测的算法的研究必须结束
AI研究人员,数据科学家和社会学家组成的联盟呼吁学术界停止发布声称使用经过面部扫描和统计等数据训练的算法来预测个人的研究。
关键技术联盟说,这样的工作不仅在科学上是文盲,而且使对黑人和有色人种的偏见永久化。大量研究表明,司法系统比白人更严厉地对待这些群体,因此,任何接受此数据培训的软件都只会放大并加强社会偏见和种族主义。
该组织写道:“让我们清楚一点:没有办法开发一种可以预测或识别没有种族偏见的“”的系统,因为“”本身就是种族偏见。”“这种性质及其附带的准确性的研究基于这样的假设,即有关逮捕和定罪的数据可以作为潜在活动的可靠,中立的指标。但是这些记录远非中立。”
为回应有关全球最大的学术书籍出版商Springer计划发表此类研究的消息,起草了联盟党撰写的公开信。这封信现已由1,700名专家签署,呼吁Springer废除该论文,并呼吁其他学术出版商今后不再发表类似作品。
该组织写道:“在美国,从根本上来说,在监禁国家的合法性,尤其是维持治安的时代,执法部门对这种性质的研究提出了很高的要求。”“像Springer这样的主要出版商发行的这本书,将代表着朝着合法化和应用现实世界中屡屡揭穿,对社会有害的研究迈出了重要的一步。”
在题为“使用图像处理预测的深层神经网络模型”的研究中,研究人员声称已创建了一个面部识别系统,该系统“能够预测某人是否可能成为分子……有80岁”。 %的准确度和无种族偏见,”根据现在删除的新闻稿。该论文的作者包括博士研究生和前纽约警察局警官乔纳森·科恩。
在对公开信的回应中,Springer表示不会发表该论文。该公司表示:“您所指的论文已提交给即将召开的会议,Springer计划为其召开会议。”“经过全面的同行评审过程,论文被拒绝了。”
但是,正如关键技术联盟所明确指出的那样,此事件只是数据科学和机器学习领域更广泛趋势中的一个例子,在该趋势中,研究人员使用具有社会倾向性的数据来尝试对复杂的人类行为进行预测或分类。
在2016年的一个显着例子中,上海交通大学的研究人员声称已经创建了一种算法,该算法还可以根据面部特征预测。这项研究遭到批评和驳斥,谷歌和普林斯顿大学的研究人员发表了漫长的反驳警告,称人工智能研究人员正在重新审查相貌的伪科学。这是一门由塞萨尔·隆布罗索(Cesare Lombroso)于19世纪创立的学科,他声称他可以通过测量面部表情来识别“出生的罪犯”。
研究人员写道:“在实践中,相貌学的伪科学变成了科学种族主义的伪科学。”“人工智能和机器学习的迅速发展使科学种族主义进入了一个新时代,在这个时代,机器学习的模型将偏见嵌入了用于模型开发的人类行为中。”
2016年的论文还证明了AI执业者愚弄自己以为发现了衡量的客观系统是多么容易。谷歌和普林斯顿大学的研究人员指出,根据论文共享的数据,所有“非罪犯”似乎都面带微笑,穿着领衬衫和西服,而(皱着眉头的)罪犯则没有。这种简单而令人误解的视觉提示可能会指导算法假定的复杂分析。
关键技术联盟的来信之际,世界各地的运动都在强调种族正义问题,这是由执法人员杀害乔治·弗洛伊德引发的。这些抗议活动还使大型科技公司撤回了使用面部识别系统的过程,黑人学者的研究表明这在种族上有偏见。
这封信的作者和签署者呼吁AI社区重新考虑它如何评估其工作的“优”-不仅考虑准确性和准确性等指标,还考虑这种技术可能对世界产生的社会影响。这组作者写道:“如果机器学习要带来在赠款提案和新闻稿中吹捧的“社会公益”,那么这个领域的研究人员必须积极思考使他们的工作成为可能的权力结构(以及随之而来的压迫)。”
热点推荐
- · 尽管大肆宣传Rimac拒绝制造SUV
Rimac永远不会制造SUV。根据MateRimac的说法,就像从来没有一样。尽管制造SUV是充实银行账户的可靠方式,但这家EV超级跑车制造商甚至根本不
- · 全电动梅赛德斯EQSSUV在阿拉巴马州...
对于梅赛德斯-奔驰塔斯卡卢萨工厂的优秀工人来说,有理由庆祝。EQSSUV终于下线了,看起来已经准备好与宝马iX和特斯拉ModelX展开竞争。今年
- · 马自达MX30于2022年售罄但其未来存疑
马自达不会经常出错,但当它犯错时,它会以惊人的方式犯错。它把MX-30弄得一团糟,因此,有几个谣言说它可能在美国上市仅仅一年后就被砍掉
- · Twitter正在空间选项卡中测试播客集成
Twitter不想将其社交音频产品限制在受Clubhouse启发的空间中。该公司还将播客纳入其中。很长一段时间以来,我们一直在听到有关此开发的谣言
- · 三星的所有新品都已经上市销售
最后,三星的所有新品都已经上市销售。这些新产品包括三星GalaxyZFlip4、GalaxyZFold4、GalaxyWatch5、GalaxyWatch5Pro以及最后但并非最不
- · ConfiBlur应用程序可以帮助您隐藏...
那里有大量非常简单但有用的应用程序。ConfiBlur就是其中之一。这个应用程序有一项工作,并且做得很好,至少在我们的测试期间它做得很好。
- · 新专利显示具有透明后显示屏的Gala...
如果您认为您已经看到一些有趣的手机投放市场,那么与我们在智能手机专利中看到的彻头彻尾的外星设计相比,它们根本算不上什么。三星是这些
- · 在Razer游戏PC上节省大笔费用正好...
他们正在削减它有点接近,但作为英特尔玩家日的一部分,亚马逊今天有很多很棒的个人电脑在出售,他们仍然可以及时到达回到学校。所以这里肯
- · 如何将Pixel6a置于深色主题中
有一些关于黑暗主题的东西只会吸引人们。哎呀,您正在阅读本文的网站应用了深色主题。人们只是喜欢黑色或深灰色背景。这就是为什么像Google
- · 如何将Pixel6a置于深色主题中
有一些关于黑暗主题的东西只会吸引人们。哎呀,您正在阅读本文的网站应用了深色主题。人们只是喜欢黑色或深灰色背景。这就是为什么像Google
- · 苹果将广告拓展至 IPHONE/IPAD 新领域
在最新一期的 Power On 中,Bloomberg Mark Gurman 给出了他对苹果的一些预测。他认为,苹果已经准备好将广告扩展到iPhone 和 iPad
- · 在收益超出预期后 沃尔玛坚持下半...
沃尔玛周二表示,销售额增长超过 8%,但由于消费者转向折扣店购买杂货和必需品,第二财季利润收紧。该公司股价上涨约 5%,收于 139 37
- · 带有触控选项的铰链式双屏显示器即...
Mobile Pixels Inc 是一家喜欢为客户提供多种屏幕选项的公司。之前已经生产了很多种(在新标签中打开)为笔记本电脑用户提供扩展和附加屏
- · Linux 中的 Alder Lake 笔记本...
据报道,Linux 对网络摄像头的支持目前已成为第 12 代 Alder Lake 笔记本电脑的主要问题,正如Phoronix 最近的一篇文章所展示的那样
- · AS Watson 集团将在 2030 年前...
健康和美容零售商 AS Watson Group 承诺到 2030 年为全球年轻人提供 200,000 个职位空缺。英国 Superdrug 和 Savers 的所有者
- · NVIDIA宣布推出新的神经图形SDK
NVIDIA宣布推出新的神经图形SDK,以帮助所有人都可以创建元界内容,提供超过10种不同的工具和程序,包括NeuralVDB和KaolinWisp形式的新增功
- · 8月16日前往溜冰场时的Rollerdrome...
PlayStation游戏玩家期待新的快节奏动作血统游戏在溜冰鞋上的到来,Rollerdrome将很高兴得知来自Roll7的JemimaTyssenSmith已经在PlayStatio
- · 欧洲的小米12T和小米12TPro价格和...
小米12T和小米12TPro的假定欧洲价格标签以及其他一些关键细节已经泄露,例如所谓的发布日期时间表。小米12T预计将配备联发科天玑8100处理器
- · Genesis推出G90豪华轿车与高级时装活动
在短短几年内,Genesis已成为欧洲高端品牌的有力竞争者。但是,对于许多人来说,高端子公司缺乏一些东西——正确的形象。然而,这家汽车制
- · 1988年路虎卫士90Restomod拥有Corv...
ECD汽车设计似乎无法将克尔维特发动机推入老式路虎。调谐器使用称为ProjectOverload的3系列路虎卫士做到了这一点,然后在几周前又推出了基
点击排行
- · 尽管大肆宣传Rimac拒绝制造SUV
Rimac永远不会制造SUV。根据MateRimac的说法,就像从来没有一样。尽管制造SUV是充实银行账户的可靠方式,但这家EV超级跑车制造商甚至根本不
- · 交易:B&H推出混合LG Watch G7...
去年十月,LG Watch W7亮相。该设备被认为是混合智能手表,因为它结合了机械手和数字功能。例如,时计在Wear OS上运行,包括气压计,秒
- · 斯巴鲁制造了一款名为e-Boxer的混...
这是全新的斯巴鲁XVe-Boxer-本质上是一个自我充电混合版本的品牌的粗糙‘n’翻滚交叉-如果你继续阅读后,这一点,我们高度赞扬你的承诺,你知道,汽车。 这并不是说XVe-Boxer将是一款
- · 新的宝马M8将有三种外形
在一个似乎无法获得足够高性能汽车的世界里,还有更多的消息可以让马力的瘾君子远离戒毒所一段时间。因为宝马老板强烈暗示M8将有三种口味:coupe,gran coupe(上面以概念形式预览)
- · 使用无线电源 在驾驶时为电动汽车充电
虽然电动汽车的采用通常被认为是绿色交通的重要一步,但许多司机对购买一辆可能在旅行结束前失去动力的车辆持谨慎态度。为了消除这种范围焦虑,斯坦福大学的一个团队设计了一个系统,
- · 2020年马自达CX-9回顾 当时尚战胜功能
这可能是最好看的三排交叉今天出售。尽管这款马自达CX-9已经上市多年,但它仍然是一款好品味的典范,外观和外观都很漂亮。 研究马自达CX-9|在你身边寻找马自达CX-9 但是,当购买一辆