Artforum存档中所有内容均受著作权保护未经Artforum杂志许可不得擅自出版 Artforum存档文章

艺术家项目发现其存在偏见后图像数据库删除60万张照片

2019.09.24

近期,ImageNet宣布将从系统中删除60多万张人像图片。ImageNet是一个拥有超过1400万张图像的数据库也是最常用来训练人工智能机器学习技术来对人和物体进行面部识别的资源库之一在此新闻发布前五天艺术家特雷弗·佩格伦(Trevor Paglen)和纽约大学名誉教授也是AI Now Institute创始人的凯特·克劳馥(Kate Crawford)推出了“ImageNet轮盘项目揭示出该程序在识别人脸中存在的偏见和不可靠性

上周由特雷弗·佩格伦和凯特·克劳馥策划的训练人类”(Training Humans)展览在米兰普拉达基金会美术馆(Fondazione Prada Museum)开幕展览上,“ImageNet轮盘允许用户上传自拍并查看AI会如何对自己分类这些类别是从ImageNet实际自带的标签改编而来其中包括女巫”、“长笛手”、“早产儿”、“微观经济学家”、“滑雪者调解人”,还有更糟糕的标签以及带有种族和厌女主义的侮辱词荡妇”、“强奸犯”、“黑鬼”、“犯罪分子

ImageNet成立于2009由斯坦福大学和普林斯顿大学的研究人员创建数据库中的数百万张照片是他们从互联网上收集而来研究人员随后通过亚马逊的众包劳工平台亚马逊土耳其机器人”(Amazon Mechanical Turk)招募了五万名低薪工人让他们给图像加上标签工人们的偏见最终嵌入到项目中并且如佩格伦和克劳馥所揭示的那样劳工的偏见最终反映在从该数据库中提取信息的AI技术上由于AI不仅被科技巨头和学术实验室使用而且还被州和联邦政府以及执法机构使用因此数据集中的错误会产生广泛影响

尽管ImageNet并未将“ImageNet轮盘作为原因但在这一数字艺术项目受到关注的几天后,ImageNet发表声明表示将删除438种人物类别和600040张被他们标记为不安全的相关照片作为回应佩格伦和克劳馥宣布他们将在927日让“ImageNet轮盘下线因为它已达到目的——它激发了迟来的对智能训练数据的政治性的公开讨论我们希望它能让AI社区行动起来应对这种区分人群的技术可能带来的危害。”