从“苹果”到“异常”

健一

物体识别的背叛，2019?Trevor Paglen，纽约大都会影城，奥特曼·西格尔，旧金山

從“‘苹果到‘异常”是特雷弗·帕格伦（Trevor Paglen）与专门研究机器学习、人工智能及其社会影响的研究员兼教授凯特·克劳福德（Kate Crawford）所做的工作的物理体现。展出的30，000张照片全部来自图库网站ImageNet。ImageNet拥有超过1400万张图像和21，000多个类别的数据库，是训练AI机器学习面部识别人和物的主要图片来源之一。Paglen将大量的图片视觉信息导入到“训练集”的分组中，向我们展示了研究成果的核心——名词并不总是中立或纯真的，图像有时候也是奸诈的。

展览从一个苹果开始，它取材自勒内·马格利特（RenéMagritte）1964年的画作Ceci n'est pas une pomme （This is not an apple）。通过“训练集”，根据算法可以识别出众多苹果和类苹果，但类别会快速变形和碰撞，再识别出新类别。从“苹果”很快就可以识别出“苹果树”“水果”，再到 “酒精”“债务人”“吸毒者”“无家可归”“种族主义者”，到最后的“异常”类别，包括人，其中许多人是变相的、“蒙面”的，其身份和分类还不确定。比如其中“投资者”可以代表一群穿西装的男人;“疯狂”表示人类具有一系列恐怖电影里才有的变态行为。

展览还展示了人类可以在AI中保持的品质——创造力和理解细微差别的能力。诸如“垃圾邮件”之类的词具有多种含义，但对AI仅有一种含义。此外，他们还推出了一个工具，用户可以在其中上传自己的照片，并查看AI如何对它们进行分类，通常会产生令人不快的结果。正如Paglen在一篇论文中写道：“收集图像、对图像进行分类和标记的全部工作，本身就是一种政治形式，充满了关于由谁来决定图像含义的问题。”