新训练可减少ai系统社会偏见—新闻—科学网-米乐m6棋牌官网

来自美国俄勒冈州立大学工程学院和adobe公司的科学家携手，开发出一种用于训练人工智能（ai）的新技术fairdedup。该技术不仅能降低训练成本，而且有望减少ai系统的社会偏见。研究团队已经在近期于美国西雅图举行的ieee/cvf计算机视觉和模式识别会议大会上介绍了fairdedup算法。该会议是由电子电气工程师学会（ieee）计算机协会和计算机视觉基金会（cvf）共同主办的全球顶级学术会议。

图片来源：物理学家组织网

fairdedup是“公平重复数据消除”的缩写，指从用于训练ai系统的数据中删除冗余信息，从而大幅降低训练成本。研究人员表示，之所以将新方法命名为fairdedup，也是因为它基于此前一种具有成本效益的方法semdedup。semdedup可以用更少的资源对ai进行训练。但这一过程会强化ai的社会偏见。在最新研究中，他们通过引入公平机制，对semdedup进行了改进，fairdedup因此面世。

fairdedup的工作原理是：通过一种名为“修剪”的过程，细化从网络上收集的图像字幕数据集。“修剪”指选择能代表整个数据集的数据子集。该工具可以感知内容，并决定保留或删除哪些数据。结果显示，fairdedup删除了冗余数据，同时结合了可控的、人为定义的多样性维度，从而减少偏见。