人工智能不会自动产生与人类相关的性别和种族偏见，但通过学习嵌入在训练数据集中的偏见，AI 可能会迅速模仿这种偏见。发表在《科学》期刊上的一项研究显示了 AI 利用现有英文文本的训练如何表现出与文本中发现的相同偏见。在研究中，普林斯顿大学的计算机科学家抓取互联网上的英文文本给 AI 学习。很快，AI 就学会将 "flower" 和 "music" 而不是 "insects" 和"weapons"与 "pleasant" 联系起来，但 AI 同时也更可能将欧洲裔美国人而不是非裔美国人的名字与 pleasant 关联 ，它也更可能将 "woman" 和 "girl" 与艺术而不是数学联系起来。