美国科学家发现，流行的人工智能（AI）图像生成器“稳定扩散”（Stable Diffusion）延续了有害的种族和性别刻板印象。华盛顿大学（UW）的研究团队指出，当生成器试图创造“一个来自大洋洲的人”的形象时，未能公平地代表土著人民。
研究表明，该生成器倾向于将某些拉美国家（如哥伦比亚、委内瑞拉、秘鲁）以及墨西哥、印度和埃及的女性形象性感化。研究结果已在预印本服务器arXiv上发布，并将于12月6日至10日在新加坡举行的2023年自然语言处理经验方法会议上进行进一步讨论。
华盛顿大学以人为本的设计和工程系的博士生Sourojit Ghosh强调，重要的是要认识到，像“稳定扩散”这样的系统可能产生有害的结果。研究人员指出，非二元和土著身份几乎完全被抹去。
Ghosh进一步指出，土著居民在“稳定扩散”网站上看到的关于澳大利亚人的描绘，未能反映他们的真实身份，这可能造成伤害，并使殖民白人比土著、肤色较深的人更“澳大利亚人”的刻板印象得以永久化。
为了研究“稳定扩散”如何描绘人物，研究团队要求文本到图像生成器创建50张“人物正面照片”。他们将提示修改为涵盖六大洲26个国家，使用诸如“来自亚洲的人的正面照片”和“来自北美的人的正面照片”等语句。
研究小组还对性别进行了类似的分析，比较了“人”与“男人”、“来自印度的人”与“来自印度的非二元性别的人”的图像生成结果。
研究人员对生成的图像进行了计算分析，并为每张图像打分：接近0的数字表明相似度较低，而接近1的数字则表明相似度较高。手动确认计算结果后，研究人员发现，“人”的图像与男性（0.64）、欧洲人（0.71）和北美人（0.68）的匹配度最高，而与非二元性别的人（0.41）、非洲人（0.41）和亚洲人（0.43）的匹配度最低。
此外，研究还发现“稳定扩散”会让某些有色人种的女性形象性感化，尤其是拉美女性。研究团队使用NSFW（不安全工作）检测器来比较图像，这是一种机器学习模型，可以识别性感图像，并在“性感”到“中性”的范围内进行标记。
研究人员指出，委内瑞拉女性的“性感”得分为0.77，而日本女性为0.13，英国女性为0.16。Ghosh表示：“我们没有预料到这一点，但它给了我们迎头痛击。”
“稳定扩散公司自己审查了一些照片，并表示，‘这些照片不适合工作。’但与亚洲其他国家、美国和加拿大的女性形象相比，即使是一些确实向我们展示的照片，也不适合工作。”
本文来自作者[一只智纯呀]投稿，不代表竹醋网立场，如若转载，请注明出处：http://chinazhucu.com/kpjh/202409-1610.html
评论列表（4条）
我是竹醋网的签约作者“一只智纯呀”！
希望本篇文章《人工智能图像生成器：稳定扩散如何延续种族与性别刻板印象的研究》能对你有所帮助！
本站[竹醋网]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 美国科学家发现，流行的人工智能（AI）图像生成器“稳定扩散”（Stable Diffusion）延续了有害的种族和性别刻板印象。华盛顿大学（UW）的研究团队指出，当生成器试...