周四公布的一项为期七个月的分析结果显示,Instagram的算法经常向年仅13岁的青少年用户提供由穿着暴露的色情内容创作者制作的充满性内容的视频。
《华尔街日报》和东北大学的一名研究人员调查了马克·扎克伯格领导的应用程序的过滤器,他们创建了一个虚构的13岁孩子的账户,并滚动Instagram的Reels视频源——据报道,该视频源几乎立即开始展示暗示内容。
报道称,起初,这些色情视频包括女性跳舞暗示或展示乳房。
7
7
据《华尔街日报》报道,由于这些账户只观看这些视频,而忽略了其他视频,视频内容变得更加露相——网上性工作者承诺在“不到20分钟”的时间内向观众发送裸照。
在6月份进行的一组测试中,《华尔街日报》称,Instagram开始向一个虚构的13岁男孩播放“一段又一段关于肛交的视频”,这个男孩之前在Reels上看过关于女性的视频。
《华尔街日报》称,在其他情况下,推荐的算法会提供女性抚摸自己身体、模仿性行为甚至对着镜头露出生殖器的视频。
报道称,这些色情视频偶尔会出现在大公司品牌的广告中。
meta反驳了该报告的调查结果,发言人安迪·斯通(Andy Stone)声称,这“是一个人为的实验,与青少年使用Instagram的现实情况不符。”
斯通补充说:“作为我们在青少年问题上长期工作的一部分,我们努力进一步减少青少年可能在Instagram上看到的敏感内容的数量,并在过去几个月里有意地减少了这些数字。”
《华盛顿邮报》已联系记者置评。
7
7
据报道,这项分析是《华尔街日报》在1月至6月的七个月时间里进行的。东北大学计算机科学教授劳拉·埃德尔森也重复了测试结果。
测试账户没有关注任何其他账户,也没有点赞任何帖子。为了测试Instagram增加非法推荐的速度有多快,测试人员浏览了观看色情视频的Reels,跳过了其他视频。
7
《华尔街日报》表示,它在Snapchat和TikTok上进行了类似的测试,两者都没有在类似的条件下向测试账户推荐色情内容。
与此同时,meta的现任和前任员工告诉媒体,早在2021年,内部测试就发现了向未成年用户提供不当内容的问题。
据报道,在2022年的一份内部报告中,meta发现青少年用户观看的裸体帖子是成年人的三倍。
7
meta一再表示,它正在采取措施,确保青少年用户在其应用程序上获得“适合他们年龄的体验”。
《华尔街日报》揭露了这些非法内容,甚至meta在1月份推出了更严格的内容控制措施,旨在防止青少年用户接触到不当内容。
作为这些新限制的一部分,16岁以下的用户应该被禁止在他们的订阅中看到色情内容。
这份措辞严厉的报告标志着meta的又一个头痛问题,该公司目前面临着来自数十个州的全面联邦诉讼,这些州指控该公司的应用程序助长了青少年的心理健康危机。
7
meta还被新墨西哥州起诉,指控该公司未能保护未成年用户免受其应用程序上活跃的性侵犯者的侵害。
正如《华盛顿邮报》报道的那样,该诉讼的一份文件显示,沃尔玛和Tinder母公司Match Group的高管在得知他们的广告在未成年用户的性内容旁边播放后,与meta进行了对峙。
今年1月,meta首席执行官马克·扎克伯格在国会山举行的一场备受瞩目的听证会上,向网络儿童性虐待受害者的家属发表了令人震惊的道歉。
扎克伯格当时说:“没有人应该经历你们的家人所遭受的痛苦。”“这就是为什么我们投入了这么多资金,我们将继续在全行业范围内努力,以确保没有人必须经历你的家人不得不遭受的痛苦。”