当下，AI技术的应用日益广泛，而AI生成的色情信息已对年轻群体形成实际冲击。
根据美国常识媒体（Common Sense Media）的最新调查，高达75%的青少年曾接触过网络色情资源，半数以上的孩子早在12岁时就已遭遇这类内容。
这项涵盖1300多名13至17岁青少年的调查报告指出，近半数参与者承认看过疑似由AI制造的不雅材料。
图源：猴子商业图片/iStockphoto/盖蒂图片社
当前这些生成式AI工具能够仿制虚假裸照与不雅影像，也就是人们常提及的“深度伪造”产生物，更有专门的“AI脱衣程序”及相关手机应用程序，用户仅需上传照片，便能生成目标人物的虚假裸露图像。
常识媒体于2023年发布的类似研究显示，当时青少年涉足色情信息的比率与现在相差不大，但历经三年，青少年触及此类内容的途径与性质已发生剧烈转变。
“这才是当前最显著的不同点，”该研究负责人、常识媒体研究总监苏普丽特・曼博士表示，“过去我们谈论的是商业制作、特定渠道传播的色情片，而今截然两样，这些AI生成内容完全剥夺了当事人的自主权，令普通人无法掌控个人形象被滥用的情况。”
AI使得色情内容的制造门槛大幅降低
以往青少年接触的多数是AI伪造的明星不雅照片，但现在“脱衣工具”已将矛头对准了他们身边的同窗及友人。
研究团队透露，约20%的受访者或亲自制作过AI色情内容，或认识有此行为的朋友；其中超半数案例中，内容主角均为现实生活中的熟人。
“我们正面对一个全新形成的、几乎零难度的灰色地带，”曼博士继续说道，“年轻人能毫无阻碍地接触、尝试此类内容，全程几乎不受任何过滤与监管。”
此类脱衣APP获取极为便捷，只需简单点击就能下载安装。在那44%看过疑似AI色情内容的青少年里，有15%是通过专门用于制作及编辑图片视频的AI应用程序接触到这类内容的。
斯坦福大学以人为本人工智能研究院的政策研究员里安娜・费弗科恩指出，尽管应用商店对上架APP设有内容规范，但这类工具常不会详述其全部功能，常能蒙混过关获得批准。
未参与此次研究的费弗科恩补充：“大量研究证实，应用商店与社交平台现行的‘打地鼠’式清理措施，远跟不上此类内容扩散与变异的速度。”
对青少年的损伤，比预想的更严重
曼博士观察发现，许多青少年开始重新评估自己在社交媒体上的言论及个人形象。
高达70%的青少年表示担忧：即便未经本人知晓或同意，也可能在不知情中成为AI色情内容的受害者。为此，他们会审慎发布个人动态、将社交账号设为私密模式，甚至选择注销账号。
曼博士强调，青少年具备保护个人隐私的意识固然可取，但当前情形本质上是在强化“受害者有罪论”的倾向。
“为何要让年轻人因恐惧被恶搞而反制自身行为？”她质疑道。
此类内容泛滥且唾手可得，还会扭曲青少年对性、性同意及身体审美的认知。接近70%的青少年认为，AI生成的色情材料会影响他们对“理想身材”的判断。曼博士特别关注这一点，青少年正处于身体快速发育且持续变化的阶段，极易受不真实内容误导。
“这可能动摇青少年在成长过程中诸多核心观念的根基，比如如何理解性同意，怎样处理亲密关系与恋爱，”她进一步阐明。
这不是孩子单独面对的问题
超过三分之一青少年透露，想与成年人讨论AI色情内容议题，却不知如何启齿。
对于许多家长而言，这也是个全然陌生的领域。面对自己也无法理解的新技术，该如何与孩子探讨？
常识媒体建议，家长及监护人无需一开始就深入技术细节，可先从性同意、身心福祉、性别认同等基础主题入手，与孩子展开平等包容的对话。待这些基础理念沟通透彻后，再延伸至AI技术应用层面，孩子会更容易接纳。
调查显示，年幼的青少年比年长的孩子更愿意与父母谈论这类问题。尽早开展这类日常对话，也能协助孩子将来更有效地对抗AI生成的不良信息。
曼博士着重提醒：家长不宜企图“一次性说清所有问题”，而应维持开放且持续的日常交流。当孩子在手机中发现AI相关应用程序时，不妨坦然让其讲解用法，若有疑问可直接询问，无需顾虑尴尬。
很多时候，AI生成的不雅图片所引发的负面影响，会直接波及校园环境。
已有学校曝出相关事件：学生利用AI制作同窗的虚假不雅照片，最终面临法律后果。更令人忧心的是，本调查显示青少年愿意向AI聊天机器人倾诉心事的比率，与寻求学校辅导员或教师的帮助相仿。
教育部门在处理这类事件时常感进退维谷：严格来讲，许多行为发生在校外，不易直接干预。
但费弗科恩指出，只要涉事双方均为在校学生，学校就承担着一定的管理及教育职责。
“此问题需要多方协同努力：学校需履行监管责任，家长要积极引导，青少年间应相互提醒，平台须恪尽职守，政策制定者也应同步跟进，”费弗科恩总结，“这本质上是一个涉及全社会的议题，绝不可将重担全盘推给孩子们。”
本文由雷科技编译自CNN
