第二十期

新闻沙龙回顾

团队及老师合影

11月13日，新闻传播学院研究生第20期新闻沙龙活动顺利开展，本次新闻沙龙特邀新闻传播学院教授张治中老师参加。

新闻沙龙主题为“从韩国DeepFake事件看新技术伦理问题和媒体责任”，策划团队包括主持人戴雪琳，汇报人黄微茗、刘凤莹、王子谦、刘亚丁、黄卓越。本次沙龙共有主持人介绍、观点汇报和老师点评交流三个环节。

主持人介绍环节

⚘

主持人 戴雪琳

戴雪琳同学首先对本次新闻沙龙的主题事件“韩国DeepFake事件”进行了简单的介绍和引入。

2024年8月25日，韩国网友“(cat) S.K Feminist”在社交媒体上发表推文，揭露了Telegram平台上存在数百个“房间”用于制作、传播、贩卖利用人工智能深度学习技术生成的色情视频，这些视频波及军队、医院、数百所学校师生，引发全球关注。此次“深伪（DeepFake）事件”是继2022年曝光的韩国“N号房事件”和2024年5月曝光的“首尔大学N号房”事件的延伸，受害者范围不断扩大。

AI时代，关于技术对人的异化、技术侵犯人权、技术带来更多隐形社会问题的讨论甚嚣尘上。本次新闻沙龙将围绕此次deepfake事件，着重探讨新技术带来的法律监管问题、技术伦理边界问题以及对人本身的戕害的问题。

观点汇报环节

汇报人 黄微茗

黄微茗同学详细梳理了事的来龙去脉：2024年8月，有多名韩国女性通过社交媒体发声，称她们在一些社交媒体上发现又一个“N号房”案件，韩国男性疑似大量分享传播周围女性的淫秽影像。群组中传播的淫秽影像经深度伪造换脸而制成。在付费的deepfake电报频道中，男性订阅用户提供女性照片，交钱后由频道通过深度伪造技术制成色情传播材料。这是继2022年曝光的韩国“N号房事件”，2024年5月曝光的“首尔大学N号房”事件的又一次延伸，受害者范围不断扩大。

此次事件波及范围大，涉及多个群体，包括未成年人、军人、教师等，并且传播范围广，引发了全球的关注，全球各国的大型媒体都报道了这次事件，产生的负面影响较大。

此次事件观点集中于对涉事男性的声讨谴责、对女性权益的关注以及对deepfake等AI技术广泛运用的讨论。这些观点多为情绪化表达，具有较强的极端性，理性声音虽然有所扩大但非理性言论仍占上风。

汇报人 刘凤莹

刘凤莹同学介绍到，2020年曝光的韩国“N号房”事件，揭示了网络性犯罪的恶劣行径。近期，深度伪造技术的滥用进一步加剧了这一担忧。与“N号房”事件不同，如今的非法淫秽内容利用深度AI技术合成，许多受害者在毫不知情的情况下成为裸体合成图的“主角”。深度伪造技术，通过深度学习，能实现面部替换、重演及生成，高度逼真且操作简易。它在娱乐、教育等领域有正面应用，但也被用于制作虚假信息，引发信任危机。

“深度伪造”由英文单词Deepfake翻译而来，而Deepfake是由“深度学习”(Deep learning)和“伪造”(Fake)这两个子单词构成的合成单词。顾名思义，Deepfake就是通过计算机的深度学习技术来造假。深度伪造能完成面部替换、面部重演、人脸生成三项工作。同时，深度伪造具有高度真实性、操作简易性、巨大破坏性的特点。

深度伪造技术的风险包括：身份盗用与隐私侵犯，导致个人名誉受损；虚假信息与事实消解，削弱公众对信息的信任度，影响媒体公信力；传播秩序失范与舆论认知偏颇，可能加剧社会分裂和偏见；国际关系层面，该技术可能成为网络战和信息战的手段，冲击全球政治安全和稳定。

为应对这些挑战，需加强法律约束与技术监管，及时更新法规以应对新技术问题；发展对抗网络与信息辨别技术，提高识别Deepfake内容的能力；并通过价值对齐与信任重建，引导公众情绪回归对技术潜力的正面期待。科技本身无罪，关键在于如何确保其向善发展，维护社会伦理与法律秩序。

汇报人 王子谦

王子谦在汇报中分享到，韩国深度伪造（deepfake）事件引发了世界范围内网民的广泛关注。从事件的受害者心理与社会影响来看，事件初期受害者遭受部分韩国男网民的冷嘲热讽和网暴，导致多数韩国女性选择沉默。她们的信息被大肆传播，被无法自证的影像胁迫，生活在阴影中。政府对此事件的处置不力，也加剧了受害者的绝望。从社会影响来看，首先深度伪造色情产业在韩国规模庞大，占全球市场的23%，远超其GDP占比，反映了AI技术被滥用的问题。其次，事件涉及未成年人的比例高，凸显了性教育与性暴力预防的缺失。最后，事件也暴露了韩国社会普遍存在的厌女情结，压缩现代化发展下的韩国新旧伦理观念冲突，导致性别矛盾激化。总体而言，深度伪造事件不仅是技术问题，更是社会问题。它揭示了科技发展与性别平等之间的辩证关系，以及法治建设与道德教育的不足。我们需要反思科技伦理，加强立法和监管，保护个人隐私和尊严，推动社会和谐发展。

汇报人 刘亚丁

刘亚丁同学围绕“deepfake”事件，阐述了媒体对深度伪造事件关注重心的转变，指出早期担忧多集中在政治领域，但实则超过95%的深度伪造视频涉及非自愿的色情内容，尤其在韩国，深度伪造性犯罪案件激增，引发社会广泛关注。她追溯了厌女逻辑的历史根源，从古希腊哲学家到近现代性别偏见的拥趸，再到当代网络空间性别偏见的复兴，揭示了其对女性的威胁和伤害。同时，她也提到了民间志愿行为和国际媒体的报道支持，以及中韩欧等地法律的跟进。最后，她强调技术发展速度远超立法速度，核心问题是社会意识，呼吁以真实惩罚痛击深度伪造，保护女性免受伤害。

汇报人 黄卓越

黄卓越同学主要从性别议题方面对该事件进行了分析。她提到，互联网“发声”文化使厌女症和性骚扰成为公共议题，但大规模讨论往往伴随着女性对不公正经历的控诉。只有制造出巨大的声浪和讨论，女性的困境才能被看见，改变现状需要更深层次的行动。社会问题只有变成可见议题被公众言说时，才能激发抗议的活动，因此话语表达也蕴含着政治维度。而AI换脸技术作为智媒时代的一项新技术在为部分行业提供便利和新发展方向的同时，也伴随着对媒介伦理和社会道德的冲击。提升大众媒介素养，培养辨别是非的能力，已成老生常谈。针对拿女性的脸生成色情视频的事件相关部门和社交媒体加强调查和监管，让制造者和传播者得到应有的惩罚才是更为有效的解决路径。

嘉宾点评环节

⚘

嘉宾 张治中教授

在点评环节，张治中老师首先感谢了同学们的精彩分享，接着和同学们分享了自己的观点。

张治中老师首先肯定了同学们讨论的“韩国DeepFake事件”的深度和复杂性，该事件中涉及技术对社会影响的问题、法律伦理问题、韩国社会性别问题、媒体责任承担问题等，相互交错，探讨这个事件非常有价值，也能够引发人们的深度思考。

张治中老师指出，技术的发展有它自身的局限性，但也有其必须存在的理由。例如该事件涉及到的“深度伪造”技术，置于今天讨论的事件中无疑是负面的，但如果使用技术的人能够合理利用它，该类技术也能够助益人类完成某些实践方面的突破。因此，我们要以辩证的思维去看待每一项技术的发展，与其规制约束技术，不如说是规制约束使用技术的人。

张治中老师还分析到，目前新技术特别是人工智能技术的出现和迅速发展，带来的问题似乎是无穷无尽的，但是我们不能停止对其的讨论和思考。虽然无论是出台法律监管还是达成社会共识都有一定的滞后性，但只要抱着跛行千里的精神，未来人工智能技术一定能走上规范的道路。

2024年11月16日|九月再出发第390期

总第411期

文字|第二十二期新闻沙龙团队成员

编辑|李冰心

审核|黄炳辉