韩国政府部门上周三开始就伪造色情图片案展开调查，此前一个庞大的网络被曝光，受害者多达数百人，其中许多是未成年人。这一发现反映出韩国所面临问题的严重程度，一些研究人员认为，全球传播的所谓“深度伪造”色情视频中约有一半来自韩国。
在美国等许多国家，都存在由AI生成的以年轻女性和女孩为目标的假裸照数量增加的问题。
奥巴马吐槽特朗普“笨蛋”的视频火遍全球，艾玛·沃森“出演”的成人电影在网上流传……然而，这些视频并不是真的，它们是利用一种名为“深伪”(Deepfake)的人工智能技术“换脸”而成。《华尔街日报》记者Jason Bellini调查发现，该换脸技术的应用已从明星、政客扩展到了普通人，在娱乐之余可对人们生活产生真实的危害，甚至会产生政治后果。
韩国当地官员表示，韩国目前的保护措施还不够完善，无法消除AI生成的色情内容所带来的威胁，这些内容大部分是由青少年或年龄更小的儿童制作的。韩国教育部正在审查对中学生或年仅10岁的犯罪者的最高处罚。议员们正寻求封堵法律漏洞，比如将目前的惩罚范围扩大到故意传播非法内容者之外。
担任过检察官的韩国总统尹锡悦(Yoon Suk Yeol)在上周二的内阁会议上表示。“任何人都可能是受害者。”韩国总统指出，“可能有人认为深度伪造视频只是单纯的恶作剧，但它们显然是在匿名掩护下利用技术的犯罪行为，”
受害者的规模和人数仍在调查中。许多Telegram群组都是按学校名称或地区分类，以便用户轻松识别共同的熟人并制作可以分享的假裸照。据官员和活动人士称，为进入这些组群，一些用户被要求提供一名女性的照片，这些照片通常是从一个女同学的社交媒体账户中截取。这些Telegram组群几乎完全用韩语进行交流。
本月初，在一次警方调查导致一个聚焦某所大学的Telegram群组进入大众视野后，公众关注度急剧上升。政府部门称，该群组自2020年以来一直活跃，约有1,200名成员，不仅分享计算机生成的色情图片，还分享其他个人信息，例如涉事对象的电话号码、地址和学生证号码。据报道，该组群中分享了至少30名现在校生和往届学生的假色情图片。
根据志愿者仔细梳理这些组群聊天记录后编制的在线统计数据，大约有500所学校（从大学到小学）可能受到影响。自周二上线以来，载有该学校名单的网站已吸引了约300万次页面浏览量。
在此次对Telegram上传播的假色情图片进行打击的几天前，法国政府部门拘留了这款即时通讯应用的创始人兼首席执行官杜罗夫(Pavel Durov)。法国检方表示，杜罗夫被捕与一项调查有关，该调查旨在查明Telegram是否助长了网络犯罪行为，包括交换儿童色情内容。
据华尔街日报称，被问及韩国的调查时，Telegram一名代表称，该公司每天根据审核、AI工具和用户报告在其平台上删除数以百万计的有害内容。
根据身份盗用防范公司Security Hero 2023年的一份报告，在网上发布的深度伪造色情视频中，韩国女歌手和女演员约占其中人物的一半。该报告分析了100多个网站上的约10万条视频。
活动人士表示，多年来，韩国女性的性爱图片未经涉事人同意就发布到网上的风险上升。韩国公务人员会搜查公共厕所，看是否藏有摄像头。一些网红因传播用隐藏摄像头拍摄的他们性接触视频而被起诉。一个韩国性剥削团伙利用Telegram胁迫很多女性制作了数以千计的淫秽视频。
但韩国妇女热线(Korea Women’s Hotline)代表Song Ran-hee表示，直到最近几天公众强烈抗议之前，韩国警方一直以Telegram的服务器设在海外为由，认为调查假裸照案件很困难。她说：“打击行动的宣布来得太晚了。”韩国妇女热线是一个为遭受暴力侵害的女性提供支持的非营利组织。
据韩国媒体监管机构提供的数据，今年截至7月份，已有6,000多名韩国人要求删除未经其同意制作的虚假色情图片。这一数量已接近去年全年的约7,000名。
据韩国国家警察听(National Police Agency)称，自2023年初以来，约有300人被控制作和传播虚假裸体图片，其中约70%是青少年。
评论(0)