|
彭博社：韩国面临深度伪造色情危机 韩国目前正遭遇一波利用学校照片，社交媒体自拍甚至军用证件照制作和传播的深伪色情图片，这些图片不分青红皂白地针对女性和女孩。 报道称，一个有22万多名参与者的Telegram频道被用于创建和分享这些由人工智能生成的色情图片，提醒全球注意这项技术带来的黑暗后果。 用户可以上传照片，在几秒钟内生成包含朋友，同学或恋人面孔的不雅内容。 当地新闻媒体的初步报道促使更多女性站出来成为受害者，更多的Telegram频道也被曝光，揭示了问题的真正规模，许多受害者是未成年人。上月底，抗议者戴着遮住眼睛的白色面具聚集在首尔，呼吁伸张正义。 随着愤怒情绪高涨，韩国总统尹锡悦呼吁政府打击这种数字暴力，政府表示将成立一个特别工作组来解决这个问题。 在警方调查的同时，另一个令人不安的趋势也浮现出来，初步数据显示，最近一波案件的绝大多数嫌疑人都是十几岁的青少年。 尹锡悦在上月底的内阁会议上说，“有些人可能会认为这只是一个恶作剧，但显然这是一种利用匿名技术进行的犯罪行为”，并承认许多受害者和肇事者都是未成年人。 尹锡悦是对的，这不只是恶作剧，这种数字性暴力的影响对受害者来说可能是毁灭性的。人们普遍认为，Telegram应该对此承担责任，尤其是在这一丑闻爆发之际，该平台的首席执行官杜罗夫（Pavel Durov）因涉嫌共犯罪（包括在其应用上分享儿童色情）在法国被捕并被起诉。 韩国当局表示，Telegram正配合调查和删除内容的请求。 但尹锡悦的言论对一些人来说可能显得空洞，因为他在2022年上台时曾争取年轻男性选民的支持，提出废除性别平等部，指责该部门将男性视为“潜在的性犯罪者”。 他还声称韩国不存在系统性的性别歧视，并暗示女权主义是导致该国低出生率的原因。同时，女性收入比男性少30%左右，显示出发达国家中最大的性别工资差距。即使在双收入家庭中，女性也承担了大部分家务和育儿责任。 在最近的AI工具使生成深伪色情图片变得更加容易之前，维权团体已在关注大量数字性犯罪，通常涉及未经同意的亲密照片或隐藏摄像头拍摄的影像。 韩国女性，如同世界其他发达国家的女性一样，选择不生育的原因有很多，包括劳动参与率上升和养育子女的不平等负担。与其指责女权主义，不如看看这些令人深感不安的数据。 讽刺的是，传播这些图片的主要Telegram群组之一据说有约22.7万名成员，这与去年出生的婴儿数量大致相当。 韩国女性勇敢地通过抗议和维权活动揭露了这一问题，这是推动全球变革的第一步。与其他司法管辖区相比，该国在监管深伪色情方面也走在前列。韩国已有相关法律，对意图传播这类图片的人处以最高五年监禁和罚款。在美国，联邦立法得到了立法者的跨党派支持，但在国会进展缓慢。 虽然法规很重要，但韩国的案例也揭示了这样一个问题： 在面对如此普遍的问题时，执法有多么困难，以及这些内容的创建和分享有多么容易。 扩大法律范围，将持有此类材料定为非法可能会有所帮助。 但这仍将大量责任推给了受害者，让他们去追查是谁制作了改变他们生活的内容。 Telegram首席执行官的最近被捕显示了全球在追究科技公司在平台上发生的伤害中的责任方面的动力有所增加。 这是朝着正确方向迈出的一步；随着更多监管者将责任推给这些强大的公司，更多行业主导的解决方案将受到欢迎。各大学和研究中心正在开发一些有前景的工具来保护图像不被AI篡改。 但是，确保AI在创建者行业中的负责任部署上投入的资源还远远不够。 科技公司必须承担起更多的主动解决方案的责任。 近年来，许多科技巨头在广泛的成本削减背景下缩减了伦理和负责AI团队，但女性和女孩的尊严不应为了利润而被牺牲。 韩国是这一危机的当前中心，但这是一个全球性问题，影响范围从斯威夫特（Taylor Swift）这样的名人到从首尔到新泽西的中学生。 科技行业不能再继续逃避责任了。     来源： https://www.bloomberg.com/opinio ... ?srnd=homepage-asia The industry creating AI technology must develop safeguards to address this epidemic. September 8, 2024 at 8:00 PM UTC By Catherine Thorbecke |
