韩国Deepfake危机，一种新型暴力围剿全球青少年

922b3eb6

[color=var(--weui-FG-HALF)]

[color=var(--weui-FG-HALF)]最近，中文社交网站上几条求助信息引起大家的注意。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]博主自称是韩国少女，她透露，韩国正面临一场由[color=var(--weui-LINK)]Deepfake技术引发的严重危机。
[color=var(--weui-FG-HALF)]          
受Deepfake影响的学校从小学到高中，几乎无一幸免，情况已严重到难以解决的地步，她迫切希望能够通过网络的力量，让更多人关注这一问题。

[color=var(--weui-FG-HALF)]“N号房事件”结束没多久，韩国女性又再次陷入“AI换脸恐慌”，韩国正处于这场数字风暴的中心，青少年成为了最脆弱的受害者。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]在科技飞速发展的今天，Deepfake等AI技术的滥用已经超出了娱乐的范畴，变成了对社会，特别是对青少年的一种新型暴力。

[color=var(--weui-FG-HALF)]韩国再现“N号房”
[color=var(--weui-FG-HALF)]今年5月，韩国媒体曾曝出了一起令人震惊的事件，首尔大学的两名学生在过去三年中利用Deepfake技术合成上千份色情照片和视频，并通过Telegram进行私密传播。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]这起事件的受害女性多达61人，其中包括12名首尔大学的学生。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]事情曝光后并没有得到遏制，反而愈演愈烈。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]韩国妇女人权研究所公布了一组令人不安的数据：从今年1月1日到8月中旬，共有781名Deepfake受害者通过线上渠道寻求帮助，而其中有288名（36.9%）是未成年人。

[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]这些数字仅仅揭示了冰山一角，背后可能隐藏着更多没有曝光的受害者。
[color=var(--weui-FG-HALF)]          
有组织制作了这张“深度伪造地图”，图片显示，韩国数百所学校的学生都受到深度伪造犯罪的影响。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]Deepfake技术正以一种前所未有的方式摧残着韩国社会，尤其是青少年群体。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]这一连串的事件让人不禁联想到四年前震惊全球的韩国“N号房”事件，两者之间有着惊人的相似之处。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]犯罪组织都是利用国外社交平台Telegram作为主要的传播渠道，借助其端到端加密的私密性，建立了多个封闭的群组，肆无忌惮地分享和传播虚假伪造的色情内容。    

[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]Telegram上有不少以AI生成色情内容为卖点的群组，这些群组也就是韩国新闻中提到的“房”，其中一个公开可进的群组人数高达1.5万人。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]在一个有22.7万成员的聊天室里，用户只需点击进入，就会立刻收到一条消息：“发送你喜欢的女孩照片。”只要支付一定费用，就可以在短短5秒内生成她的裸体合成照。

[color=var(--weui-FG-HALF)]更为令人发指的是，一些男性为了获得入门资格，竟然拍摄自己女友、前女友、姐妹、甚至母亲的视频和照片并上传到这些聊天室中。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]犯罪组织还会对不同的房间设置不同的门槛，用户通过缴纳费用甚至可以进入更高级别的私密群组，获取更为极端的伪造内容。   
[color=var(--weui-FG-HALF)]          
另外，犯罪组织还通过使用虚拟货币进行交易，使得资金流动更加难以追踪，逃避了传统金融系统的监管。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]“N号房”事件的主犯之一赵周斌就通过这种方式获利上亿元。
[color=var(--weui-FG-HALF)]          

[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]Telegram还有“阅后即焚”“禁止转发和截图”等隐私保护功能，这些功能进一步助长了这些不法活动的蔓延，使得受害者的求助和证据的搜集变得更加困难。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]这一系列因素，使得Telegram成为了这些犯罪组织的温床，也让Deepfake这样的新型犯罪行为得以迅速扩散，对社会和受害者造成了极大的伤害。

[color=var(--weui-FG-HALF)]校园陷入“AI深伪”危机
[color=var(--weui-FG-HALF)]利用AI伪造同学露骨照片的事件并不只是发生在韩国。

[color=var(--weui-FG-HALF)]去年10月，新泽西州一个位于富裕社区的高中韦斯特菲尔德，几位10年级女生向校方管理人员报告，班上的男生使用AI软件制作暗示性的图片，并在网络上散布这些伪造的照片。 
[color=var(--weui-FG-HALF)]          

[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]同年12月，美国佛罗里达州也有两名十几岁的男孩，用AI生成了女同学的私密照片并传播，最后受到了刑事指控被抓捕。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]在加州的比佛利维斯塔中学，同样有5个男生用AI创建并分享了女同学的私密照片。校方发现后没有姑息，主动上报给了警方，并开除了这些男生。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]学校还向所有家长发送了邮件，要求学生立即停止对AI不恰当的使用，任何使用AI生成、传播同学照片的学生都将面临严厉处罚。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]根据学校和警方的报告，在几个州，有男生利用AI软件，将女同学穿着正装参加学校毕业舞会等活动的真实照片篡改成了露骨的图像。
[color=var(--weui-FG-HALF)]          

[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]一些男生还在学校餐厅、校车上或通过Snapchat和Instagram等社交平台的群聊分享了这些伪造的照片。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]在澳大利亚，近期也发生多起青少年利用AI合成学校师生私密照的丑闻，引发了广泛的社会关注。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]据《澳大利亚人报》6月12日报道，维多利亚州墨尔本的私立高中巴克斯·马什文法学校约50名女生的私密照片在多个社交媒体平台上广泛传播，这些照片都是通过AI技术合成的。
[color=var(--weui-FG-HALF)]              

[color=var(--weui-FG-HALF)]澳大利亚政府已经决定采取行动，禁止制作和传播深度伪造的色情内容，并对未经同意分享这些内容的人施以严厉的刑事处罚。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]在国内，今年6月，一则“男子用AI伪造学生同事近7000张私密照”的消息迅速登上微博热搜。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]据央视新闻报道，犯罪嫌疑人白某某是某互联网公司的技术员，他利用AI技术中的“一键去衣”功能，深度伪造了近7000张图片。

并以每张1.5元的价格出售，非法获利近一万元。这些伪造图片涉及众多女性，包括学生、教师及同事。
[color=var(--weui-FG-HALF)]          

[color=var(--weui-FG-HALF)]Deepfake：科技的黑暗面
[color=var(--weui-FG-HALF)]Deepfake，是指通过深度学习生成的“假”视频或音频。最初，它展示了人工智能的强大潜力，可以将一张静态照片转化为栩栩如生的视频。    

[color=var(--weui-FG-HALF)]然而，随着技术的发展，Deepfake逐渐走向了黑暗面。

[color=var(--weui-FG-HALF)]知名咨询机构德勤在一份报告中指出，[color=var(--weui-LINK)]生成式AI的普及显著增加了深度伪造欺诈的风险。报告显示，2023年金融科技领域的深度伪造事件激增了700%。

[color=var(--weui-FG-HALF)]同时，深度伪造视频监测机构Sensity的调查发现，超过2000段深度伪造视频中，埃隆·马斯克成为最常被伪造的“发言人”。

[color=var(--weui-FG-HALF)]一位82岁的退休老人因轻信“AI马斯克”代言的广告，以248美元开设了一个账户，投入了超过69万美元的资金，最终血本无归。

[color=var(--weui-FG-HALF)]深度伪造技术的滥用并不仅限于金融领域。

[color=var(--weui-FG-HALF)]如今，它还被用来制造虚假的色情视频、伪造明星或普通人的言论，模糊了虚拟与现实的界限，给社会带来了极大的困扰和威胁。

[color=var(--weui-FG-HALF)]前几年，网络上就出现过很多奥巴马的AI恶搞视频，这些视频利用AI技术生成了逼真的奥巴马形象，配以夸张的言辞和动作，令许多不明真相的观众信以为真。

[color=var(--weui-FG-HALF)]

[color=var(--weui-FG-HALF)]2023 年，美国在线深度伪造视频的总数量已达到95,820个，比2019年增长了550%，其中98%涉及色情内容。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]此外，英国、澳大利亚和新西兰的调查显示，14.1%的16至84岁受访者曾经历过被深度伪造的露骨照片的困扰。

[color=var(--weui-FG-HALF)]更为严重的是，今年1月，流行歌手泰勒·斯威夫特成为了Deepfake攻击的最新受害者。

[color=var(--weui-FG-HALF)]有人利用Deepfake技术伪造了她的不雅照，并将这些照片在各大社交平台上疯狂传播。短短几天时间，浏览量就已突破千万。

[color=var(--weui-FG-HALF)]从明星到普通人，越来越多的个体正成为这项技术的牺牲品。在全球多个国家，青少年已成为Deepfake攻击的主要对象。

[color=var(--weui-FG-HALF)]随着新技术的普及，尤其是深度伪造技术的门槛逐渐降低，数字犯罪也开始呈现出低龄化的趋势。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]韩国总统尹锡悦在Deepfake事件中指出，许多受害者是未成年人，而施害者大多仅有十几岁。

[color=var(--weui-FG-HALF)]对于这些年轻的受害者来说，他们的照片或视频被恶意篡改和传播，直接导致个人隐私的泄露，并使他们的社交圈瞬间崩塌。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]更可怕的是，这些伪造的内容可以在几秒钟内传播到世界的每一个角落。对于正处于成长阶段的青少年来说，这种压力可能是毁灭性的。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]想象一下，一个青少年的日常生活突然被一段虚假的视频所颠覆，他们可能会遭遇同学的嘲笑、网络暴力，甚至可能因为舆论压力而选择自我封闭。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]更有甚者，这种羞辱和压力会引发严重的心理问题，导致抑郁、焦虑，甚至出现自杀倾向。

[color=var(--weui-FG-HALF)]写在最后
[color=var(--weui-FG-HALF)]在这个充满未知的数字时代，如何在享受技术红利的同时，有效遏制其滥用，保护社会尤其是青少年的安全，已成为全球性问题。

[color=var(--weui-FG-HALF)]2023年7月初，德国电信发布一条关于儿童数据安全的广告，警告大家展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。
[color=var(--weui-FG-HALF)]              

[color=var(--weui-FG-HALF)]对于学生来说，在暗网和深度伪造技术的威胁下，学生们的个人信息和照片可能被恶意利用，导致不可预见的后果。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]因此，我们提醒所有学生务必确保自己的照片和私人信息不被随意分享或泄露，并对可能存在的网络风险保持高度警觉。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]同时，建议大家利用网络安全工具，加强对个人数据的保护，定期检查自己的社交媒体账户，避免与不明身份的用户进行互动。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]遇到任何可疑情况时，应及时寻求帮助，向学校、当地执法机构，以便及时采取措施。
[color=var(--weui-FG-HALF)]          
[color=var(--weui-FG-HALF)]在这个数字化时代，危险无孔不入，只有提升自我保护意识，采取有效的防护措施，才能在复杂的网络环境中守护好自己的安全和隐私。

jr070

感谢分享！