“危机”：澳洲学校收到关于“裸体化”应用的紧急警告

edith921

“裸体化”应用在网络上“迅速扩散”，相关当局敦促澳洲学校报告深度伪造事件。

网络安全监管机构周五表示澳洲网络安全专员Julie Inman Grant已致函各州和领地的教育厅长，敦促他们确保学校遵守州和领地的法律以及强制报告义务。  

此前，网络安全委员会表示在过去18个月中，关于数字修改的私密图像（包括深度伪造）的报告数量增加了一倍多，其中涉及18岁以下青少年的报告数量超过了此前七年的总和。  

这些报告中，有五分之四涉及年轻女孩。

网络安全委员会没有透露收到的报告数量。然而，尽管“迅速增长”令人担忧，Inman Grant警告说，实际情况可能更糟。  

“根据我们听到的传言，学校领导人和教育部门代表表示，深度伪造事件发生得越来越频繁，尤其是在学校环境中，孩子们很容易访问和滥用‘裸体化’应用。”

“影响学校社区的危机”

深度伪造技术允许用户使用人工智能操控生成图像和视频，网络安全委员会称这是“影响澳洲各地学校社区的危机”。
  
该机构表示这些工具，尤其是“裸体化”应用，正越来越多地有年轻人使用，并可能被滥用来生成未经同意的合成露骨图像，包括儿童图像。  

这种技术可以免费、快速且易于使用，但可能造成深刻的个人伤害。

“只需一张照片，这些应用就能在几秒钟内通过人工智能将图像‘裸体化’，”Inman Grant说。

“令人担忧的是，我们看到这些应用被用来羞辱、欺凌和性勒索校园内外的儿童。还有一些报告称，其中一些图像在学校儿童之间以金钱交换的方式进行交易。”  

Inman Grant表示监管机构一直在与警方、应用制造商和托管这些应用的平台合作，“向他们发出警告”。

皇家墨尔本理工大学信息系统高级讲师Shahriar Kaisar博士专门研究生成式人工智能的使用，他表示深度伪造在过去两年中已成为一个“严重”问题。

最近，旨在要求全球科技巨头应对有害在线内容（包括深度伪造和“裸体化”应用）的法律被提交给议会。
  
Inman Grant表示强制标准将于本周全面生效，违反规定的公司可能面临高达4950万澳元的罚款。  

网络安全委员会还发布了一份更新的工具包，帮助学校准备和管理深度伪造事件。  

监管机构强烈鼓励学校向当地警方报告任何潜在的犯罪行为。


https://www.sbs.com.au/news/arti ... dify-apps/4jlaqwdyn

yxfc2003

ai啥都能干了

civ

这个比社交媒体更容易危害青少年！