英国引入法律，将人工智能生成的虐待儿童图片定为犯罪
英国政府上周六宣布，英国将成为首个将使用人工智能（AI）工具制作儿童性虐待材料定为非法的国家，以回应人们对网络罪犯滥用技术的日益担忧。
作为即将出台的《犯罪和警务法案》的一部分，这些新法律将把拥有、创建或传播旨在生成儿童性虐待图像的人工智能工具定为犯罪。该立法还针对那些分享指导他人如何使用人工智能剥削儿童的手册的人。
那些制作或传播此类材料的人将面临最高5年的监禁，而拥有有关人工智能辅助虐待的指导手册可能会被判处3年监禁。
此次打击行动出台之际，执法部门和网络安全组织警告称，人工智能生成的虐待儿童图片数量迅速增加。互联网观察基金会（IWF）在2024年记录了245起此类内容的确认报告，比2023年的51起大幅上升。去年，在短短30天内，IWF在一个暗网网站上发现了3512张人工智能生成的图片，其中越来越多的图片属于“a类”——最严重的滥用材料。
官员们表示，犯罪分子利用人工智能对儿童的真实图像进行“裸体化”，或将儿童的脸叠加到现有的虐待材料上，创造出令人信服的虚假内容，然后用于敲诈和胁迫。有些案件涉及人工智能生成的真实儿童的声音，进一步增加了剥削的风险。
内政大臣伊维特·库珀（Yvette Cooper）表示，这项立法对于防止人工智能驱动的犯罪升级为现实世界的滥用至关重要。
库珀说：“我们知道，在网上作案的罪犯往往会升级为亲自犯下可怕的罪行。“至关重要的是，我们要在线上和线下解决儿童性虐待问题，以更好地保护公众免受新出现的威胁。”
专家警告说，人工智能生成的虐待材料可能会使儿童剥削正常化，使犯罪者更容易为自己的行为辩护并逃避侦查。
作为更严厉措施的一部分，边境部队将获得新的权力，迫使涉嫌犯罪的人解锁他们的电子设备接受检查。此外，那些运营或管理促进共享人工智能生成的虐待儿童内容的网站的人将面临刑事指控。
英国政府还在努力将人工智能生成的深度虚假色情内容定为刑事犯罪，针对那些未经同意创作和分享露骨内容的个人。
虽然活动人士和儿童保护组织对新法律表示欢迎，但他们强调了强有力的执法机制的重要性。
互联网观察基金会（Internet Watch Foundation）临时首席执行官德里克·雷-希尔（Derek Ray-Hill）表示，此举是一个“重要的起点”，但他敦促继续保持警惕，防止人工智能技术被利用。
NSPCC儿童在线安全政策经理Rani Govender呼吁对人工智能公司进行更严格的监管。她说：“在任何可能的地方，必须首先防止这些可恶的伤害发生。”
包括这些措施的《犯罪和警务法案》预计将于今年晚些时候提交议会。
英国政府上周六宣布，英国将成为首个将使用人工智能（AI）工具制作儿童性虐待材料定为非法的国家，以回应人们对网络罪犯滥用技术的日益担忧。
作为即将出台的《犯罪和警务法案》的一部分，这些新法律将把拥有、创建或传播旨在生成儿童性虐待图像的人工智能工具定为犯罪。该立法还针对那些分享指导他人如何使用人工智能剥削儿童的手册的人。
那些制作或传播此类材料的人将面临最高5年的监禁，而拥有有关人工智能辅助虐待的指导手册可能会被判处3年监禁。
此次打击行动出台之际，执法部门和网络安全组织警告称，人工智能生成的虐待儿童图片数量迅速增加。互联网观察基金会（IWF）在2024年记录了245起此类内容的确认报告，比2023年的51起大幅上升。去年，在短短30天内，IWF在一个暗网网站上发现了3512张人工智能生成的图片，其中越来越多的图片属于“a类”——最严重的滥用材料。
官员们表示，犯罪分子利用人工智能对儿童的真实图像进行“裸体化”，或将儿童的脸叠加到现有的虐待材料上，创造出令人信服的虚假内容，然后用于敲诈和胁迫。有些案件涉及人工智能生成的真实儿童的声音，进一步增加了剥削的风险。
内政大臣伊维特·库珀（Yvette Cooper）表示，这项立法对于防止人工智能驱动的犯罪升级为现实世界的滥用至关重要。
库珀说：“我们知道，在网上作案的罪犯往往会升级为亲自犯下可怕的罪行。“至关重要的是，我们要在线上和线下解决儿童性虐待问题，以更好地保护公众免受新出现的威胁。”
专家警告说，人工智能生成的虐待材料可能会使儿童剥削正常化，使犯罪者更容易为自己的行为辩护并逃避侦查。
作为更严厉措施的一部分，边境部队将获得新的权力，迫使涉嫌犯罪的人解锁他们的电子设备接受检查。此外，那些运营或管理促进共享人工智能生成的虐待儿童内容的网站的人将面临刑事指控。
英国政府还在努力将人工智能生成的深度虚假色情内容定为刑事犯罪，针对那些未经同意创作和分享露骨内容的个人。
虽然活动人士和儿童保护组织对新法律表示欢迎，但他们强调了强有力的执法机制的重要性。
互联网观察基金会（Internet Watch Foundation）临时首席执行官德里克·雷-希尔（Derek Ray-Hill）表示，此举是一个“重要的起点”，但他敦促继续保持警惕，防止人工智能技术被利用。
NSPCC儿童在线安全政策经理Rani Govender呼吁对人工智能公司进行更严格的监管。她说：“在任何可能的地方，必须首先防止这些可恶的伤害发生。”
包括这些措施的《犯罪和警务法案》预计将于今年晚些时候提交议会。