В ЕС предложили запретить жестокий ИИ-контент с детьми

Европейская комиссия рассматривает возможность введения уголовной ответственности за созданные ИИ изображения и дипфейки, демонстрирующие сексуальное насилие над детьми (CSA). Child sexual abuse is a heinous crime which has evolved significantly over the past years.Today, we are adopting a proposal to update the criminal law rules on child sexual abuse and sexual exploitation.Learn more → https://t.co/mtz68GuEJJ#SecurityEU pic.twitter.com/QF7TsFX7cy Законопроект криминализирует распространение контента с жестоким обращением с несовершеннолетними. Документ подразумевает введение нового уголовного преступления. Новые положения предусматривают наказание за хранение и обмен «руководствами для педофилов» по созданию CSA-материалов с помощью нейросетей. В предложении также упоминаются неназванные чат-боты на основе искусственного интеллектом, используемые для этих целей. «Угроза злоупотреблений реальна и возросла во всем ЕС. Например, в сети продолжают появляться руководства для педофилов, свидетельствующие о возросшей угрозе для наиболее уязвимых групп населения. Присутствие детей в онлайне и технологические инновации создают новые возможности для злоупотреблений. Только в 2022 году в Евросоюзе зарегистрировано 1,5 млн сообщений о CSA», — говорится в заявлении ведомства. Для реализации инициативы Еврокомиссия намерена внести поправки в соответствующий закон от 2011 года. Однако окончательное решение по предложенным правилам примут Европейский парламент и Европейский совет. Эти меры являются частью более широкого пакета, направленного на предотвращение сексуального насилия над детьми, повышение осведомленности о рисках в Интернете, облегчение процесса информирования о преступлениях и предоставление государственной поддержки, включая право на финансовую компенсацию. Ранее британская компания по надзору за интернетом Internet Watch Foundation сообщила о быстром распространении ИИ-материалов с сексуальным насилием над детьми. Согласно отчету исследователей, всего за один месяц на одном из даркнет-форумов обнаружено более 20 254 изображений CSA. Напомним, в мае 2023 года один из пионеров отрасли Джеффри Хинтон предупредил о потенциальных угрозах, связанных с ИИ. До этого экс-глава Google Эрик Шмидт заявил, что технология представляет собой «экзистенциальный риск», из-за которого многие люди могут «пострадать или погибнуть».