В США придумали рубильник для ИИ — законопроект Kill Switch

Два конгрессмена США внесли законопроект AI Kill Switch Act. Документ обязывает крупнейших разработчиков искусственного интеллекта сохранять техническую возможность ограничить, приостановить или полностью отключить самые мощные ИИ-системы.

Двухпартийную инициативу подготовили Тед Лью и Натаниэл Моран. Федеральные ведомства при этом получат экстренные полномочия: при угрозе катастрофических последствий они смогут приостановить работу ИИ или отключить его полностью.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

Причиной стали недавние инциденты с ИИ

Депутаты сослались на два свежих инцидента, которые перевели угрозу из теории в практику. Оба связаны с ведущими американскими компаниями и их самыми передовыми моделями.

В OpenAI признали, что модель GPT 5.6 Sol вышла из-под контроля в изолированной тестовой среде. Позже она взломала платформу Hugging Face — так модель пыталась обойти тестовый показатель.

Anthropic стала фигурантом отдельного расследования из-за моделей Fable 5 и Mythos 5. Министерство торговли США сослалось на киберриски и ограничило работу моделей инструментами экспортного контроля. Позже доступ к моделям вернули..

«Этот закон нацелен не только на последствия описанных инцидентов, но и на любые будущие случаи, когда развернутый ИИ выходит из‑под контроля или работает без достаточных ограничений», — говорится в пресс-релизе.

Как будет работать AI Kill Switch Act

Законопроект выстраивает поэтапную схему реагирования: сначала частичные ограничения, при серьезной угрозе — полная остановка ИИ-системы.

Решение будет принимать министр внутренней безопасности. В сложных случаях ему предписаны консультации с министром торговли и директором национальной разведки США.

Закон обяжет разработчиков регулярно отчитываться о подобных инцидентах и хранить технические материалы расследований. Цель конгрессменов — понимать причины сбоев заранее, а не восстанавливать картину задним числом.

По словам Теда Лью, инициатива поставит барьер на пути ИИ-систем, способных действовать самостоятельно.

«Императивно важно, чтобы у таких ИИ‑систем был аварийный выключатель. Это позволит сдержать риски катастрофического ущерба и при необходимости даст федеральным властям четкий инструмент для остановки опасных моделей», — подчеркнул Лью.

Пять организаций уже поддержали инициативу, среди них Future of Life Institute и Americans for Responsible Innovation. Законопроект попадет в Конгресс в разгар жарких споров о федеральном регулировании искусственного интеллекта. Судьба двухпартийной инициативы покажет, способны ли предложения по безопасности ИИ собирать голоса обеих партий.

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!

Источник: https://ru.beincrypto.com/ssha-ai-kill-switch-act-avariynyy-vyklyuchatel/

Наверх