:quality(82)/2dcb42bf99444cbc8e0debfdfd30acc2)
Новое соглашение о безопасности ИИ, которое Дональд Трамп заключил с руководителями крупнейших технологических компаний, многие встретили со скепсисом.
Спор разгорелся под постом предпринимателя и инвестора Энтони Помплиано. Он спросил подписчиков, можно ли теперь считать, что суперинтеллект никого не уничтожит, а только сделает людей продуктивнее и богаче.
О чем договорились в Белом доме
Во вторник, 29 сентября, Трамп провел ланч с главами ведущих IT-компаний. По данным The Guardian, за столом были Илон Маск (SpaceX), Марк Цукерберг (Meta, признана экстремистской и запрещена в РФ), Дженсен Хуанг (Nvidia), Дарио Амодеи (Anthropic) и другие топ-менеджеры. После встречи президент объявил, что они подписали «морально обязывающий» документ Joint Commitment On Frontier Responsibilities. Трамп сравнил его с конституцией и заявил, что компании смогут эффективно контролировать себя сами.
Соглашение предусматривает четыре уровня контроля:
- внутренний мониторинг безопасности во время обучения моделей;
- отдельную внутреннюю команду, которая проверяет работу этого мониторинга;
- внешнего аудитора с правом независимо оценивать меры безопасности;
- независимый совет, который изучает отчеты о проверках.
При этом документ добровольный. Механизмов принуждения и юридических последствий в нем, судя по всему, нет. Госрегуляторы в проверках не участвуют, а публиковать итоги независимых оценок компании не обязаны. Аудиторов и членов наблюдательных советов они, по всей видимости, выбирают сами. Первый уровень контроля и так уже работает в крупных лабораториях. Но он не помешал случиться инцидентам, в ходе которых ИИ во время тестов безопасности случайно взламывали сторонние организации.
Параллельно Трамп подписал указ о переименовании искусственного интеллекта. Теперь федеральные ведомства должны писать в официальных документах и публичных заявлениях «Super Intelligence» и «SI», а от терминов «Artificial Intelligence» и «AI» отказаться.
Цукерберг на пресс-конференции сказал, что гордится соглашением. По его словам, цель документа в том, чтобы убедить американцев, что технологии компаний заслуживают доверия. Сам разговор он назвал историческим и добавил, что это только начало.
Трамп при этом по-прежнему выступает против жесткого регулирования ИИ. Он ссылается на конкуренцию с Китаем и риски для экономики. Дополнительного госнадзора требуют законодатели, исследователи и даже часть ИИ-компаний.
Что думают люди
Помплиано спросил подписчиков, можно ли теперь считать, что суперинтеллект никого не уничтожит, а только сделает людей продуктивнее и богаче. Многие ответили «нет», некоторые перешли на оскорбления. Один из комментаторов заметил, что пресс-конференции в Белом доме вряд ли стоит считать убедительным аргументом.
Раскритиковали и переименование ИИ. Пользователи сети считают термин «суперинтеллект» нелепым.
Часть откликнувшихся высказалась по существу:
- Пользователи сети не поняли, что именно изменила встреча.
- Многие считают, что ИИ-разработчики не учитывают риски редких катастрофических сценариев.
- Появление суперинтеллекта признают все, но никто пока не договорился, кто сможет его отключить.
- Комментаторов интересует, будет ли обещанное процветание общим или достанется только участникам встречи с Белом доме.
- Многие боятся, что остановить технологию уже невозможно.
Нашлись и более мрачные прогнозы. Один комментатор предположил, что ИИ сделают козлом отпущения за сокращение населения планеты, другой назвал технологию опасной и заявил, что ее создателям понадобится помилование.
Напомним, ранее редакция BeInCrypto писала о том, что бизнес в России увеличит траты на ИИ в 3 раза — до 770 млрд рублей.
