Глава Anthropic призвал дать властям право блокировать опасные модели ИИ

Генеральный директор Anthropic Дарио Амодеи заявил, что правительство США должно получить право и возможности запрещать разработчикам внедрять новые модели искусственного интеллекта, если те несут определенные риски. По его мнению, такие модели обязаны проходить независимое тестирование на угрозы по нескольким категориям, включая кибербезопасность и биологическое оружие.

«Если они сочтут, что ИИ представляет неприемлемые риски, правительство должно иметь право блокировать или сдерживать развертывание», — отметил Амодеи. По оценке Bloomberg, это один из самых решительных призывов разработчика к более строгому регулированию отрасли. Гендиректор Anthropic заявил, что ИИ нуждается в «обязательном тестировании», поскольку представляет угрозу национальной безопасности. Призыв главы одной из ведущих ИИ-компаний к ужесточению госконтроля отражает растущую обеспокоенность рисками передовых моделей даже среди их создателей.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

Призыв к обязательному регулированию

Амодеи считает, что отрасль подошла к моменту, когда одной прозрачности уже недостаточно. «Настало время перейти от прозрачности к более серьезному и обязательному регулированию ИИ», — заявил он.

По его словам, мир должен действовать сообща и быстрее. Амодеи призвал «активизировать медленный и шаткий политический аппарат», чтобы справиться с рисками и возможностями, которые, как он ожидает, будут расти неожиданно быстро.

Контекст: мощные модели и внимание властей

Незадолго до этого Anthropic представила свою наиболее мощную модель под названием Mythos, а также ее облегченную пользовательскую версию Fable 5. Последняя не может использоваться для кибератак или разработки биологического и химического оружия.

Тема привлекает все больше внимания на государственном уровне. В начале июня президент США Дональд Трамп изложил подход к устранению киберугроз от ИИ в рамках указа, который предусматривает предоставление правительству США доступа к моделям.

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!

Источник: https://ru.beincrypto.com/amodei-anthropic-regulirovanie-ii-blokirovka/

Наверх