Неизвестная компания потратила $500 млн на Claude AI за месяц из-за отсутствия лимитов

Крупная, но пока не названная компания случайно потратила около $500 млн всего за один месяц на использование ИИ-инструментов Claude AI от Anthropic. Предварительно известно, что причиной таких баснословных расходов стало отсутствие ограничений на корпоративные лицензии: сотрудники могли обращаться к ИИ-моделям без ограничений по токенам. В таком случае счета по корпоративной лицензии выставлялись компании без ограничений.

Инцидент стал одним из самых примеров того, как быстро могут расти затраты на генеративный ИИ внутри крупных компаний. Как отмечает Tom`s Hardware, американский бизнес всё чаще сталкивается с ситуацией, когда внедрение ИИ хоть и обещает рост продуктивности, но фактическая отдача оказывается менее очевидной, чем счета за токены. Не исключено, что обычный наём программистов мог быть дешевле.

Проблема усугубляется тем, что сотрудники используют ИИ не только для действительно важных задач, но и для рутинных или второстепенных запросов. В отрасли уже обсуждают явление «токнмаксинг»: сотрудники намеренно расходуют все свои лимиты, искусственно делая вид, что активно пользуются запросами к ИИ для выполнения рутинной работы. По задумке, это должно выглядеть так, будто бы сотрудник занимает полезной и сложной работой. На деле же сотрудники просто усложняют ИИ задачу, не оптимизируют запросы и просаживают токены, ведь никто не будет проверять тысячи промтов на момент целесообразности и реальной эффективности.

В этом же случае с неизвестной компанией было доказано, что внедрение ИИ должно сопровождаться не неограниченным доступом к запросам, а строгим контролем, чтобы сотрудники использовали токены для выполнения реально полезных задач. В противном случае внедрение ИИ хоть и упростит задачу для сотрудников, но расходы компаний вырастут кратно.

Источник: https://www.ixbt.com/live/crypto/neizvestnaya-kompaniya-potratila-500-mln-na-claude-ai-za-mesyac-iz-za-otsutstviya-limitov.html

Наверх