Работники Amazon научились имитировать работу с помощью ИИ

Внедрение ИИ-инструментов в рабочие процессы в Amazon не избежало классической имитации бурной деятельности, выразившейся в спаминге KPI и перерасходе ресурсов, пишет Financial Times.

• С запуска внутреннего ИИ-агента MeshClaw прошло всего несколько недель, но некоторые работники уже научились ставить ему ненужные, избыточные и заведомо непродуктивные задачи (tokenmaxxing). Цель — поднять потребление ИИ-токенов, чтобы выполнить KPI.
• Amazon, которой предстоит вложить в ИИ $200 млрд, считает агентов одним из незаменимых инструментов развития. «Он [агент] видит сны, чтобы консолидировать полученные знания, следит за рабочими процессами, пока вы на встрече, и распределяет вашу почту, пока вы спите», — говорится во внутреннем документе.
• Однако компания, судя по всему, попала в обычную ловушку закона Гудхарта («когда мера становится целью, она перестает быть хорошей мерой»). Использовать ИИ каждую неделю обязаны минимум 80% ее разработчиков, а отчеты об израсходованных ими токенах поступают менеджерам среднего звена. «Эти инструменты внедряются под большим давлением, — говорит один из сотрудников. — Некоторые просто сознательно прожигают в MeshClaw свои токены».
• Сама Amazon обещала, что не будет учитывать израсходованные токены при оценке сотрудников и не одобряет включение этого параметра в отчеты по персоналу. Но сотрудники этому не слишком верят. Во всяком случае на внутренних «досках почета» токены учитываются.

Почему это важно?

Бизнес пока не научился нормально измерять эффективность человеческого труда, которому помогает ИИ. О похожих проблемах недавно писали в Meta, Microsoft, Google, JPMorgan, Disney и других компаниях. Они глубже, чем простое измерение полезности работников по сути числом строк написанного кода: чем строже KPI по искусственному интеллекту, тем больше у персонала стимулов транжирить вычислительные ресурсы, желательно самые дорогие, на задачи, которые этого не требуют.