Сотрудники зарубежных компаний недовольны выгоранием из-за ИИ-агентов

Управление ИИ-агентами на работе оказалось не проще, чем руководство людьми, пишет Business insider. 30% организаций уже интегрировали ИИ-агентов в рабочие процессы, следует из отчета Boston Consulting Group, опубликованному в июне. Годом ранее таких компаний было всего 13%.

Когда ИИ вводили, генеральный директор Zoom Эрик Юань представлял цифровых двойников, которые проводят совещания, пока он отдыхает на пляже в течение четырехдневной недели. Производитель ПО для управления взаимоотношениями с клиентами Salesforce обещал идеального корпоративного помощника, который будет проводить презентации и управлять рабочим днем. Но для многих сотрудников это будущее пока не наступило.

Проблемы управления

Сотрудники описывают трудности при работе с агентным ИИ. Среди них — «пробуксовка», когда выполнение долгосрочных задач срывается из-за одной ошибки, дублирование работы агентами и постоянные прерывания. Технический директор IT-компании Cisco Серджио Фрейтас говорит, что агенты не удлиняют его рабочий день, но и не сокращают его. Организация ботов требует большего переключения задач и контроля. «Усталость возникает из-за того, что мы можем делать больше», — сказал Фрейтас.

Недавнее исследование Boston Consulting Group с участием почти 1,5 тыс штатных работников США описало это явление как «поджаривание мозга искусственным интеллектом». Речь идет об умственной усталости от чрезмерного мониторинга агентов: участники сообщали о тумане в голове, проблемах с концентрацией, медленном принятии решений и головных болях. Это напряжение может привести к росту ошибок и текучке кадров. 

Отчасти проблема заключается в том, чтобы не отставать от агентов, которые могут работать круглосуточно и без выходных, говорит Элайджа Ви, доцент кафедры менеджмента в Школе бизнеса Фостера при Вашингтонском университете. «Люди выматываются, демонстрируя свою значимость, Но что люди не могут конкурировать с агентами. Мы создали себе вторую работу».

Проверка кода и данных

Больше времени уходит не на задачи, а на проверку работы ботов. «Я трачу меньше времени на выполнение задач и больше — на их проверку», — рассказал Дэн Льюис, автор рассылки. Себастьян Гирлингер, вице-президент Storyblok, компании, создавшей облачную систему управления контентом, говорит, что разработчики были «по-настоящему разочарованы» объемом кода, который приходилось проверять после внедрения ИИ-инструментов. Николас Коэн из Headwater Energy (сектор энергетики и коммунальных услуг) называет главной проблемой подготовку данных для агентных процессов. По его словам, даже платформы вроде AWS Bedrock могут создавать риски с точки зрения соблюдения нормативных требований, а обучение собственных моделей требует значительных вычислительных мощностей и быстро становится дорогим.

Обычные сотрудники с опытом работают лучше, приходит к выводу Business insider, с ботами все наоборот. Проблемный феномен «устаревания контекста» состоит в том, что чем дольше используются большие языковые модели, тем хуже результаты. Новый контекст вытесняет старый, агенты перестают следовать конкретным инструкциям и «отходят от установленных операционных ограничений», говорится в отчете Salesforce.

Ответственность менеджеров

Иван Буразин, генеральный директор Daytona, стартапа ИИ-окружения для инженеров, говорит, что менеджеры сами отчасти виноваты в ухудшении работы агентов. В начале проекта люди дают боту много данных и контекста. «По мере того, как вы продолжаете прогрессировать, вы становитесь ленивым как человек. Ваша подсказка через пять дней звучит примерно так: "Сделай это лучше". Поскольку ваши подсказки ухудшаются, результаты работы агентов также ухудшаются». 

Себастьян Гирлингер советует периодически очищать память и кэш в среде ИИ, начиная с чистого листа. Когда модели теряют старый контекст, это разрушает сложившийся паттерн. Майкл Круези из Сингапурского технологического института отмечает, что доверие и честность между агентами и менеджерами со временем не укрепляются.

Пределы замены людей

Для многих работодателей умение работать с ИИ-агентами стало обязательным. Томас Лабулль из Toku сравнивает это с требованием уметь пользоваться компьютером или Excel. Но до полной замены людей еще далеко. 

Брэд Сэмс из Stardock Software, который ежедневно работает с 30 агентами, говорит, что они не справляются с творческими проектами. «Мы считаем, что если человек собирается прочитать это — например, маркетинговый материал, — нам нужен сотрудник-человек в Stardock, который написал это или, по крайней мере, просмотрел», — сказал он. 

Майкл Хаусман из консалтинговой компании AI Performance Lab советует «удвоить усилия» в том, что делает людей людьми: умении руководить командой, считывать обстановку, рассказывать истории и сотрудничать.