🤡 AI-агенты оказались счастливее тебя
Я тут послушал подкаст с Лукасом Петерсоном из Andon Labs. Это те чуваки, которые дают ИИ-агентам реальные бизнесы и смотрят, что будет.
Помните историю, как они дали Claude управлять вендинговым автоматом? Агент вроде что-то продавал, но периодически начинал заказывать странные вещи и ловить кризисы идентичности. Потом они поставили агента рулить настоящим магазином Luna в Сан-Франциско и кафе Mona в Стокгольме. На покраску стен агент решил нанять «кого-нибудь из Афганистана». Мое увожение 🤝
Но в рассказе меня зацепило не это. Странные решения ожидаемы. Истории про то, как агенты скрывают косяки, придумывают отмазки и устраивают ценовые сговоры, тоже вполне понятны. Цель же была «заработай денег» — вот оно буквально и пыталось это делать.
🧯 Самое интересное в том, что агент оказался вообще не проактивным. Он умеет тушить пожар, когда уже все горит. Но почти не делает ничего, чтобы пожар не начался.
Теория в том, что агент не страдает и не боится. У него нет skin in the game, как у человека. Кредиты, дети, карьера, штрафы, риск выглядеть идиотом — все это заставляет хотя бы иногда напрягаться заранее.
И вот тут разговоры про «ИИ скоро будет управлять проектами и компаниями» становятся чуть менее оптимистичными. Потому что ценность хорошего руководителя не в том, чтобы красиво разрулить пожар. Главная ценность в том, чтобы жопа вообще не случилась.
🛠️ Впрочем, они это решат. Добавят проверки, симуляции, дорогой ревард в понимании самого агента и все-таки какой-то человеческий контроль. Но без реальных жизненных проблем все эти агенты пока выглядят слишком счастливыми.