AI-агенти в компанії: що вони роблять самі і де ламаються
AI-агент це програма, яка отримує мету, сама вирішує, з яких кроків складається робота, і сама ці кроки виконує. Саме цим він відрізняється від чат-бота, який тільки відповідає на питання, і від асистента, який готує чернетку й чекає, поки людина натисне кнопку.
Слово «агент» зараз стоїть майже в кожній презентації, і за ним ховаються дуже різні речі: від розсилки за розкладом до системи, яка сама вирішує, кому й що написати. Нижче розібрано, чим агент відрізняється від сусідніх понять, які три його властивості створюють ризик, три реальні поломки з нашої власної практики і сім питань, які варто поставити до запуску. Це погляд практика, а не безпекова чи юридична консультація.
Чим агент відрізняється від чат-бота і асистента
Різниця не в тому, наскільки розумна модель усередині. Різниця в тому, хто ухвалює рішення і хто натискає кнопку.
| Що це | Хто вирішує, що робити | Хто виконує дію | Ціна помилки |
|---|---|---|---|
| Чат-бот | Людина ставить питання | Ніхто, він лише відповідає | Ви отримали неправильну відповідь і побачили це |
| Асистент | Людина ставить задачу | Людина, після перегляду чернетки | Ви не помітили помилку в чернетці й погодили її |
| Агент | Програма сама, з поставленої мети | Програма сама | Дія вже сталася, і ви дізнаєтесь про це від клієнта |
Практичний висновок простий. Чат-бот помиляється в тексті, агент помиляється в дійсності. Тому питання «наскільки точна модель» для агента другорядне. Первинне питання інше: що саме він має право зробити без людини.
Три властивості, через які агент ризикований
Він діє. Надіслане повідомлення не можна відкликати. Проведений документ уже в обліку. Списані гроші вже пішли. Чат-бот, який помилився, витрачає вашу хвилину. Агент, який помилився, витрачає вашу репутацію перед клієнтом.
Він вирішує сам. Йому дають мету, а не інструкцію. Це його сила: він упорається з випадком, якого ви не передбачили. Це ж і його слабкість: він упорається з ним так, як зрозумів, а не так, як ви мали на увазі.
Він помиляється тихо. Зламаний звіт видно одразу, бо він не відкривається. Агент, який робить не те, працює без жодної помилки в журналі. Він просто робить це впевнено і багато разів.
Де агенти справді працюють
Спільна ознака вдалих випадків одна: результат можна перевірити очима швидше, ніж зробити руками.
- Рутина з чіткою межею: розібрати вхідні листи по темах, зібрати дані з кількох джерел в одну таблицю, підготувати чернетку відповіді.
- Дії, які проходять через погодження людини до того, як стануть незворотними.
- Робота, де помилка коштує дешево і виявляється відразу.
- Однотипні операції, яких багато. Саме там економія стає помітною.
Де вони не працюють
- Там, де дія незворотна: платежі, проведення документів в обліку, повідомлення клієнту.
- Там, де правильність результату неможливо перевірити швидше, ніж зробити роботу самому.
- Там, де правильність залежить від контексту, якого немає в даних. Агент не знає, що з цим клієнтом ви вчора посварились по телефону.
- Там, де немає способу дізнатись про помилку, крім скарги клієнта.
Три поломки з нашої практики
Ми тримаємо кілька агентів у власному CRM: вони обробляють заявки з реклами й нагадують про зустрічі. Нижче три випадки, коли вони зламались. У всіх трьох агент робив рівно те, що йому сказали.
Нагадування щопівгодини. Агент мав один раз нагадати про демо. Відправка стояла всередині транзакції планувальника, і позначка «вже надіслано» зберігалась тільки в кінці. Наступний цикл запускався раніше, ніж позначка лягала в базу, бачив задачу невиконаною і слав те саме повідомлення знову. Людина отримувала його кожні тридцять хвилин.
Нагадування про зустріч, якої не було. Агент шукав у календарі найближчу подію по клієнту і вважав її демонстрацією. У календарі лежали особисті записи менеджера, наприклад «Передзвонити». Клієнт отримав нагадування про зустріч, якої ніхто не призначав.
Один лід приходив нескінченно. Заявки з реклами забирались фільтром «з такого часу», і цей фільтр включав саму позначку часу. Позначка оновлювалась у кінці циклу, а повідомлення в месенджер відправлялось до перевірки на дублікати. Одна заявка приходила знову кожні пʼять хвилин.
Жодна з цих поломок не була помилкою моделі. Усі три були помилками в тому, як агент розумів «я вже це зробив» і «що таке зустріч». Саме там ламаються агенти на практиці, а не в якості формулювань.
Сім питань перед тим, як запускати агента
- Що саме він робить сам, а що лише готує на перегляд?
- Які його дії незворотні і чи стоїть перед ними підтвердження людиною?
- Як він розуміє, що вже виконав цю роботу? Де ця позначка зберігається і в який момент?
- Що станеться, якщо він спрацює двічі на одному й тому самому?
- Звідки він бере контекст і що буде, якщо в тому джерелі сміття?
- Як ви дізнаєтесь про помилку, якщо він не впав, а просто зробив не те?
- Хто його вимикає, і скільки хвилин це займе о десятій вечора?
Якщо на четверте і шосте питання відповіді немає, запускати рано. Ці два ламаються найчастіше.
Як це влаштовано в BAFDIM
Наш інструмент читає базу BAS і не пише в неї. Він відповідає на питання і показує, з яких документів порахував відповідь. Він не агент у тому сенсі, про який ця стаття: він не діє сам і нічого не надсилає від вашого імені.
Це свідоме обмеження, а не незавершена функція. Рішення і дія лишаються за людиною, тому найдорожчий клас помилок, описаний вище, у нього просто відсутній. Детальніше про рівні доступу до бази ми розібрали в окремій статті, а про те, які взагалі бувають AI-рішення для BAS, у цій.
З чого почати
Візьміть одну рутину, у якої результат можна перевірити очима за хвилину, і в якої помилка нічого не ламає незворотно. Запустіть агента на ній так, щоб він готував, а надсилала людина. Поживіть із цим два тижні й порахуйте, скільки разів людина виправила його перед відправкою. Це і буде ваша реальна готовність віддати йому кнопку.
Якщо ви хочете спершу навести лад у цифрах, на яких потім працюватимуть агенти, сформулюйте три питання, відповіді на які ви зараз чекаєте найдовше, і приходьте з ними: демо триває 30 хвилин, на прикладі, близькому до вашої сфери. Хочу побачити демо.
