Згідно з прогнозом Gartner, до кінця 2028 року витрати на робочі процеси з використанням автономного ШІ (Agentic AI) зростуть більш ніж у п’ять разів через перехід користувачів до складніших сценаріїв застосування цієї технології, пише The Register.
Поки Nvidia та інші технологічні гіганти просувають інференс та ШІ-агентів як наступний етап хвилі штучного інтелекту, Gartner попереджає: вартість упровадження таких систем зростатиме навіть за умов здешевлення базових моделей.
Аналітики дослідили молодий ринок ШІ-агентів — систем, здатних діяти автономно для досягнення поставленої мети — і бачать попереду чимало викликів.
Якщо навіть залишити поза увагою суттєві ризики для безпеки, такі програмні агенти значно складніші за звичайних чат-ботів.
У Gartner переконані, що падіння цін на моделі спонукає будувати заплутаніші робочі процеси. Проте підвищене споживання токенів у таких процесах перекриває економію від низьких тарифів і веде до зростання загальних витрат на інференс.
Іншими словами, токени стають вигіднішими за ціною, але ця економія не встигає за подорожчанням просунутих ШІ-можливостей. Темпи інновацій випереджають криву зниження витрат.
«Сувора економіка „парадоксу інференсу“ чітко проявляється у різниці між простим чат-ботом і ШІ-агентом. Якщо простий чат-бот має лише прочитати й витлумачити запит та швидко видати ймовірно правильну відповідь, то ШІ-агент змушений постійно міркувати, вести переговори та піддавати власні кроки сумніву,» — зазначає старший директор-аналітик Gartner Вілл Соммер.
Усі ці процеси накопичуються: перенаправлення завдання до агентної моделі міркування збільшує витрати на інференс щонайменше вп’ятеро, а з ускладненням завдання — ще більше.
Для окупності таких інструментів потрібна або значно більша віддача, ніж від базових моделей, або краща оптимізація інференсу, маршрутизації та оркестрації. Це передбачає призначення кожного завдання найбільш оптимальній за ціною та можливостями моделі.
Перехід деяких провайдерів від фіксованої передплати до оплати за фактичне використання лише ускладнив ситуацію. Сценарії з високим споживанням токенів за такої моделі призводять до неконтрольованого зростання чека.
Не дивно, що раніше цього року Gartner спрогнозувала: близько 40% організацій згорнуть або знімуть з експлуатації своїх ШІ-агентів через проблеми з цією розпиареною технологією.
Нагадаємо, що у червні Gartner спрогнозувала, що вже до 2028 року інструменти для ШІ-кодингу можуть коштувати більше, ніж середня зарплата розробника.
/
Здешевлення токенів не врятує ситуацію, коли складні робочі процеси споживають їх у рази більше, застерігає аналітична компанія Gartner.
