Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Перевод статьи Simon Sharwood для The Register, 14 сентября 2026.
Разработчики моделей движутся слишком быстро и не переживают, когда что-то ломают.
Simon Sharwood, редактор по APAC. Опубликовано: понедельник, 14 сентября 2026, 06:11 UTC.
Чем больше вы используете ИИ, тем сложнее его контролировать и получать от него возврат инвестиций — так считает аналитическая компания Gartner.
Эту мрачную оценку ИИ компания озвучила на ежегодном IT Symposium: первая сессия проходит в Австралии, затем — в Европе и США.
На австралийском мероприятии ведущие вице-президенты и аналитики Gartner — Daryl Plummer и Kristin Moyer — утверждали, что ИИ и его главные сторонники по-прежнему незрелы.
Комментируя работу с ведущими AI-лабораториями, Plummer сказал:
«Доверять этим вендорам пока нельзя. Они не соответствуют корпоративному уровню. Они не понимают корпоративных условий и положений. Они не понимают корпоративной ответственности. Они не понимают, ну, согласованности и непрерывности в enterprise».
Он указал на практику AI-компаний часто менять модели, по-видимому, не задумываясь о том, как и сломают ли эти обновления приложения, зависящие от их вывода.
«Темп инноваций вышел из-под контроля, и печально то, что вы не можете позволить себе не следовать за ним», — сказал Plummer, — потому что AI-компании ещё не научились поддерживать устаревшие технологии, хотя срок жизни их моделей — около шести месяцев. «Если вы решите остаться на первой версии модели, они не будут уделять вам особого внимания. Одно это уже говорит о том, что они не готовы к enterprise», — добавил он.
Moyer привела исследование Gartner: 86% CIO считают, что риски от ИИ растут быстрее, чем создаваемая им ценность — отчасти потому, что ранние успехи с ИИ порождают спрос на технологию, который IT-отделы не могут безопасно удовлетворить.
Часть этого спроса Moyer назвала «безответственным потреблением» — когда сотрудники используют ИИ легкомысленно или там, где это не нужно и неуместно. Она сослалась на исследование: 40% работников сталкивались с AI-slop («мусорным» AI-контентом), а разбор такого материала в среднем занимает два часа — или $9 млн работы в год в организации на 1000 человек.
Остановить безответственное потребление будет нелегко, сказала Moyer:
«Даже сложно понять, сколько у вас агентов. ИИ проникает в вашу компанию через продукты, которые вы уже используете».
Moyer считает, что у enterprise уже есть опыт борьбы с безответственным потреблением: десятилетие ушло на то, чтобы отучить разработчиков брать самые мощные и дорогие облачные инстансы.
Plummer привёл другой пример контроля использования ИИ — вспомнить альтернативные и проверенные технологии автоматизации. Строить агента для работы с базой данных — глупость: обычный вызов функции справится с задачей не хуже.
Часть безответственного использования ИИ он возложил на вендоров, которые, по его словам, «отчаянно пытаются монетизировать ИИ» — продают продукты с ИИ внутри или просто подталкивают покупать больше токенов. «Вендоры хотят, чтобы вы использовали агентов повсюду», — сказал он.
The Register спросил аналитиков об эффективности AIOps — подхода, при котором вендоры используют агентов для поиска источника проблем и предлагают исправление в один клик.
Plummer назвал такие предложения нечестными. «Они движутся в верном направлении, но с неверными мотивами, — сказал он. — Их цель — продать вам свой продукт, а не подобрать правильное решение, потому что их продукт, скорее всего, не является правильным решением».
Такое поведение, по его словам, типично для цикла продаж новых технологий и проявляется сейчас, когда вендоры создают инструменты управления, обещая безопасный запуск ИИ. Plummer описал рынок таких продуктов как «один из самых фрагментированных, что мы когда-либо видели».
Надёжно, как банк
Два аналитика рекомендовали несколько шагов, чтобы укротить ИИ.
Первый — создать «центральный банк ИИ», ответственный за надзор за использованием ИИ в организации и за её устойчивость с учётом системного влияния технологии.
Ключевая роль такого «банка» — обеспечение подотчётности. С обычными ERP или CRM это просто: они оставляют аудиторский след — кто выполнил или санкционировал действие.
ИИ не всегда оставляет такие доказательства, сказала Moyer.
«Нелегко понять, кого сажать в тюрьму», — пошутила она. «Если у вас нет системы цифровых доказательств для ИИ — задумайтесь об этом!»
Компания также считает, что пользователям ИИ нужна возможность нейтрализовать «бунтующий» ИИ с помощью «агентов-стражей» — ИИ, который только наблюдает за другими агентами и следит, чтобы их поведение оставалось в заданных рамках. Plummer сказал, что такие агенты должны иметь право «убивать» сбойных агентов.
Третья рекомендация — создать команды disaster recovery, которые занимаются разбором завалов, устроенных ИИ.
«Если вас привлекут к ответу, а вы ответите: „Это сделал ИИ“ — вам конец, — сказал он. — CIO будут нести ответственность за провалы ИИ».
Оригинал: Simon Sharwood, The Register, 14 сентября 2026. Полная статья на the register.com.
Комментарии
Оставьте комментарий под своим аккаунтом Telegram — регистрироваться на сайте не нужно.