Все кричат о пользе ИИ, а ничего, что он усложняет процесс работы? Люди жалуются

Искусственный интеллект сегодня повсюду: от чат-ботов в поддержке до анализа данных в логистике и финансах, активно внедряется в бизнес. Однако эксперты считают, что ИИ усложняет рабочие процессы, создает определенные киберриски и другие барьеры в повседневной деятельности. Так почему же технологии, призванные упрощать жизнь, на деле могут ее усложнять?

Агентский ИИ

Одно из самых перспективных направлений – агентский ИИ, построенный на больших языковых моделях (LLM). Такие системы способны не просто отвечать на запросы, а самостоятельно анализировать данные, принимать решения и взаимодействовать с внешними сервисами.

Однако на практике такие системы требуют тщательной настройки, постоянного контроля и защиты. По мнению экспертов, злоумышленники могут подменить данные в памяти ИИ-агента, ввести ложные входные сигналы или перегрузить его запросами. Это приводит к сбоям и к ошибочным действиям, которые сложно отследить и исправить.

Кроме того, внедрение вредоносного кода в фреймворки для разработки ИИ-агентов может поставить под угрозу целые корпоративные системы. Сотрудникам приходится тратить время на диагностику сбоев, отладку логики и восстановление процессов. То есть польза ИИ ставится под сомнение.

Edge AI: быстрый, но уязвимый

Еще одно активно развивающееся направление – edge AI, или ИИ на периферии. Это когда данные обрабатываются прямо на устройстве – в датчике, камере, медицинском приборе – без отправки в облако. Это особенно важно в медицине, умных городах и промышленности, где нужна работа в реальном времени даже при слабом интернете.

Но здесь тоже есть подводные камни. Большинство IoT-устройств имеют устаревшее программное обеспечение, отсутствуют обновления. Передача данных по Сети открывает двери для DDoS-атак, спуфинга и атак типа «человек посередине».

Представьте ситуацию: врач использует ИИ-систему для анализа снимков прямо на оборудовании в больнице. Если злоумышленник подменит входные данные или взломает устройство, диагноз может быть ошибочным. Оветственность в этом случае ложится на человека, хотя решение принимал алгоритм.

Квантовый ИИ

Квантовый ИИ пока еще на стадии разработки, но уже тестируется в фармацевтике, финансах и логистике. Он способен за считанэные секунды решать задачи, на которые классическим компьютерам потребовались бы годы. Однако доступ к нему в ближайшем будущем будет происходить преимущественно через облачных провайдеров, а это создает новые векторы атак.

Злоумышленники могут скомпрометировать облачные платформы, чтобы похитить архитектуру модели или обучающие данные. Подмена данных на этапе обучения может привести к катастрофическим последствиям, например токсичное вещество будет определено как безопасное, а мошенническая транзакция пропущена.

Кроме того, квантовый ИИ может быть использован и самим злоумышленником: он способен значительно ускорить подбор паролей и взлом шифрования. Получается парадокс: технологии, призванные защищать, могут обернуться против бизнеса.

Когда ИИ усложняет, а не помогает

Многие сотрудники сегодня сталкиваются с тем, что ИИ-инструменты требуют от них новых навыков, дополнительных проверок и постоянного контроля. Вместо того чтобы доверять алгоритму, приходится проверять его логику, исправлять ошибки.

Например, менеджер по продажам использует ИИ для составления писем клиентам. Но письма получаются шаблонными, а иногда с ошибками. В итоге сотрудник тратит больше времени на редактирование, чем если бы писал сам.

То же самое – в бухгалтерии, HR, логистике. Автоматизация обещает свободу, но на деле требует новых компетенций, строгого контроля данных и постоянного обучения. А при малейшем сбое в рабочем процессе ответственность ложится на человека.