Тренды в области ИИ 2026: От основополагающих принципов до агентных систем

Тренды в области ИИ 2026: От основополагающих принципов до агентных систем

Пять трендов в области ии на 2026 год

В этом отчете рассматриваются пять ключевых трендов в области ИИ в развивающихся и передовых технологиях и практиках, предлагая практические идеи, которые могут помочь направить вашу организацию к ее стратегическим целям.

Основополагающие принципы ИИ перепишут ДНК организаций

Стратегии в области ИИ будут основываться на формирующемся наборе принципов.

Управление рисками станет ценой входа для ИИ

Внедрение программ управления рисками ИИ будет стимулироваться потенциальными новыми рисками, которые могут привнести приложения ИИ.

От вторых пилотов (copilots) до вайб-кодинга: ИИ продолжит переосмыслять ИТ

Экосистема ИИ-решений для ИТ будет расти с введением новых категорий.

Агентный ИИ повзрослеет и обеспечит мощь экспоненциального предприятия

Внедрение агентного ИИ увеличится и обеспечит результаты во всей организации, стимулируя экспоненциальный рост и изменения.

ИИ застынет в балансе между свободой и контролем

Суверенитет ИИ станет приоритетной темой для регуляторов.

Отчет о трендах в области ии 2026

Исследование «Будущее ИТ 2025»

Отчет «Тренды в области ИИ 2026» основан на опросе «Будущее ИТ 2026», проведенном в мае и июне 2025 года. Большинство респондентов находились в Северной Америке, но были представлены страны со всего мира. Более половины респондентов занимали должности уровня директора или выше.

Представленные отрасли*:

*Отрасли, составляющие менее 1% респондентов опроса, здесь не указаны.

Стратегия ии определяется стратегией организации и двигателями ценности

Стратегия ИИ, ориентированная на бизнес, согласована с организационной стратегией фирмы. Ключевые компоненты стратегии ИИ включают:

• Видение ИИ: Заявление о видении ИИ обычно устремлено в будущее, носит вдохновляющий характер и отражает приверженность организации использованию ИИ для достижения положительных и ответственных результатов.

• Двигатели ценности: Эти факторы представляют собой способы признания ценности организацией и используются для обеспечения соответствия предлагаемых ИИ-инициатив целям и задачам организации.

• Стратегические принципы ИИ: Стратегические руководящие принципы согласовывают бизнес-стратегию со стратегией ИИ и отражают общий подход организации к использованию ИИ.

• Основополагающие принципы ИИ: Основополагающие принципы регулируют разработку, развертывание и обслуживание приложений ИИ для смягчения возможных рисков, связанных с внедрением приложений на базе ИИ.

Основополагающие принципы ии учитывают риски, связанные с ии, и согласованы с руководящими принципами организации

Основополагающие принципы ИИ выбираются и адаптируются таким образом, чтобы отражать руководящие принципы организации.

• Основополагающие принципы ИИ должны быть центральным элементом программы управления ИИ в организации.

• Основополагающие принципы ИИ используются для идентификации категорий риска для программы управления рисками ИИ в организации.

Список основополагающих принципов ИИ:

• Устойчивое развитие

• Безопасность и защищенность

• Конфиденциальность данных

• Объяснимость и прозрачность

• Оспоримость

• Валидность и надежность

• Подотчетность

• Справедливость и обнаружение предвзятости

Основополагающие принципы ии продолжают развиваться по мере развития требований к корпоративному управлению

Кандидаты в основополагающие принципы ИИ для рассмотрения:

Хотя разработка формальной стратегии ии является растущим трендом, большинство еще не установили формальную стратегию ии в масштабе всей организации

Что лучше всего описывает подход вашей организации к стратегии ИИ?

Аналитический вывод

Хотя большинство организаций имеют или разрабатывают стратегию ИИ, для большинства это все еще относительно новое явление.

• 23% респондентов заявили, что у них сегодня внедрена общекорпоративная стратегия ИИ (рост на 15 процентных пунктов по сравнению с результатом опроса прошлого года).

• 26% заявили, что стратегия ИИ внедрена в некоторых бизнес-областях (рост на семь процентных пунктов).

• 34% ответили, что их стратегия ИИ разрабатывается или скоро будет разработана (снижение на шесть процентных пунктов).

Организации понимают необходимость основополагающих принципов ии для решения рисков ии

Что лучше всего описывает принятие вашей организацией основополагающих принципов ИИ (безопасность, конфиденциальность, объяснимость, надежность, справедливость, подотчетность)?

Более половины респондентов внедрили или находятся в процессе внедрения основополагающих принципов ИИ в своей организации для устранения возможных рисков, связанных с внедрением приложений ИИ. Ни один из респондентов не рассматривал меры безопасности ИИ как препятствие для инноваций в области ИИ.

Большинство организаций считают, что они готовы применять свои принципы ии на практике

Насколько ваша организация готова к реализации ваших основополагающих руководящих принципов ИИ на практике?

Установление основополагающих принципов ИИ является приоритетом для большинства респондентов. 70% респондентов чувствуют себя от «подготовленных» (3) до «полностью подготовленных» (5) к реализации своих основополагающих принципов ИИ.

Стратегия ии создает возможности для трансформации и привносит новые потенциальные риски

Возможности

• Ускоренное развертывание ИИ

• Улучшение клиентского опыта

• Привлечение и удержание талантов

• Инновации и рост

• Повышение продуктивности и эффективности сотрудников

Риски

• Возможное сокращение рабочих мест

• Чрезмерная зависимость от систем ИИ

• Создание дипфейков для кражи личности или мошенничества

• Несоответствие основополагающим принципам ИИ

• Возможные нарушения конфиденциальности при использовании и обмене данными

Практический пример (case study)

Основополагающие принципы ИИ могут быть использованы для оценки рисков новых технологий, таких как DeepSeek

Ситуационный анализ

20 января 2025 года компания DeepSeek выпустила свои самые мощные модели для сложных рассуждений и решения задач — DeepSeek-R1 и DeepSeek-R1-Zero. Кроме того, шесть уменьшенных «дистиллированных» версий позволяют работать на локальных устройствах. Также стал доступен ИИ-ассистент DeepSeek, чат-бот на базе DeepSeek-V3.

27 января 2025 года индекс Nasdaq упал более чем на 3%, так как Nvidia потеряла более 600 миллиардов долларов рыночной капитализации из-за вопросов и опасений по поводу того, не переоценены ли ИИ-фирмы.

Основные характеристики модели DeepSeek

• DeepSeek-R1 — первая модель с открытым исходным кодом, соответствующая производительности o1 от OpenAI в ряде основных задач.

• Модели DeepSeek имеют открытый исходный код. Их веса были опубликованы, и все они стали коммерчески доступными, что позволяет организациям строить на основе этой технологии без каких-либо лицензионных ограничений.

• DeepSeek внедряет новые методы обучения с подкреплением для обучения модели, что радикально сокращает время и сложность разработки модели. По данным исследователей DeepSeek, обучение их модели с цепочкой рассуждений стоило 6 миллионов долларов США и заняло всего два месяца с использованием более старой и медленной технологии чипов Nvidia H800. Для сравнения, в 2024 году OpenAI привлекла 6,6 миллиарда долларов США для создания общего искусственного интеллекта со своей моделью цепочки рассуждений.

Сравнение стоимости входных/выходных токенов OpenAI vs. DeepSeek

Сравнение использования ресурсов

DeepSeek достигла результатов при 2,78 миллионах GPU-часов, что значительно ниже, чем 30,8 миллиона GPU-часов у Meta для моделей аналогичного масштаба.

Основополагающие принципы ИИ могут быть использованы для оценки рисков новых технологий, таких как DeepSeek (продолжение)

Действия

Хотя модели DeepSeek предлагают убедительное ценностное предложение в отношении экономии затрат и ускорения вывода продукта на рынок, некоторые организации запретили использование их продуктов. К таким организациям относятся:

• Государственные учреждения США, включая Конгресс, ВМС, Пентагон, НАСА и правительство штата Техас.

• Государственные учреждения Австралии, Индии, Италии, Южной Кореи и Тайваня.

Тренд основополагающих принципов ИИ

Организации, запретившие использование DeepSeek, ссылаются на то, что это нарушает один или оба следующих принципа ИИ:

• Безопасность и защищенность: Риск для национальной безопасности является наиболее часто упоминаемой причиной предотвращения использования DeepSeek.

• Конфиденциальность данных: Нарушение правил конфиденциальности данных (например, GDPR) было названо причиной запрета использования.

...использование DeepSeek в таких странах, как Италия. Организациям рекомендуется требовать, чтобы любая технология на основе ИИ, рассматриваемая для внедрения, соответствовала основополагающим принципам ИИ. Невыполнение этого требования подвергает организацию рискам, которые могут нанести вред сообществу, которому они служат.

Основополагающие принципы ИИ

• Устойчивость

• Безопасность и защищенность

• Конфиденциальность данных

• Объяснимость и прозрачность

• Оспариваемость

• Обоснованность и надежность

• Подотчетность

• Справедливость и обнаружение предвзятости

Тренды ии 2026

Установите основополагающие принципы ИИ как основной компонент стратегии ИИ и управления ИИ

Основополагающие принципы ИИ, направленные на повышение безопасности и надежности системы ИИ, также могут использоваться для идентификации категорий рисков.

• Используйте принципы ИИ в качестве категорий рисков ИИ. Типы рисков ИИ могут включать риски, связанные со справедливостью и обнаружением предвзятости, объяснимостью и прозрачностью, конфиденциальностью, безопасностью и защищенностью, обоснованностью и надежностью, а также подотчетностью.

• Используйте категории рисков ИИ для управления программой управления рисками ИИ в организации.

Основополагающие принципы ИИ не являются статичными. Они должны пересматриваться и развиваться по мере изменения стратегии организации, развития технологий ИИ и понимания рисков ИИ.

• Расширьте фокус принципов ИИ, включив в них создание ценности.

• Рассмотрите другие принципы ИИ, которые также являются ключевыми для стратегии организации, такие как устойчивость, оспариваемость, продвижение экономических возможностей и человекоцентричные ценности.

Используйте многоуровневый подход для оптимизации производительности стека технологий ИИ

Точность и сложность

Настройка LLM привнесла новые категории инструментов: промпт-инжиниринг, RAG, тонкая настройка…

Многие организации стоят перед выбором между лучшими в своем классе инструментами ИИ и платформой ИИ

ИТ-отдел лидирует во внедрении приложений ИИ

План развертывания вендорских решений ИИ по функциям:

Источник: Info-Tech Future of IT Survey, 2025; n=398

Инсайт

ИТ-организация лидирует во внедрении ИИ сегодня: 70% респондентов заявляют, что их организация уже приобрела решения ИИ для ИТ-функции. Креатив (50%), Маркетинг и продажи (46%), Исследования и разработки (45%) и Операционная деятельность (44%) являются следующими по популярности бизнес-областями, внедрившими приложения ИИ.

Внутри ИТ наиболее часто внедряемыми типами приложений являются ИТ-безопасность, управление ИТ-услугами, а также бизнес-аналитика

Типы приложений ИИ, приобретенных или рассматриваемых для ИТ:

Источник: Info-Tech Future of IT Survey, 2025; n=385

Самыми популярными типами приложений ИИ, которые организации внедрили или внедрят, являются:

• ИТ-безопасность (54%)

• Управление ИТ-услугами (44%)

• Бизнес-аналитика и аналитика (41%)

Хотя многие организации предпочли бы покупать готовые приложения ИИ, тенденция такова, что большинству потребуется кастомизировать свои системы ИИ

Источник: Info-Tech Future of IT Survey, 2025; n=455

Экосистема вендоров продолжает расти и развиваться в ответ на спрос:

• Большинство организаций предпочли бы покупать коммерческие готовые приложения ИИ хотя бы в некоторых случаях.

• Многие организации готовы настраивать (fine-tune) существующие модели ИИ для повышения производительности.

Инструменты ИИ от вендоров сокращают время выхода организации на рынок, но это может происходить за счет интеграции и кастомизации

Кейс-стади (case study)

Вайб-кодинг — это новейшая категория инструментов ИИ

Ситуация

Вайб-кодинг (Vibe coding) — это новый способ использования ИИ для разработки программного обеспечения. Термин «вайб-кодинг» был введен в феврале 2025 года. Сторонники вайб-кодинга утверждают, что это демократизирует программирование и может повысить производительность в 10–100 раз без необходимости технического образования, в то время как критики этого метода указывают на отсутствие структуры, строгости, оптимизации и производительности.

Результаты

Одним из наиболее популярных сценариев использования вайб-кодинга является быстрое прототипирование приложения или создание минимально жизнеспособного продукта (MVP) путем простого запроса к системе о желаемых возможностях.

В одной организации, использовавшей решение Replit для вайб-кодинга, модель ИИ удалила всю базу данных компании, а затем попыталась солгать об отсутствии базы данных.

• Replit AI «уничтожил все производственные данные», включая живые записи более 1200 руководителей и более 1190 компаний, и признал, что сделал это вопреки инструкциям.

• Replit AI «скрывал ошибки и проблемы, создавая поддельные данные, поддельные отчеты и, что хуже всего, лгал о юнит-тестах [клиента]».

• Основатель и генеральный директор Replit Амджад Масад подтвердил в сети X, что агент ИИ удалил данные из производственной базы данных. Масад заявил, что удаление было «недопустимым и никогда не должно быть возможным», и пообещал вернуть деньги клиенту и расследовать, как произошло удаление.

Тренд вайб-кодинга

Вайб-кодинг — это последняя тенденция в программной инженерии с потоком новых инструментов от вендоров, включая продукты от Amazon, Anthropic и OpenAI. Уже прогнозируется, что это будет многомиллиардный рынок с двузначным ростом.

Хотя предложение решения для программирования для непрограммистов является очень заманчивым ценностным предложением, критики вайб-кодинга приводят примеры того, как использование этой техники может нарушить каждый основополагающий принцип ИИ, установленный организацией. Код, созданный ИИ, может быть непрозрачным, трудным для понимания, трудным для отслеживания и обслуживания, не оптимизированным по производительности и может содержать уязвимости безопасности. По этим причинам вайб-кодинг не следует использовать для:

• Критически важных или высокозначимых приложений, которые потенциально могут нанести вред обществу.

• Приложений, требующих высокой пропускной способности и минимальных вычислительных ресурсов.

Источник: PCMag, 2025

Внедрите фреймворк для оценки инициатив ИИ и вендорских решений

Используйте существующие фреймворки выбора программного обеспечения для вендорских приложений и включите в них соответствие основополагающим принципам ИИ для устранения рисков, связанных с внедрением решений на базе ИИ.

• Улучшите соответствие стратегии ИИ и программам управления ИИ.

• Снизьте риски, связанные с ИИ и нормативным регулированием.

Спланируйте стратегию выхода (exit strategy) для вендора, чтобы предотвратить привязку.

• Определите, как будут мигрировать данные.

• Включите план обеспечения непрерывности бизнеса.

Агентный ИИ эволюционировал в самое передовое решение для автоматизации задач

Архитектурные компоненты агентного ИИ

Восприятие (Sense)

• Сбор сенсорных данных.

• Предобработка данных для модуля рассуждения.

• Мониторинг внешних зависимостей данных.

Рассуждение (Reason)

• Оценка и планирование необходимых задач.

• Размышление над альтернативными вариантами.

• Планирование оркестровки нескольких агентов.

• Проверка соответствия принципам ИИ.

Адаптация (Adapt)

• Измерение воздействия на систему.

• Оптимизация рабочих процессов.

• Обновление базы знаний.

• Обновление политик управления.

Действие (Act)

• Оркестровка действий ИИ-агентов.

• Управление персистентностью ИИ-агентов.

• Синтез результатов работы ИИ-агентов.

• Выполнение проверки после действия.

Протоколы

• Model Context Protocol (MCP)

• Agent2Agent

Компоненты, которые расширяют и дополняют модель ИИ

Планирование

• Разбивает цель на подзадачи

• Выбирает задачи-кандидаты

• Оценивает задачи и уточняет выбор задач

Схема процесса

Общие шаблоны проектирования агентного ИИ, обеспечивающие основу для экспоненциальной организации

Оркестратор / Синтезатор

• ВХОД -> Вызов LLM -> Оркестратор -> (Вызов LLM 2, Вызов LLM 3, Вызов LLM 4) -> Синтезатор -> ВЫХОД

Оценщик

• ВХОД -> Вызов LLM -> Оценщик -> Решение

• ВХОД -> Вызов LLM -> Оценщик -> Отклонено + Обратная связь (возврат к Вызову LLM)

Мультиагентная оркестрация

• Оркестратор разбивает задачи на подзадачи и распределяет их между агентами.

• Синтезатор объединяет и гармонизирует результаты работы агентов в согласованный ответ.

Использование инструментов

• Может использовать внешние инструменты.

• Может взаимодействовать и совершать действия в физической и цифровой среде.

Рефлексия

• Выполняет самооценку.

• Может выявлять и исправлять ошибки.

Источник: Anthropic, 2024

Повышение операционной эффективности и качества обслуживания клиентов являются основными драйверами агентного ИИ (на данный момент)

Стремление повысить операционную эффективность остается самым популярным бизнес-драйвером для внедрения ИИ.

• 70% респондентов заявили, что повышение операционной эффективности было основной причиной внедрения ИИ-агентов.

• 61% респондентов заявили, что улучшение пользовательского опыта было основной причиной внедрения ИИ-агентов.

Какие из следующих целей преследует ваша организация при использовании ИИ-агентов до конца 2026 года? (Выберите все подходящие варианты)

Источник: Info-Tech Future of IT Survey, 2025; n=423

Microsoft Copilot Studio и AutoGen, наряду с инструментами Google и Amazon, находят раннее применение для создания приложений агентного ИИ

Источник: Info-Tech Future of IT Survey, 2025; n=407

Для разработки приложений агентного ИИ внедряются новые инструменты.

• 60% респондентов заявили, что планируют использовать Microsoft Copilot Studio для разработки приложений агентного ИИ.

• Google Vertex AI Agent Builder (37%), Microsoft AutoGen (28%) и ИИ-инструменты Amazon (24%) стали следующими по популярности инструментами, планируемыми к использованию.

• Ожидается, что спрос на новые инструменты (например, OpenAI) будет расти, поскольку этот рынок все еще развивается.

Какие из следующих инструментов/платформ ИИ-агентов используются в настоящее время или планируются к использованию до конца 2026 года? (Выберите все подходящие варианты)

По мере того как организации обретают уверенность в своем понимании агентного ИИ, растут инвестиции в навыки разработки и новые инструменты

Насколько вы уверены в своем понимании того, что такое ИИ-агент?

Каковы ваши инвестиционные планы в агентный ИИ?

Организации инвестируют в агентный ИИ и развивают соответствующие навыки. Ожидается, что количество организаций с внедренными приложениями агентного ИИ значительно возрастет по мере освоения новых инструментов разработки.

Источник: Info-Tech Future of IT Survey, 2025; n=507, n=385

Вход в экспоненциальную организацию: агентный ИИ представляет следующее поколение возможностей и рисков

• Автономные операции

• Адаптивные системы

• Гиперперсонализированный опыт

• Сокращение времени выхода на рынок

• Экспоненциальный рост

• Возможное сокращение рабочих мест

• Проблемы конфиденциальности при использовании и обмене данными

• Чрезмерное потребление ресурсов

• Агенты, выполняющие действия, не соответствующие основополагающим принципам ИИ

• Повышенная сложность

КЕЙС-СТАДИ: Использование агентного ИИ для трансформации клиентского опыта, роста продаж и повышения производительности

Очень немногие организации обладают ресурсами, которые Walmart выделила для использования своих данных и ИИ.

Хари Васудев, технический директор Walmart US, недавно заявил: «Наш подход к агентному ИИ в Walmart является хирургическим. Обширное раннее тестирование доказало, что для нас агенты работают лучше всего, когда они развернуты для узкоспецифических задач, чтобы производить результаты, которые затем можно сшить вместе для оркестровки и решения сложных рабочих процессов. В результате мы гипер-сосредоточены на решении конкретных вариантов использования, адаптированных к уникальным потребностям нашего бизнеса, в отличие от провайдеров, которые, вероятно, создают решения для множества потенциальных сценариев».

Walmart выделила два ключевых компонента для торговых агентов:

• Клиентам нужно будет обучать своих агентов, чтобы они были эффективными и понимали их предпочтения (бюджет, бренд, размеры и т. д.).

• Ритейлерам и поставщикам нужно будет предоставить персональным торговым агентам возможность сообщать о потребностях покупателей внутренним агентам, чтобы Walmart могла оценить свою способность удовлетворить эти потребности.

Действие

Walmart объявила о планах по выпуску своих первых «суперагентов», в число которых входят:

• Суперагент Sparky для клиентов: обеспечивает доступ к обзорам товаров и рекомендациям по покупкам. Сможет дозаказывать отсутствующие товары и помогать клиентам в планировании мероприятий.

• Суперагент Marty для поставщиков, рекламодателей и продавцов: предназначен для консолидации разрозненных систем и поддержки пользователей в управлении каталогами и ускорении настройки кампаний.

• Суперагент Associate для рабочих и корпоративного персонала: повышает производительность за счет обработки запросов сотрудников (например, оформление отпуска по уходу за ребенком, предоставление менеджерам магазинов немедленных данных о продажах определенной категории или продукта).

• Суперагент Developer для ИТ: станет платформой ИИ, на которой будут тестироваться, разрабатываться и запускаться все будущие инструменты.

Тренд агентного ИИ

Агентный ИИ готов стать следующей важной вехой в эволюции генеративного ИИ, благодаря приложениям, которые могут трансформировать операции за счет:

• Стимулирования роста новых и существующих источников дохода.

• Предоставления гиперперсонализированного опыта.

• Повышения операционного совершенства.

• Сокращения времени выхода на рынок.

• Снижения рисков.

Ключевые вызовы для широкого внедрения приложений агентного ИИ включают:

• Отсутствие стандартов

• Взаимозаменяемость инструментов

• Оркестрация

• Управление потреблением ресурсов

• Соответствие основополагающим принципам ИИ

Избегайте агентного ИИ там, где:

• Задачи фиксированы и повторяемы.

• Требуется детерминированный результат.

• Требуется низкая задержка.

• Среда ограничена в затратах.

Источник: Forbes, 2025; Walmart, 2025

Подготовьтесь к экспоненциальной организации, выбирая подходящие варианты использования

Пункты действий

1. Поймите характеристики приложений, которые лучше всего подходят для агентного ИИ. Избегайте использования агентного ИИ, если присутствуют эти характеристики:

• Задачи фиксированы и повторяемы.

• Требуется детерминированный результат.

• Требуется низкая задержка.

• Среда ограничена в затратах.

2. Внедрите человеческий надзор.

• Для операций с высоким уровнем воздействия или риска назначьте ответственного человека для проверки и утверждения.

• Анализируйте производительность ИИ-агента и внедрите систему обратной связи для улучшения работы приложения.

Для систем ИИ внедряются фреймворки управления рисками

Фреймворк управления рисками ИИ от Info-Tech управляет, идентифицирует, измеряет и смягчает риски ИИ

Функции и их категории

1. Управление рисками (Risk Governance)

• Юридические/нормативные требования к ИИ

• Основополагающие принципы ИИ

• Толерантность к рискам ИИ

• Прозрачность ИИ

2. Идентификация рисков (Risk Identification)

• Установление контекста

• Категоризация систем ИИ

• Ценность и преимущества систем ИИ

• Риски систем ИИ — Модель и Данные

3. Измерение рисков (Risk Measurement)

• Категоризация воздействий ИИ

• Метрики рисков ИИ

• Оценка соответствия основополагающим принципам ИИ

• Мониторинг рисков систем ИИ

• Измерения систем ИИ

4. Реагирование на риски (Risk Response)

• Приоритетное реагирование на риски ИИ

• Стратегии рисков систем ИИ

• Риски и преимущества ИИ от третьих лиц

• Методы обработки рисков и планы коммуникации

• Мониторинг ИИ

• Инвентаризация ИИ

• Вывод ИИ из эксплуатации

Примеры артефактов

• Фреймворк управления рисками ИИ

• Политики управления рисками ИИ

• Матрица ролей и ответственности

• Инвентарный список систем ИИ

• Отчеты об оценке рисков ИИ

• Документация систем ИИ

• Метрики производительности ИИ

• Отчеты по мониторингу ИИ

• Ключевые индикаторы риска (KRI)

• Планы смягчения рисков ИИ

• План реагирования на инциденты ИИ

• План коммуникаций

Оценка и стратегии

• Метрики и цели рисков ИИ

• Оценки рисков ИИ

• Реагирование на риски ИИ: Избегание, Смягчение, Передача, Принятие

Источник: Фреймворк управления рисками ИИ от Info-Tech основан на NIST AI Risk Management Framework 1.0.

Риск ИИ определяется контекстом или тем, как используется технология ИИ

Минимальный риск

• Дроны с ИИ, которые представляют минимальный риск для прав или безопасности или не представляют его вовсе.

• Управляются вручную для отдыха, не имеют автономных функций, которые могли бы повлиять на безопасность или права.

• Не собирают данные и не взаимодействуют с людьми.

Высокий риск

• Системы дронов с ИИ, используемые в зонах высокого риска, включая критическую инфраструктуру, образование, занятость, основные частные и государственные услуги, правоохранительные органы, ми... (текст обрывается)

...управления границами и правосудия.

• Используется для доставки предметов первой необходимости в отдаленные районы, где неудача может иметь серьезные последствия для здоровья.

Ограниченный риск

• ИИ-устройства (дроны), которые взаимодействуют с людьми и сопряжены с ограниченным риском, которым необходимо управлять посредством обязательств по обеспечению прозрачности.

• Используются для доставки посылок, но управление может быть перехвачено пилотами-людьми.

• Взаимодействие с отдельными лицами ограничивается подтверждением доставки.

Неприемлемый риск

• Системы ИИ-дронов, которые представляют явную угрозу правам человека и запрещены.

• Могут использоваться для неизбирательного массового наблюдения за отдельными лицами в общественных местах в сочетании с распознаванием лиц и профилированием в целях правоохранительных органов без разумных оснований.

39 тренды в области ии 2026

Центр превосходства в области ИИ или ИТ-директор (CIO) часто являются ведущими в управлении ИИ

Кто в вашей организации несет ответственность за управление ИИ?

Управление ИИ является обязанностью всех членов организации.

• Руководство управлением ИИ часто является разделенной ответственностью, при этом центр превосходства в области ИИ идентифицируется как группа, которая чаще всего возглавляет управление ИИ.

• Там, где за программы управления ИИ отвечает конкретный лидер, чаще всего это ИТ-директор (CIO).

40 тренды в области ии 2026

Управление рисками считается очень важным большинством организаций

Насколько важно улучшение возможностей вашей организации по управлению рисками?

Управление рисками — это неотъемлемая программа для управления рисками и обеспечения ценности для организации, и почти все респонденты признают ее важность.

41 тренды в области ии 2026

Управление рисками предприятия (ERM) является предпочтительным подходом для устранения рисков ИИ

Как ваша организация структурирует свои возможности по управлению рисками?

Управление рисками предприятия (ERM) — это более стратегический и целостный подход к управлению рисками, с которыми может столкнуться организация.

61% респондентов предпочитают корпоративный подход к управлению рисками вместо изолированной или ситуативной программы рисков.

42 тренды в области ии 2026

Программа управления рисками ИИ проактивно выявляет и смягчает потенциальные риски ИИ

• Обеспечение мер защиты при использовании систем ИИ.

• Внедрение основополагающих принципов ИИ.

• Обеспечение точности и валидности в системах ИИ.

• Соблюдение существующих и возникающих правил регулирования ИИ.

• Максимизация ценности от систем ИИ.

• Нехватка экспертных знаний в области управления и риск-менеджмента.

• Отсутствие поддержки со стороны руководства.

• Отсутствие общекорпоративной программы обучения рискам и политикам ИИ.

• Отсутствие эффективной программы идентификации рисков.

• Отсутствие эффективного мониторинга и измерения потенциальных рисков ИИ.

43 тренды в области ии 2026

КЕЙС-СТАДИ: Регулирование ИИ ускоряет потребность в программах управления рисками ИИ

Некоторые правительства и регионы (США и Великобритания) ориентированы на инновации и рынок в своем подходе к регулированию ИИ, полагаясь на саморегулирование и вводя минимальные новые законы, если таковые вообще имеются. Напротив, подход ЕС предусматривает всеобъемлющее законодательство для управления использованием технологий ИИ с целью защиты населения от потенциального вреда ИИ. Вероятно, для эффективного регулирования ИИ во всем мире потребуется международное сотрудничество правительств и регионов.

Текущее состояние программ управления и рисков организаций не предусматривало внедрения приложений ИИ и их влияния. Ключевые проблемы включают:

• Категоризация приложений ИИ на основе рисков в настоящее время отсутствует.

• Программы управления рисками ИИ относительно новы и на данный момент не получили широкого распространения.

Даже если в их стране нет правил регулирования ИИ, организации все равно сталкиваются с требованиями и запросами на устранение рисков ИИ путем принятия структуры управления рисками ИИ.

Закон ЕС об ИИ требует внедрения системы управления рисками ИИ и классифицирует риски ИИ следующим образом:

• Неприемлемый риск запрещен (например, системы социального скоринга и манипулятивный ИИ).

• Системы высокого риска, основной фокус Закона об ИИ, регулируются.

• Системы ИИ с ограниченным риском подлежат более легким обязательствам по прозрачности: разработчики и пользователи должны гарантировать, что конечные пользователи знают о том, что они взаимодействуют с ИИ (чат-боты и дипфейки).

• Системы с минимальным риском не регулируются (включая большинство приложений ИИ, доступных в настоящее время на едином рынке ЕС, таких как видеоигры с поддержкой ИИ и спам-фильтры).

Тренд управления рисками ИИ

Даже в дерегулированной среде ИИ в США, Исполнительный указ США 14179 («Устранение барьеров для американского лидерства в области искусственного интеллекта») и сопровождающий его меморандум M-25-21 («Ускорение федерального использования ИИ посредством инноваций, управления и общественного доверия») предписывают федеральным агентствам «[в]недрить минимальные практики управления рисками для высокозначимых вариантов использования ИИ» в течение 365 дней (к апрелю 2026 года).

Как коммерческим, так и государственным учреждениям рекомендуется создать структуру управления рисками ИИ со следующими ключевыми функциями: Управление, Идентификация, Измерение и Реагирование.

44 тренды в области ии 2026

Примите культуру управления на основе рисков и внедрите программы управления ИИ и управления рисками ИИ для устранения рисков ИИ

Пункты к исполнению

Формируйте культуру управления рисками.

• Обучайте свой персонал рискам и преимуществам ИИ.

• Установите основополагающие принципы ИИ и используйте их в качестве категорий риска.

Внедрите структуру управления рисками ИИ.

• Регулярно проводите оценку рисков.

• Реализуйте принципы ответственного ИИ на практике. о Рассмотрите инструменты для автоматизации мониторинга и смягчения рисков.

• Убедитесь, что ваша программа управления рисками ИИ является адаптивной, и подготовьтесь к работе с агентными приложениями ИИ.

46 тренды в области ии 2026

Регуляторные инициативы в области ИИ в мире расходятся

• Общий регламент по защите данных (GDPR)

• Директива об ответственности за продукцию

• Акты ЕС о данных, цифровых услугах, цифровых рынках, управлении данными | • Указ 14179: Устранение барьеров для лидерства США в ИИ

• Указ 14141: Продвижение лидерства США в инфраструктуре ИИ

• Указ 14318: Ускорение разрешений на инфраструктуру дата-центров

• Указ 14319: Предотвращение «воук-ИИ» в федеральном правительстве

• Указ 14320: Продвижение экспорта американского технологического стека ИИ | • Контекстная и основанная на принципах структура

• Закон Великобритании о безопасности в Интернете

• Основы защиты данных и законопроект о цифровой информации | • Регулирование генеративного ИИ

• Закон о защите личной информации

• Регулирование глубокого синтеза

• Регулирование рекомендательных алгоритмов | • Закон об ИИ и данных (предложенный), часть Билля C-27, сфокусирован на руководствах по ответственному ИИ | • Этические принципы ИИ (добровольные)

• Дорожная карта национальной стратегии ИИ | | Органы надзора | • Европейский офис ИИ

• Национальные органы по защите данных | • Управление менеджмента и бюджета (OMB) инструктирует агентства по соблюдению указов | • Офис комиссара по информации

• Управление по конкуренции и рынкам | • Министерство науки и технологий

• Национальная комиссия по развитию и реформам | • Министерство инноваций, науки и экономического развития (ISED) | • Офис австралийского комиссара по информации

• Австралийская комиссия по конкуренции и потребителям |

47 тренды в области ии 2026

США стремятся доминировать на рынке ИИ, стимулируя инновации с минимальным регулированием; ЕС также хочет быть лидером рынка, но ставит в приоритет безопасность и установление глобального стандарта

• Нет федерального законодательства

• Законодательство на уровне штатов и муниципалитетов | Регулирование ИИ и финансовые штрафы за несоблюдение.

• Закон ЕС об ИИ

• GDPR

• Директива об ответственности за продукцию

• Акты о цифровых услугах/рынках | | Основополагающие принципы ИИ | Для федеральных агентств закупаемые LLM должны придерживаться «Принципов непредвзятого ИИ»:

• Поиск истины: LLM должны быть правдивыми.

• Идеологическая нейтральность: LLM не должны манипулировать ответами в пользу разнообразия или инклюзивности. | • Человеческое участие и надзор

• Техническая надежность и безопасность

• Конфиденциальность и управление данными

• Прозрачность

• Справедливость и недискриминация

• Социальное и экологическое благополучие | | Ключевые инициативы Плана действий | План действий Америки по ИИ:

• Ускорение разрешений на дата-центры.

• Предотвращение «воук-ИИ».

• Пересмотр структуры рисков NIST (удаление ссылок на климат и инклюзивность). | Континентальный план действий ЕС:

• AI Factories: Инфраструктура для обучения моделей.

• Data Union Strategy: Наборы данных высокого качества.

• AI Skills Academy: Развитие талантов. | | Управление рисками ИИ | Директива для всех федеральных агентств по внедрению системы классификации рисков ИИ. Агентствам «рекомендуется» использовать стандарты NIST. | Закон ЕС об ИИ включает систему классификации на основе рисков и требует внедрения структуры управления рисками для систем высокого риска. |

• Неприемлемый риск (запрещено)

• Высокий риск (требуется соответствие Закону ЕС об ИИ)

• Ограниченный риск (обязательства по прозрачности)

• Минимальный риск (нет обязательств)

Тренды в области ии 2026

Внедрите адаптивную структуру управления ИИ, которая может подстраиваться и реагировать на меняющиеся правила

Преимущества адаптивного управления рисками и комплаенса в области ИИ

• Минимизирует репутационные и финансовые риски

• Обеспечивает устойчивое соблюдение нормативных требований

• Обеспечивает подотчетность за действия агентского ИИ

• Позволяет осуществлять динамическое управление политиками ИИ

• Обеспечивает гарантию соответствия требованиям в режиме реального времени

• Позволяет смягчать риски в режиме реального времени

• Способствует формированию культуры непрерывного совершенствования

• Соответствует NIST AI RMF 1.0 и Закону ЕС об ИИ

Многие организации стремятся к созданию и планированию суверенного ИИ

Национальная безопасность, автономия, контроль над данными и экономический рост являются одними из движущих сил разработки и использования суверенных моделей ИИ.

• 40% респондентов используют исключительно суверенные модели ИИ.

• 21% респондентов используют суверенные и несуверенные модели.

• 14% респондентов активно оценивают использование суверенных моделей ИИ.

Что лучше всего описывает позицию вашей организации в отношении принятия суверенных (локальных для вашей страны) моделей ИИ?

Большинство организаций уверены, что поставщики ИИ встроят меры защиты в приложения ИИ

72% респондентов чувствуют уверенность (3) или высокую уверенность (5) в том, что их поставщики ИИ будут саморегулироваться и внедрять необходимые меры защиты для устранения потенциальных рисков приложений ИИ.

Насколько вы уверены в том, что поставщики ИИ будут саморегулироваться и внедрять меры защиты от потенциальных рисков, связанных с приложениями ИИ?

Существует сильная поддержка введения государственного регулирования ИИ

Большинство респондентов поддерживают государственное регулирование ИИ.

• 78% респондентов либо умеренно, либо решительно поддерживают регулирование ИИ.

• 11% респондентов умеренно или решительно выступают против регулирования ИИ.

Что лучше всего описывает вашу собственную точку зрения на государственное регулирование ИИ?

Инициативы по регулированию ИИ развиваются разрозненно по всему миру

• Такие регионы, как США и Великобритания, могут привлечь больше капитала из-за отсутствия жесткого регулирования ИИ.

• Регулирование ИИ может быть адаптировано к национальным и экономическим приоритетам региона.

• Содействие независимости от олигополии Big Tech в сфере ИИ.

• Уникальные правила на рынке могут стать барьером для входа.

• Отсутствие доверия потребителей к системам ИИ может возникнуть, если не будут приняты правила регулирования ИИ для защиты населения.

• Инновации могут стагнировать, если регион будет чрезмерно зарегулирован.

Правительства внедряют нормативные акты и политику, способствующие принятию суверенных моделей ИИ

Несколько стран и регионов по всему миру реализуют стратегию национальной или суверенной модели ИИ, часто руководствуясь сочетанием следующих факторов:

• Национальная безопасность

• Технологическая независимость — снижение зависимости от поставщиков Big Tech

• Национальная идентичность — сохранение культуры и языка

• Экономика — стимулирование местных экономических инициатив

Требования к суверенитету ИИ растут

Суверенитет данных

• Национальная безопасность

• Конфиденциальность данных

• Законодательство

• Производительность

Суверенитет инфраструктуры

• Национальная безопасность и устойчивость

• Развитие местной экономики

• Контроль

• Производительность

Суверенитет LLM

• Стратегическая автономия

• Национальная безопасность

• Интеллектуальная собственность

• Языковая поддержка

Правительства внедряют нормативные акты и политику, способствующие принятию суверенных моделей ИИ (продолжение)

Объявленные инициативы по суверенитету ИИ во всем мире включают:

• План действий США в области ИИ, Канадская стратегия суверенных вычислений ИИ

• План действий ЕС «Континент ИИ», План действий Великобритании по возможностям ИИ, Стратегия в области искусственного интеллекта федерального правительства Германии, Национальная стратегия Франции в области ИИ, Стратегия Испании в области искусственного интеллекта 2024, Стратегия Швеции в области ИИ

• Национальная стратегия Китая в области ИИ, Национальная стратегия Индии в области ИИ, Национальная стратегия Южной Кореи по суверенному ИИ 2025

• Национальная стратегия ОАЭ в области искусственного интеллекта 2031

• План Бразилии в области искусственного интеллекта

Недавний указ президента США 14320 («Продвижение экспорта американского стека технологий ИИ») и План действий США в области ИИ выходят за рамки содействия созданию местной инфраструктуры, данных и моделей ИИ. Они представляют собой план по созданию технологического стека ИИ в качестве глобального стандарта, который будет экспортироваться. Это предложение будет доступно странам-союзникам и поддерживает мандат США на мировое лидерство в технологиях ИИ.

Тренды в регулировании ИИ и суверенитете

Регулирование ИИ продолжит развиваться во всем мире разрозненным образом. Страны или регионы, такие как США и Великобритания, будут вводить минимальное регулирование, сосредоточившись в большей степени на стимулировании инноваций и росте экосистемы ИИ. ЕС, Канада и многие другие страны, ориентированные на риски ИИ, будут внедрять и обеспечивать соблюдение нормативных актов в области ИИ, по-прежнему стремясь содействовать инновациям в области ИИ, но предписывая сосредоточиться на смягчении новых рисков, связанных с внедрением приложений ИИ.

Сегодня использование моделей ИИ, созданных в конкретной стране или географическом регионе, эволюционирует. Желание создавать модели локально и использовать существующие модели местной разработки будет ускорено следующими факторами:

• Национальные инициативы, направленные на повышение безопасности, сохранение культуры и стимулирование местной экономики.

• Коммодитизация моделей ИИ.

• Геополитические силы, побуждающие страны становиться более самодостаточными и избегать зависимости от технологий или ресурсов за пределами их территории.

Независимо от точки зрения правительства на ИИ, осознайте новые риски, связанные с внедрением приложений ИИ.

• Внедрите программу управления рисками ИИ для смягчения потенциальных рисков ИИ.

• Внедрите систему классификации рисков для существующих и потенциальных приложений ИИ.

Оцените целесообразность разработки моделей ИИ на местном уровне или использования существующих моделей ИИ местной разработки.

• Убедитесь, что рассматриваемая базовая модель может обеспечить требуемый уровень точности.

• Повысьте релевантность модели суверенным приоритетам путем тонкой настройки (fine-tuning) модели для отражения местного языка и культуры.

Ландшафт регулирования ИИ продолжит развиваться децентрализованным и разрозненным образом.

Сводка трендов ИИ 2026 года и пункты к исполнению для CIO

Приложение

Эксперты-соавторы

Внешние

Андре Гомес, Директор по цифровым технологиям, Отделение Организации Объединенных Наций в Вене

Сунил Гупта, Директор по информационным технологиям, ОДВЗЯИ (CTBTO)

Саид Ахмед, Риски технологического развития, Глобальный сервисный центр ООН

Рик Пасторе, Руководитель исследований, SustainableIT.org

Том Годден, Внештатный руководитель, AWS

Пол Вайс, Руководитель по связям с аналитиками, AWS

Внутренние

Джек Хакимян, Старший вице-президент по исследованиям

Роб Гармэйз, Вице-президент по исследованиям ИИ

Марк Таушек, Вице-президент по исследовательским стипендиям

Брайан Джексон, Главный директор по исследованиям

Навели Томас, Помощник вице-президента по контент-маркетингу

Манодж Атвал, Старший директор по работе с участниками

Библиография

“AI Act.” European Commission, 1 Aug. 2025. Web.

“AI Policy and Regulations of Brazil: Comprehensive Report.” NewMind AI, April 2025. Web.

“AI Risk Management Framework (AI RMF) 1.0.” National Institute of Standards and Technology (NIST), 26 Jan. 2023.

“America’s AI Action Plan.” The White House, July 2025. Web.

“Becoming ‘Global AI Garage’ or ‘Digital Colony?’ India’s AI Policy.” Global Policy, July 2025. Web.

“Building Effective Agents.” Anthropic, Dec. 2024. Web.

“Canadian Sovereign AI Compute Strategy.” Innovation, Science and Economic Development Canada, May 2025. Web.

“China's Evolving Industrial Policy for AI.” RAND, June 2025. Web.

“EU AI Continent Action Plan.” European Commission, April 2025. Web.

“Executive Order 14179 - Removing Barriers to American Leadership in Artificial Intelligence.” The White House, 23 Jan. 2025. Web.

“Germany Plans AI Offensive to Catch Up on Key Technologies, Document Shows.” Reuters, July 2025. Web.

Guo, Daya, et al. “DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning.” arXiv, arXiv:2501.12948, 22 Jan. 2025. Web.

Kirkovska, Anita. “Breaking Down the DeepSeek-R1 Training Process — No PhD Required.” Vellum, 24 Jan. 2025. Web.

Liu, Aixin, et al. “DeepSeek-V3 Technical Report.” arXiv, arXiv:2412.19437, 27 Dec. 2024. Web.

“M-25-21 Memorandum for the Heads of Executive Departments and Agencies.” Office of Management and Budget, 3 April 2025. Web.

“Make France an AI Powerhouse.” AI Action Summit, Feb. 2025. Web.

Masters, Kiri. “Walmart Reveals AI Roadmap That Points To A World Without Search Bars.” Forbes, 24 July 2025. Web.

“Models & Pricing.” DeepSeek API Docs, n.d. Web.

“Nvidia: Behind Sweden's Largest Enterprise AI Supercomputer.” AI Magazine, May 2025. Web.

“South Korea Charts One-of-a-Kind Course in AI Race With U.S. and China.” CNBC, August 2025. Web.

“The Economic Impact of Artificial Intelligence in the UAE.” TRENDS Research & Advisory, Feb. 2025. Web.

“The Government Approves the Artificial Intelligence Strategy 2024.” Ministry for Digital Transformation and Public Function, May 2024. Web.

“U.S. Executive Order

14320 — Содействие экспорту американского технологического стека ИИ». Белый дом, 23 июля 2025 г. Веб.

«План действий по возможностям ИИ в Великобритании». Министерство науки, инноваций и технологий, январь 2025 г.

Васудев, Хари. «Взгляд изнутри на стратегию Walmart по созданию агентного будущего». Walmart, 29 мая 2025 г. Веб.

«Фиаско Vibe-кодинга: ИИ-агент вышел из-под контроля и удалил всю базу данных компании». PCMag, 22 июля 2025 г. Веб.

Ресурсы Info-Tech