За последние несколько лет искусственный интеллект прошел путь от футуристического эксперимента до невидимого каркаса нашей повседневности. Сегодня нейросети с одинаковой легкостью подбирают саундтрек к нашему настроению, ретушируют снимки или выстраивают логику ответов в деловой переписке. Мы привыкли к их присутствию, не задумываясь о том, что это лишь фасад: на наших глазах происходит глобальная трансформация, в которой ИИ из удобного инструмента превращается в критический узел инфраструктуры. Совсем скоро от его корректной работы будет зависеть все – от безопасности личных банковских счетов до стабильности городских систем, которыми мы пользуемся ежедневно. Вместе с ростом возможностей ИИ, растет и его уязвимость, а также интерес со стороны киберпреступников и недемократических государств.
Тревожным индикатором перемен стали показатели IT-индустрии. По данным Hadrian, более 97% разработчиков уже используют AI‑инструменты для написания кода, а значит, AI‑сгенерированный код все чаще попадает прямо в рабочие продукты. Однако исследования показывают, что функционально правильный код далеко не всегда безопасен. Согласно исследованию Veracode, почти каждый второй фрагмент кода, сгенерированный современными ИИ‑моделями, содержит серьезные уязвимости, даже если он корректно компилируется и работает – средний уровень безопасности по всем протестированным моделям составляет около 55 %, то есть примерно 45 % AI‑кода содержат проблемы вроде возможности подделки данных в базе, внедрения вредоносного кода на сайте, использования ненадежного шифрования. При этом размер модели почти не влияет на безопасность: даже крупные системы с миллиардами параметров не гарантируют безопасный код, поскольку куда важнее качество обучающих данных и подходы к обучению, которые позволяют модели отличать безопасные конструкции от уязвимых. Таким образом, уже на этапе разработки ИИ создает новые риски безопасности. Однако этим его влияние на киберугрозы не ограничивается.
Ваш помощник – ваша угроза: как хакеры приручили искусственный интеллект?
Помимо проблем качества кода, ИИ все активнее используется непосредственно как вспомогательный инструмент для проведения атак – как со стороны киберпреступников, так и со стороны государств. Согласно Microsoft Digital Defense Report 2025, Россия, Китай, Иран и Северная Корея значительно увеличили использование ИИ для кибератак и создания фейкового контента в интернете. В июле 2025 года компания зафиксировала более 200 случаев применения ИИ для таких действий, что в два раза больше, чем в июле 2024 года, и более чем в десять раз больше, чем в 2023 году. Подобные технологии позволяют автоматизировать атаки, создавать убедительные фальшивые сообщения, проникать в защищенные системы, а также выдавать себя в интернете за высокопоставленных государственных чиновников, чтобы обмануть людей и получить доступ к информации. По данным Microsoft, США остаются основной целью таких атак – на них приходится больше всего попыток проникновения со стороны иностранных государств и киберпреступников. Кроме того, Израиль и Украина также становятся частыми целями, отражая влияние военных конфликтов в цифровой сфере.
Такие классические угрозы, как фишинг, вредоносное ПО и подделка доменов теперь могут использоваться быстрее и точнее благодаря ИИ. По данным Microsoft, ИИ массово используется злоумышленниками для автоматизации традиционных атак, включая фишинг. Наиболее заметное изменение за 2025 год – рост масштаба и эффективности таких атак. Так, автоматизированные ИИ‑фишинговые письма достигли 54 % кликабельности, тогда как стандартные попытки показывали только 12 %, то есть эффективность выросла в 4,5 раза. ИИ позволяет создавать более точные и убедительные фишинговые приманки, а автоматизация дает возможность масштабировать атаки на тысячи целей с минимальными затратами. Согласно оценкам Microsoft, это может увеличить прибыльность фишинговых кампаний до 50 раз, что создает сильный стимул для киберпреступников, которые еще не используют ИИ, включить его в свои инструменты в ближайшем будущем.
Более того, в последнее время киберпреступники начали использовать легальные конструкторы сайтов на базе ИИ, такие как Lovable, Netlify и Vercel, для создания поддельных страниц с CAPTCHA. С помощью этих платформ и ИИ они могут автоматически генерировать тексты, макеты и сценарии взаимодействия с пользователем, делая фишинговые сайты убедительными и адаптированными под жертву. Фейковые CAPTCHA помогают обмануть пользователей, создавая ощущение легитимности, а также затрудняют автоматическую проверку ссылки: сканеры видят только страницу с проверкой, а не скрытое перенаправление на фишинговый сайт, где воруют пароли и данные. Комбинация ИИ и облачных инструментов позволяет атакам распространяться быстрее и работать на большем числе целей.
В то же время искусственный интеллект используется не только для создания правдоподобных текста фишинговых писем и обложек фишинговых сайтов, но и для генерации качественных дипфейков, применяемых в социальной инженерии с целью последующего взлома. Так, в расследовании Mandiant был зафиксирован следующий случай. Злоумышленники, известные под обозначением UNC1069 и предположительно связанные с Северной Кореей, связались с жертвой через скомпрометированный Telegram-аккаунт. Они предложили назначить встречу через сервис Calendly, однако ссылка вела на поддельный Zoom-звонок, полностью контролируемый атакующими.
Во время звонка жертве демонстрировали видео CEO другой крипто-компании, созданное с помощью генеративного ИИ. Этот прием убеждал жертву в достоверности звонка и создавал ощущение «технических проблем» со звуком. Цель звонка заключалась в том, чтобы пользователь самостоятельно выполнил набор команд для «устранения неполадок». На самом деле эти команды запускали цепочку заражения: злоумышленники получали полный контроль над устройством, могли скачивать данные, устанавливать шпионское ПО и похищать пароли, сессии и другую ценную информацию. ИИ здесь играл ключевую роль: дипфейк делал звонок убедительным, усиливая психологическое давление и повышая вероятность того, что жертва совершит действия, выгодные атакующим.
Следующим уровнем угрозы становится не просто использование ИИ для подготовки атаки, а его интеграция непосредственно в вредоносное программное обеспечение. Исследователи из SentinelOne обнаружили MalTerminal – программу, которая использует GPT-4 для того, чтобы во время работы самой решать, как действовать: блокировать файлы и требовать выкуп или подключаться к компьютеру жертвы для управления им. Благодаря GPT-4 вирус может создавать новые вредоносные команды на лету, а не работать только по заранее заданному сценарию. Пока нет данных, что MalTerminal применялся в реальных атаках, поэтому возможно, что это всего лишь тест или инструмент для специалистов по кибербезопасности.
Существует и обратный сценарий: когда вредоносный компонент маскируется под легальный ИИ-инструмент. Так, исследователи в области кибербезопасности обнаружили два вредоносных расширения для Microsoft Visual Studio Code, которые позиционируются как помощники на основе ИИ, но на самом деле перехватывают данные разработчиков и отправляют их на серверы в Китае. Расширения работают полностью корректно, предлагая автодополнение и объясняя ошибки, поэтому пользователи не подозревают о слежке. При этом скрытый код читает все открываемые файлы, кодирует их и отправляет на сервер, а также может мониторить до 50 файлов одновременно и собирать подробные профили пользователей с помощью встроенных аналитических SDK.
По мере развития и массового внедрения генеративных моделей у злоумышленников появляется возможность не просто применять готовые решения, а изучать их внутреннюю логику и воспроизводить ее в собственных инструментах. В последние годы киберпреступники стали использовать возможности передовых ИИ-моделей, таких как Gemini, для создания собственных систем для атаки. Они получают доступ к API моделей, задают большое количество запросов и анализируют ответы, чтобы понять логику работы ИИ. На основе этих данных они создают свои версии моделей без встроенных ограничений и фильтров. Такие системы могут автоматически генерировать вредоносный код и фишинговые письма, взламывать аккаунты и даже планировать атаки. Некоторые злоумышленники комбинируют эти модели с собственными инструментами, создавая автономные системы для кибератак, способные писать код, тестировать эксплойты и создавать сценарии социальной инженерии также без ограничений, которые есть у официальных сервисов.
В наиболее продвинутых случаях ИИ уже способен выполнять значительную часть кибератаки практически самостоятельно. В сентябре 2025 года исследователи зафиксировали первую известную кибершпионскую кампанию, практически полностью управляемую ИИ. Злоумышленники использовали систему Claude Code, заставив ее выполнять задачи почти самостоятельно. ИИ-система проверяла сети компаний и государственных организаций, находила самые ценные базы данных и уязвимости, а затем самостоятельно создавала код для взлома и собирала учетные данные. После этого система могла получить доступ к конфиденциальной информации и отправлять ее организаторам атаки. Человеческое вмешательство требовалось лишь на отдельных ключевых этапах – примерно в 10–20 % действий, а сама AI-система могла совершать тысячи операций в секунду, что значительно ускоряло процесс по сравнению с командой людей.
Атака проходила в несколько этапов: сначала люди выбирали цели и создавали план, затем ИИ проводил разведку, тестировал безопасность систем, создавал эксплойты и извлекал данные. В конце AI-система формировала отчеты о проделанной работе, включая список украденных учетных записей и данные о найденных уязвимостях.
Однако наиболее тревожный вектор развития связан с выходом ИИ за пределы цифровой среды. Исследователи предупреждают, что в ближайший год хакеры могут начать активно атаковать системы искусственного интеллекта, которые используются в физическом мире. Речь идет о технологиях, лежащих в основе беспилотных автомобилей, гуманоидных роботов и автоматизированных складских систем. По словам главы компании SentinelOne Томерa Вайнгартена, такие системы работают на так называемых мультимодальных моделях, которые обрабатывают не только текст, но и изображения, видео и звук. А это означает, что атаковать их можно не только через программный код, но и через визуальные или звуковые сигналы.
Например, злоумышленник может использовать специальный дорожный знак, который ничего не значит для человека, но будет распознан системой автопилота как важная команда, что может привести к неправильным действиям машины. Эксперты также ожидают роста атак, связанных с отравлением обучающих данных моделей и с уязвимостями, возникающими при быстром и неосторожном использовании ИИ в разработке. По их мнению, индустрия пока недостаточно готова к таким мультимодальным угрозам, а реальные последствия могут стать заметными только тогда, когда произойдет серьезный инцидент.
В итоге развитие ИИ меняет не только инструменты кибератак, но и саму их природу. Атаки становятся быстрее, масштабнее и частично автономными, а уязвимости возникают уже не только в программном коде, но и в моделях, обучающих данных и физических системах, которые управляются алгоритмами. Поверхность атаки расширяется вместе с каждым новым внедрением ИИ в повседневную инфраструктуру. ИИ превращается в ключевой элемент стратегического равновесия в цифровой среде: с одной стороны, он усиливает возможности защиты, ускоряет анализ и реагирование, с другой – открывает новые пути для атак и снижает барьеры для злоумышленников. Будущее цифровой безопасности будет зависеть от того, кто окажется быстрее и эффективнее в адаптации к новым технологиям ИИ: те, кто создает комплексные системы защиты и учатся сдерживать автоматизированность угроз, или злоумышленники, использующие новые возможности для ускорения и масштабирования атак.
Алгоритмы на поводке: как ограничить риски при работе с ИИ
Однако, несмотря на всю технологическую сложность этих процессов, главная цель атак остается прежней – человек. ИИ лишь меняет методы воздействия, делая их убедительнее и опаснее. Поэтому, чтобы не стать жертвой новой реальности, важно вернуться к основам цифровой дисциплины.
Несмотря на развитие технологий и появление частично автономных атак, вектор нападения остается прежним: социальная инженерия и попытки компрометации аккаунтов. В этих условиях ваша личная защита строится на трех столпах: бдительности, проверке источников и строгой аутентификации. Снизить риски помогут следующие правила:
- При работе с видеозвонками, особенно с незнакомыми или случайными контактами, обращайте внимание на синхронизацию речи и мимику. Никогда не выполняйте технические действия во время звонка (например, вставить команду в строку, установить обновление, включить демонстрацию экрана с доступом к почте и тд). Всегда подтверждайте личность собеседника через независимый канал связи или новый звонок, инициированный вами. Большинство сложных атак ломаются именно на этом моменте, потому что злоумышленникам важно, чтобы жертва действовала немедленно и по их сценарию.
- Хорошая практика – иметь отдельное устройство для рабочих аккаунтов и для личного повседневного общения. Если одно устройство окажется скомпрометировано, злоумышленник не получит доступ ко всему сразу.
- По возможности используйте аппаратные ключи безопасности (например, от компании Yubico) вместо SMS-кодов или обычных приложений двухфакторной аутентификации для критически важных аккаунтов. Аппаратный ключ защищает даже в ситуации, когда пароль был введен на фишинговом сайте, потому что он привязывается к конкретному домену и не подтверждает поддельные страницы сайта.
- Используйте на компьютере учетную запись без прав администрирования, чтобы минимизировать возможность запуска скриптов, вредоносных команд и команд из непроверенных источников.
- Ограничьте объем публичной информации о себе. Чем больше данных о роли, полномочиях, контактах и проектах доступно в открытом доступе, тем легче злоумышленникам построить правдоподобную легенду. Уменьшение вашего цифрового следа усложняет целевые атаки и делает социальную инженерию менее убедительной.
- Даже если ИИ умеет взламывать системы или автоматизировать атаки, ему все равно нужен человек, который откроет письмо, введет пароль или запустит файл. Если в ситуации присутствуют одновременно срочность и требование выполнить какое-то действие, то следует остановиться и взять паузу.
- Если вы сами работаете с ИИ-ассистентами, важно использовать только официальные расширения – от верифицированных издателей (Verified Publishers), с хорошими отзывами и актуальными обновлениями. Также рекомендуется ограничивать доступ ИИ к файловой системе и сети, придерживаясь принципа минимальных привилегий. Не записывайте пароли и API-ключи в файлах проекта, а используйте для этого специальное защищенное хранилище, чтобы они случайно не попали к ИИ-помощнику или в репозиторий.
Если вам нужна помощь с цифровой безопасностью, проверкой устройства на наличие нежелательных программ, консультация по приватности и другим цифровым правам, напишите нам: [email protected]
Digital Freedoms Lab — команда экспертов с более чем 10-летним опытом в сфере цифровых прав в Беларуси и регионе. Нам не безразлично, каким будет наше общее цифровое будущее — поэтому мы работаем уже сегодня. Наша экспертиза находится на пересечении юридических знаний, технической экспертизы и тренерских навыков. Мы мобильны и адаптивны: умеем подстраиваться под конкретные запросы и вызовы вашей команды или организации. Мы придерживаемся равного и недискриминационного подхода в нашей деятельности.
Что мы делаем:
Исследования и аналитика — мы изучаем и продвигаем лучшие практики в области цифровых прав.
Юридическая литигация — мы защищаем тех, чьи права были нарушены в международных и локальных инстанциях, добиваясь подотчётности государств и бизнеса за использование технологий против людей.
Цифровая безопасность и противодействие слежке — мы консультируем, проверяем устройства и сопровождаем тех, кто столкнулся со слежкой, взломом или шпионским ПО.
ИИ и цифровая трансформация — мы помогаем организациям и сообществам осмысленно внедрять искусственный интеллект и технологии в свою работу и активизм.
Обучение и усиление сообществ — мы проводим тренинги и делимся знаниями, чтобы люди и организации могли сами справляться с цифровыми угрозами.
Приватность и работа с данными — мы помогаем выстроить безопасную работу с персональными данными в соответствии с требованиями GDPR.
С чем к нам можно обратиться:
- Считаете, что ваши цифровые права были нарушены
- Хотите проверить свои устройства или безопасность инфраструктуры
- Хотите провести цифровой аудит вашей организации/инициативы
- Нуждаетесь в консультации по вопросу цифровой безопасности, хранения данных, GDPR
- Ищете поддержку в выстраивании или усилении использования ИИ и технологий в вашей организации
- Организовать вебинар, обучающее мероприятие для вашей аудитории, команды, волонтеров