sbrayn
ИИ-фишинг обходит защиту: почему письма стали опаснее
Представьте: вам приходит письмо от «бухгалтера» с просьбой уточнить реквизиты. Текст гладкий, без ошибок, стиль знакомый. Вы отвечаете — и через час с карты уходят деньги. Ещё два года назад такое письмо выдавали кривые фразы и странные адреса. Сегодня — нет. И это уже не гипотеза, а статистика.
По данным отраслевых отчётов, на которые ссылаются специалисты по безопасности, более 80% всей мировой активности в области социальной инженерии — это фишинг, созданный с помощью ИИ. А по оценке IBM, на подготовку одного такого письма теперь уходит около пяти минут вместо прежних шестнадцати часов. Разница в 200 раз. Именно об этом стоит поговорить спокойно и по делу.
Что изменилось: письмо за пять минут
Раньше фишинг был ремеслом. Мошенник вручную собирал адреса, копировал стиль компании, вставлял логотип, проверял текст на ошибки. Это занимало время, и на этом его часто ловили: подозрительная орфография, кривой перевод, странные формулировки.
Теперь генеративные модели пишут на любом языке, подстраиваются под тон переписки и не допускают опечаток. По данным IBM, которые приводят эксперты, письмо, на которое раньше уходило 16 часов, сейчас собирается за пять минут. И это масштабируется: один человек с инструментом закрывает объём, на который прежде нужна была команда.
Отдельная история — дипфейки. По данным Gartner, до 62% организаций уже сталкивались с атаками, где использовались синтетические видео или аудио. Голос руководителя, который «срочно просит перевести деньги», больше не гарантия, что это руководитель.
А вы бы отличили голос коллеги от подделки по телефону?
Главная проблема — не в технологиях, а в доступе
Вот цифра, которая многое объясняет. IBM выяснила: 97% компаний, сообщивших об инциденте, связанном с ИИ, не имели адекватного контроля доступа к этим инструментам. А 63% вообще не имели политики управления ИИ.
То есть проблема не в том, что модели стали умнее. Проблема в том, что сотрудники подключают их к чувствительным данным раньше, чем компания успевает понять, что происходит. IT-администраторы часто не знают, какие инструменты используются, какие данные в них загружаются и можно ли доверять результату.
Есть и обратная сторона. ESET проанализировала 900 тысяч «навыков» для ИИ-агентов и нашла 25 тысяч подозрительных, из которых более 3000 — явно вредоносные. Такие навыки могут вытягивать данные, скачивать и запускать вредоносные программы, игнорировать команды пользователя или незаметно менять поведение агента со временем.
Знакомо? Возможно, вы сами ставили расширение или плагин, не читая, что он запрашивает.
Почему это касается не только компаний
Может показаться, что всё это — корпоративная история про отделы безопасности. Но цепочка простая: если компания, где хранятся ваши данные, не контролирует ИИ-инструменты, страдаете вы. Утечка происходит не у вас — последствия приходят к вам.
Плюс личный уровень. Тот же ИИ, который помогает вам писать письма и заявки, помогает и мошеннику. Причём мошеннику не нужно быть техническим специалистом: достаточно купить доступ к инструменту и знать, где искать жертву.
И ещё один нюанс из отчётов: специалисты фиксируют, что ИИ ускоряет не только создание атак, но и поиск уязвимостей. Когда нахождение слабых мест дешевеет, единственным реальным ограничителем становится вопрос, кому разрешено пользоваться инструментом. Пока этот вопрос решает компания, которая инструмент создала.
Что реально работает: разделяем разговор, личность и действие
Есть полезный принцип, который стоит взять на вооружение и компаниям, и обычным людям. Он звучит так: модель может понять просьбу, но решение о действии должна принимать проверенная логика, а не модель.
На практике это значит: голос в трубке — не подтверждение личности. Активная сессия на устройстве — не разрешение на платёж. Распознанный голос — не подпись под переводом. Для чувствительных операций нужен отдельный, подтверждённый шаг: код в приложении, звонок по известному номеру, подтверждение через официальный канал.
Второй принцип — ограничение действий. Если ИИ-агенту дают доступ, ему дают не «всё», а список разрешённых операций с проверенными входными данными. А права проверяются в самой системе, а не в тексте инструкции для модели.
Третий — наблюдаемость. Прежде чем расширять доступ, стоит измерить: сколько задач агент реально выполняет, сколько раз ошибается с авторизацией, сколько это стоит. Без цифр любое «мы всё контролируем» — просто слова.
А у вас в компании вообще кто-то знает, какими ИИ-инструментами пользуются сотрудники?
Что делать уже сегодня
- Введите правило второго канала. Любая просьба о деньгах, реквизитах или доступах проверяется не по тому каналу, откуда пришла. Перезвоните по номеру из договора, а не из письма.
- Проверьте, что у вас установлено. Пройдитесь по расширениям браузера, плагинам и «навыкам» ИИ-сервисов. Всё, что не используете, — удалите. Всё, что используете, — проверьте, какие данные оно запрашивает.
- Составьте короткий список разрешённых ИИ-инструментов. Не запрет, а именно список: чем можно пользоваться, а чем — нет. Это снижает «теневую» автоматизацию, из-за которой чаще всего и происходят утечки.
- Для высокорисковых операций — отдельное подтверждение. Платежи, смена паролей, экспорт данных. Один шаг подтверждения в защищённом приложении закрывает большую часть сценариев.
Что важно помнить
Абсолютной защиты не существует, и обещать её было бы нечестно. Технологии меняются быстрее, чем инструкции, а универсального решения, которое закроет все сценарии, нет. Разумный подход — не гнаться за «непробиваемой» системой, а проверять информацию, ограничивать доступ и подтверждать важные действия отдельно. И перечитывать то, что вам приходит на почту, — даже если написано идеально.
ИИ не сделал мошенников умнее. Он сделал их быстрее и дешевле. А значит, наша задача — не победить их в скорости, а выстроить процесс, в котором одно письмо или один звонок не решает ничего важного.
А что вы думаете по этому поводу? Поделитесь своим мнением в комментариях!
Если статья оказалась полезной, поддержите автора донатом.
Чтобы не пропустить новые публикации, подписывайтесь на Дзен или MAX.
Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования, свяжитесь с нами по адресу info@11st.press.
