Сингапур проверяет ИИ-агентов: что изменится для бизнеса и пользователей

Сингапур рассматривает более жёсткие правила для систем искусственного интеллекта с повышенным риском — прежде всего тех, что способны действовать самостоятельно, получать доступ к чувствительным данным и влиять на реальные бизнес-процессы. Об этом заявила министр цифрового развития и информации Джозефин Тео, отвечая на вопросы парламента.

Речь идёт об ИИ-агентах — программах, которые не просто отвечают на вопросы или генерируют текст, а планируют и выполняют задачи за пользователя. Они могут заходить в базы данных, пользоваться инструментами, обновлять записи о клиентах или проводить платежи. Именно рост таких систем и вызывает беспокойство регулятора.

Что именно предлагают проверить

Среди обсуждаемых мер — более строгое тестирование, независимая оценка эффективности защитных механизмов, жёсткий контроль за внедрением и усиленный надзор со стороны регулятора. Пока обязательных новых требований Сингапур не опубликовал: всё будет зависеть от того, как именно применяется ИИ, какой вред он способен причинить и насколько действенны текущие меры контроля.

Ещё в январе 2026 года местный регулятор IMDA представил специальную систему управления ИИ-агентами. Она рекомендует компаниям оценивать риски до запуска, ограничивать данные и инструменты, к которым имеет доступ агент, а также вести журнал действий для последующего аудита. В мае документ дополнили более чем десятью реальными примерами из практики компаний.

Как это выглядит на практике

Сингапурская компания Dayos сортирует операции ИИ по уровню риска. Простые задачи вроде сброса пароля выполняются автоматически с последующей проверкой. Действия средней важности требуют одобрения человека. А то, что может привести к серьёзным последствиям, например изменение прав доступа, автоматически не выполняется вовсе. Похожий подход использует и CodeBuddy от Tencent: перед правкой файлов, запуском команд или обращением к внешним инструментам нужно подтверждение человека.

Отдельно тестировали и безопасность. Специалисты отметили новую угрозу — так называемую косвенную инъекцию команд, когда злоумышленник прячет опасные указания внутри данных, которые обрабатывает ИИ. В ходе испытаний агентов удавалось обмануть и заставить выполнять нежелательные действия. Поэтому регулятор советует проверять системы в контролируемой среде, имитировать атаки и оценивать риск утечки данных.

Что это значит

Подход Сингапура показывает общий тренд: чем больше самостоятельности у ИИ, тем выше требования к надзору. Для компаний это означает, что внедрение агентов потребует продуманных правил доступа и журналов действий. Для обычных пользователей — что сервисы, работающие с их данными, будут проходить более серьёзные проверки. Подробности на сайте baonghean.vn.

Тема автономных ИИ-агентов будет развиваться и дальше — стоит разобраться, как такие системы уже сегодня влияют на работу сервисов и на защиту личных данных. узнайте больше.

📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.

💛 Если статья оказалась полезной, поддержите автора донатом.

Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования, свяжитесь с нами по адресу info@11st.press.