В Чили предложили регистрировать ИИ-агентов: что это даст

Пока одни страны спорят, как регулировать нейросети в целом, в Чили пошли дальше и предложили отдельные правила для ИИ-агентов — программ, которые действуют в компьютерных системах самостоятельно. Законопроект внесли в сенат 28 октября, и он касается в первую очередь компаний, которые таких агентов запускают.

Суть инициативы — обязать частные организации вести учёт своих ИИ-агентов и контролировать, что именно они делают. По задумке авторов, каждый агент должен получить цифровую идентичность, привязанную к компании, которая его использует. Это позволит отличить действия программы от действий человека или другой системы.

Кроме того, до запуска агента компания должна будет зафиксировать, какие у него права доступа, кто выдал разрешение, к каким ресурсам он подключён и на какой срок. Если агент передаёт задачи другим агентам, это тоже придётся регистрировать — причём «дочерние» полномочия не могут быть шире исходных. Отдельно прописаны требования к журналам: по записям должно быть можно восстановить, что делал агент и какие разрешения у него были. Пароли и ключи доступа в такие журналы попадать не должны.

Отдельный блок — контроль. Компании обяжут внедрять механизмы, независимые от инструкций и обучения модели: они должны замечать отклонения, при необходимости приостанавливать доступ и безопасно останавливать операцию. Если нужна человеческая проверка, она должна проходить так, чтобы сам агент не мог её обойти или подделать. Меры предлагается соразмерять со степенью автономности агента и чувствительностью данных, к которым он допущен.

Что это значит

Инициатива пока не закон — это только внесённый в сенат проект. Но сам подход показателен: регулировать не абстрактный «искусственный интеллект», а конкретные программы, которые получают доступ к файлам, учётным данным и чужим системам. Для обычного человека это в перспективе означает более понятные правила: если что-то пошло не так из-за ИИ-агента, у компании должен быть след, по которому можно разобраться. Впрочем, в тексте прямо сказано, что привлекать внешних подрядчиков для работы с агентами можно, но ответственность с компании это не снимает. Подробности на сайте Actualidad Jurídica.

Тема ИИ-агентов только начинает обрастать правилами, и следить за ней стоит: то, что сегодня обсуждают в парламентах, завтра отражается на сервисах, которыми мы пользуемся. Узнайте больше о том, как устроены агенты и какие вопросы к ним возникают у регуляторов.

📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.

💛 Если статья оказалась полезной, поддержите автора донатом.

Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования, свяжитесь с нами по адресу info@11st.press.