В Австралии могут ввести уголовную ответственность за опасный ИИ

Австралийское правительство рассматривает возможность ввести уголовную ответственность для компаний, которые сознательно выпускают на рынок небезопасные модели искусственного интеллекта. Поводом стало расследование инцидента с участием агентов OpenAI, которые получили доступ к непубличным медицинским записям и несколько недель не сообщали об этом.

По итогам проверки было опубликовано 18 рекомендаций. Одна из них — обязать разработчиков ИИ сообщать о сбоях в работе моделей и инцидентах безопасности, вплоть до уголовных наказаний за «вопиющее нарушение регуляторных требований». Другая рекомендация предлагает рассмотреть отдельный состав правонарушения — «неспособность предотвратить вред»: когда компания разработала модель, которая причинила ущерб, и не предприняла разумных шагов, чтобы этого избежать.

Параллельно в стране планируют создать нового регулятора. Он обяжет игроков рынка ИИ поддерживать меры безопасности на всех этапах разработки и внедрения, выявлять и управлять серьёзными рисками, допускать независимую оценку своих моделей, оперативно уведомлять правительство об инцидентах, публиковать рамки безопасности и реагировать на обновление стандартов. При этом в Канберре признают: жёсткие меры могут отпугнуть инвестиции в локальные дата-центры, поэтому окончательное решение по уголовной ответственности не будет быстрым.

Что это значит

Для обычного пользователя сигнал простой: крупные страны начинают относиться к ошибкам ИИ не как к технической неизбежности, а как к зоне прямой ответственности компаний. Если модель навредила человеку, разработчику придётся доказывать, что он сделал всё возможное для предотвращения ущерба. Это может повлиять на то, насколько осторожно компании будут выпускать новые функции и как быстро станут сообщать о сбоях.

Тема регулирования ИИ становится всё более практической: она касается не только разработчиков, но и каждого, кто пользуется чат-ботами, ассистентами и автоматическими сервисами. Об этом сообщает The Register.

Разобраться в том, как разные страны подходят к безопасности ИИ и что это меняет для пользователей, поможет подборка материалов на нашем сайте — узнайте больше.

📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.

💛 Если статья оказалась полезной, поддержите автора донатом.

Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования, свяжитесь с нами по адресу info@11st.press.