Во Франции^* ChatGPT и Gemini могут обязать проходить «экзамен» перед запуском

Во Франции^* группа экспертов предложила проверять популярные чат-боты перед выходом на рынок — по той же логике, по которой проверяют лекарства. Речь идёт о массовых сервисах вроде ChatGPT и Gemini, а не о профессиональных инструментах для компаний. Инициатива пока остаётся рекомендацией, но показывает, куда может двинуться регулирование ИИ в Европе.

Что именно предлагают

Комиссия «Генеративный ИИ и уязвимости» передала президенту Франции^* Эммануэлю Макрону доклад на 177 страниц. Девять экспертов под руководством исследовательницы в области ИИ Серены Виллаты и психиатров Рафаэля Гайяра и Амина Беньямины сформулировали 18 рекомендаций под общим названием «Защищать, не запрещая». Главная мера — предварительная многопрофильная оценка влияния генеративных ИИ-систем для широкой публики: без неё сервис не должен выходить на рынок и оставаться на нём.

Авторы прямо сравнивают подход с фармацевтическим: Амин Беньямина говорит о настоящем «разрешении на продажу». Также предлагается дать властям и аккредитованным исследователям доступ к данным об обучении моделей, их использовании и монетизации, а ещё создать национальный протокол реагирования на информационные кризисы, связанные с ИИ.

Главные опасения — не хакеры, а привыкание

Психиатры в докладе называют первой проблемой «когнитивное ослабление»: люди делегируют машине размышления и решения и потому перестают тренировать эти навыки сами. Второй момент — склонность чат-ботов поддакивать пользователю в ущерб правде и антропоморфизм, из-за которого возникает эмоциональная привязанность к сервису, доступному круглосуточно. По данным доклада, в начале года генеративным ИИ во Франции^* пользовались 33 миллиона человек, а 73% французов получают информацию в том числе через такие сервисы. Об этом пишет 01net.

Что это значит

Пока никаких решений не объявлено: доклад — это рекомендации, а не закон. Но сама идея «экзамена» для массовых чат-ботов важна для обычных пользователей: если её когда-нибудь воплотят, сервисы будут обязаны доказывать безопасность до запуска, а не после жалоб. Одновременно это сигнал разработчикам, что в Европе к массовым ИИ-продуктам могут предъявлять те же требования, что к товарам с прямым влиянием на здоровье и психику.

Тема регулирования ИИ касается каждого, кто пользуется чат-ботами ежедневно. Разобраться в том, как разные страны подходят к правилам для нейросетей, поможет наш разбор других материалов.

📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.

💛 Если статья оказалась полезной, поддержите автора донатом.

^* Франции — признана террористической организацией, деятельность запрещена на территории РФ.

Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования, свяжитесь с нами по адресу info@11st.press.