Почему «доверенный ИИ» становится главным вопросом десятилетия

Искусственный интеллект всё быстрее переходит из демонстраций в реальную работу: он помогает в медицине, госуслугах, на транспорте и в бытовых сервисах. И именно поэтому ключевым становится не вопрос «что модель умеет», а вопрос «можно ли ей доверять». Об этом говорили участники «параллельного форума по искусственному интеллекту» в рамках форума лауреатов научных премий 2026 года.

Доверие — не дополнение, а основа

Как отмечает 科技日报, академик Хэ Цзифэн ещё в 2017 году предложил концепцию «доверенного ИИ»: алгоритм не должен оставаться «чёрным ящиком», а механизмы безопасности нужно встраивать в весь цикл разработки, а не добавлять после запуска. Участники форума прямо назвали ряд реальных проблем: предвзятость алгоритмов, безопасность данных, галлюцинации генеративных моделей, злоупотребление технологиями и растущий разрыв в доступе к ИИ.

Отдельно прозвучала мысль, что технологические возможности растут быстрее, чем способность ими управлять. «Доверенный ИИ» — это не разовая проверка на соответствие требованиям, а постоянная работа с моделью на всех этапах: от обучения до эксплуатации. Современные большие языковые модели предсказывают следующий фрагмент текста на основе статистики, поэтому их точность в принципе не может быть стопроцентной, а поведение агентов остаётся непредсказуемым. Лауреат математической премии Вольфа 2024 года Нога Алон заметил: ИИ хорошо решает задачи в уже заданном пространстве, но когда само пространство меняется, его «надёжность» теряет опору.

Управление как процесс, а не разовый запрет

Лауреат премии Тьюринга 2015 года Мартин Хеллман сравнил риски ИИ с ядерной угрозой и изменением климата: технологии дают человеку почти «божественные» возможности, а ведём мы себя порой как «безответственные подростки». Его предложение — «процессное мышление»: не строить идеальный порядок одним указом, а постоянно корректировать правила и встраивать ограничения. Для обычных людей это означает, что правила игры вокруг ИИ будут меняться постепенно, а не появиться в один день.

Что это значит для вас

Для пользователя главное — не считать, что «умная» система по определению справедлива и безошибочна. Если ИИ помогает с документами, медицинскими вопросами или финансовыми решениями, стоит перепроверять важные выводы и сохранять возможность обратиться к человеку. Доверие к таким сервисам будет зависеть не от громких обещаний, а от прозрачности и понятных правил.

Технологии меняются быстрее, чем мы успеваем к ним привыкнуть, и разбираться в них полезно. узнайте больше о том, как новые системы влияют на повседневную жизнь.

📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.

💛 Если статья оказалась полезной, поддержите автора донатом.

Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования, свяжитесь с нами по адресу info@11st.press.