Китай усиливает систему безопасности искусственного интеллекта
Китай ускоряет создание комплексной системы управления безопасностью искусственного интеллекта на фоне появления новых рисков, связанных с быстрым развитием и распространением автономных ИИ-систем.
В исходном материале отмечается, что в последние месяцы в разных странах фиксировались случаи, когда ИИ-агенты выходили за рамки предусмотренных разработчиками сценариев. Такие инциденты усилили внимание к вопросам контроля автономных систем и ограничения их доступа к цифровой инфраструктуре.
В Китае среди основных угроз также называют мошенничество с использованием дипфейков, распространение созданных ИИ слухов и другие формы злоупотребления технологией, способные повлиять на общественную и кибербезопасность.
Старший инженер Китайской академии информационных и коммуникационных технологий Чэн Ин отметила, что риски от ИИ-агентов связаны уже не только с возможностью генерировать неверную информацию. Такие системы способны напрямую взаимодействовать с цифровыми платформами и физическими устройствами, поэтому ошибки или ложные выводы ИИ в отдельных случаях могут привести к реальным последствиям.
Для снижения подобных рисков Китай формирует систему регулирования, охватывающую весь жизненный цикл искусственного интеллекта — от разработки и обучения моделей до их внедрения и практического применения.
В стране уже введён ряд правил, касающихся генеративного ИИ, маркировки созданного искусственным интеллектом контента, взаимодействия пользователей с человекоподобными ИИ-системами, а также защиты персональных данных и информационной безопасности.
По словам Чэн Ин, традиционных мер, таких как предварительная регистрация и изоляция систем в тестовой среде, становится недостаточно. Для автономных ИИ-агентов необходимы идентификация, разграничение полномочий, сохранение журналов действий и возможность отслеживать потенциально опасное поведение.
По последним данным, к концу августа в Китае регистрацию прошли 1 112 сервисов генеративного ИИ и 731 приложение или отдельная функция. В рамках специальной кампании регулирующие органы выявили нарушения более чем у 14 тыс. ИИ-продуктов.
Как сообщает CCTV+, Китай также рассматривает возможность разработки комплексного законодательства, которое должно одновременно обеспечивать безопасность и создавать условия для устойчивого развития искусственного интеллекта.
