Регулирование ИИ стало неотложной задачей. Практика Гарантий МАГАТЭ может служить моделью для регулирования ИИ Международным агентством искусственного интеллекта (МАИИ), мандат которого будет заключаться в объективной и независимой проверке национальных систем ИИ. Это необходимо для обеспечения гарантий мирного развития и использования ИИ в государствах-участниках и для выявления/предотвращения опасного применения ИИ.
Фрэнсис Маутнер Маркхоф
19 мая 2023
Arabic version | Chinese version | English version | Spanish version
Международное регулирование необходимо для обеспечения безопасности, надежности и прозрачности искусственного интеллекта (ИИ), построенного на больших языках или моделях глубокого обучения, таких как Chat GPT и GPT-4.
В то время как ЕС и Китай находятся в процессе введения такого регулирования, США до сих пор применяли подход невмешательства, позволяя отдельным штатам и компаниям решать, регулировать ли ИИ и каким образом.
Почему международное регулирование ИИ необходимо сейчас
Создание Международного агентства по искусственному интеллекту (МАИИ) для регулирования ИИ, а также для руководства безопасным и полезным развитием ИИ, безусловно, является неотложным вопросом, что подтверждается прозорливыми замечаниями Илона Маска и Уоррена Баффета о том, что серьезность и масштаб рисков, связанных с ИИ, опаснее, чем риски, связанные с ядерным оружием.
В случае создания МАИИ будет отвечать за международное регулирование ИИ и независимую и объективную проверку национальных ИИ на предмет соблюдения национальных и международных обязательств. Такая проверка будет обеспечивать гарантии того, что ИИ разрабатывается и используется только в безопасных и мирных целях, одновременно выявляя фактические/возможные опасные разработки и применения ИИ.
Гарантии МАГАТЭ как модель для МАИИ
Опыт Международного агентства по атомной энергии (МАГАТЭ) в отношении Гарантий МАГАТЭ является уникально актуальным. Задачи и роль МАИИ соответствуют тем, на которых была основана система Гарантий МАГАТЭ. Гарантии МАГАТЭ включают независимую проверку национальных систем гарантий для обеспечения того, что ядерные материалы, изделия и установки используются только в мирных целях.
Обязательства и преимущества МАИИ
- Государства-участники будут нести ответственность за декларирование всех НИОКР в области ИИ, применения ИИ и другой деятельности в области ИИ соответствующих организаций, соответствующей правовым и другим обязательствам и обязанностям государств по мирному и полезному использованию ИИ.
- Государства-участники согласятся создать и обучить группу квалифицированных международных инспекторов, уполномоченных проверять и подтверждать декларации о деятельности в области ИИ и выявлять незаявленную деятельность в области ИИ (аналогично тому, как это делают инспекторы по гарантиям МАГАТЭ в отношении ядерных материалов и деятельности).
- Регулирование МАИИ обеспечит надежные гарантии того, что не преследуются опасные или незаконные цели в области ИИ.
- Системы МАГАТЭ могут стать моделью для систем раннего предупреждения в случае подозрений или использования ИИ в антиобщественных или преступных целях.
- Соглашаясь соблюдать международные правила и принимать международную проверку своей деятельности в области ИИ, государства получат доступ к технологиям ИИ и техническому сотрудничеству для развития своих систем ИИ в безопасных и мирных целях.
- Серьезные нарушения правил МАИИ могут быть вынесены на рассмотрение Совета Безопасности ООН (СБ ООН), как это происходит в случае серьезных нарушений гарантий МАГАТЭ.
Внедрение МАИИ: Дорожная карта
- Государства-участники соглашаются создать МАИИ, поручив организации инспекцию/проверку национальных систем искусственного интеллекта и их соответствия соответствующим международным нормам и правилам
- Государства-участники предоставляют в МАИИ декларации о своей национальной деятельности в области ИИ
- МАИИ независимо проверяет полноту и правильность национальных деклараций по ИИ, используя соответствующие технические и другие средства для обеспечения безопасных и мирных НИОКР по ИИ и других видов деятельности по ИИ в государствах-участниках.
- Инспекции и проверки должны проводиться на различных этапах разработки и применения ИИ
- МАИИ будет проводить расследования и стремиться выявить возможную незаявленную/подозрительную деятельность в области ИИ
- Информация об инспекциях ИИ будет предоставляться в международную базу данных ИИ
Международное сотрудничество необходимо для создания МАИИ
Сейчас главный вопрос заключается в том, нужно ли и как создавать МАИИ. Маловероятно, что правила ИИ в ЕС, США, Китае и других регионах будут совместимыми, последовательными или достаточными. Нет ни одного международного регламента, который бы серьезно обсуждался или разрабатывался.
Международное сотрудничество было необходимо для создания МАГАТЭ и международных гарантий МАГАТЭ, и оно будет необходимо для создания международного агентства по регулированию ИИ и для согласования того, как оно будет функционировать.
Государства должны будут согласиться отказаться от небольшой доли суверенитета в связи с регулированием МАИИ, как оно это делает при осуществлении гарантий МАГАТЭ. Это позволит МАИИ проверять национальные системы и приложения ИИ, а также подтверждать, что государства выполняют свои национальные и международные обязательства в области ИИ.
Создание международного агентства по регулированию ИИ, МАИИ, потребует политической воли и лучших достижений международной дипломатии. Международное сотрудничество будет необходимо для достижения международного регулирования безопасности, надежности и прозрачности ИИ при обеспечении и поддержке мирной и продуктивной деятельности и применения нынешнего и будущего ИИ.
