США и Великобритания заключили первое в мире двустороннее соглашение по безопасности ИИ

США и Великобритания подписали знаковое соглашение по искусственному интеллекту. Союзники стали первыми странами, официально сотрудничающими в вопросах тестирования и оценки рисков, связанных с новыми моделями ИИ.

Об этом пишет Financial Times.

Соглашение подписали в Вашингтоне министр науки Великобритании Мишель Донелан и министр торговли США Джина Раймондо. Документ определяет, как правительства двух стран будут объединять технические знания, информацию и таланты в области безопасности ИИ.

Соглашение является первым в мире двусторонним соглашением по безопасности ИИ и происходит на фоне того, как правительства настаивают на более строгом регулировании рисков, связанных с новыми технологиями, такими как их использование для кибератак или разработки биологического оружия.

«На следующий год нам действительно придется действовать быстро, потому что выходит следующее поколение моделей [ИИ], которые могут полностью изменить правила игры, и мы еще не знаем всех возможностей, которые они предложат», — сказала Донелан.

Соглашение, в частности, позволит новому британскому Институту безопасности искусственного интеллекта (AISI), созданному в ноябре, и его американскому эквиваленту, еще не начавшему свою работу, обмениваться опытом посредством командировки исследователей из обеих стран. Институты будут вместе работать над тем, как независимо оценивать частные модели ИИ, созданные такими компаниями, как OpenAI и Google.

Партнерство построено по образцу партнерства между Штабом правительственной связи Великобритании (GCHQ) и Агентством национальной безопасности США, тесно сотрудничающим по вопросам, связанным с разведкой и безопасностью.

Поддерживаемый британским правительством AISI, возглавляемый технологическим инвестором и предпринимателем Ян Хогартом, нанял таких исследователей, как Джеффри Ирвинг из Google DeepMind и Крис Саммерфилд из Оксфордского университета, чтобы начать тестирование существующих и невыпущенных моделей искусственного интеллекта.