Amazon, Google, Meta, Microsoft и другие официально обязались следить за безопасностью своих систем ИИ

Американские Amazon.com Inc, Microsoft Corp., Meta, Google, входящие в Alphabet Inc., и еще три компании добровольно взяли на себя обязательства по обеспечению безопасности своих решений в сфере искусственного интеллекта (ИИ).

Об этом говорится на сайте Белого дома.

В частности, компании обязались проверять систем ИИ на безопасность еще до выпуска, в том числе с привлечением независимых экспертов, информировать участников отрасли, власть, общественность об управлении ИИ рисками, инвестировать в кибербезопасность и способствовать выявлению уязвимостей в своих системах.

Кроме того, компании будут разрабатывать механизмы, позволяющие отличать обычный контент от созданного искусственным интеллектом, включая те, которые предусматривают использование водяных знаков, а также публично информировать о возможностях, ограничениях и видах надлежащего и ненадлежащего использования своих систем ИИ.

Фирмы, в число которых, кроме вышеперечисленных, входит OpenAI, которая разработала популярный чат-бот ChatGPT, и стартапы Anthropic и Inflection, также обязались уделять особое внимание анализу потенциальных общественных рисков, связанных с использованием систем ИИ.

Резкий рост коммерческих инвестиций в инструменты генеративного (создающего контент) ИИ, которые могут создавать новые изображения и писать тексты, похожие на творения человека, вызвали у людей не только восхищение, но и беспокойство ввиду способности таких инструментов вводить пользователей в заблуждение и распространять дезинформацию, отмечает Associated Pres. На генеративном искусственном интеллекте основан, в частности, ChatGPT.