Microsoft заплатит $15 000 тому, кто обманет искусственный интеллект

Поисковая система Bing была разработана Microsoft почти 15 лет назад. В феврале текущего года компания представила обновленную версию браузера Edge с элементами искусственного интеллекта. Напомним, что это стало возможным благодаря интегрированной в Bing нейросети ChatGPT.

Чтобы новый продукт не уступал другим конкурентным нейросетям, Microsoft решили устроить для Bing своеобразный тест-драйв. Техногигант предлагает всем желающим найти уязвимости в Bing AI. Наиболее продвинутым взломщикам обещают приличное вознаграждение от $2000 до $15 000.

Согласно предложенным критериям Microsoft, участники соревнований должны представить в письменном или видеоформате ранее неизвестные «важные» и «критические» для безопасности уязвимости. К примеру, нужно спровоцировать Bing AI генерировать непристойные и даже оскорбительные ответы в чате, нарушающие требования компании. Безусловным достижением станет доступ к закрытой информации, связанной с данными машинного обучения Bing AI или конфиденциальной информацией о пользователях.

В Microsoft отметили: размер вознаграждения будет зависеть от критичности выявленной уязвимости и качества отчёта.