ИИ ошибочно обвинил пользователя в мошенничестве

Радиовед из Джорджии Марк Уолтерс (Mark Walters) подал в суд на OpenAI за то, что ChatGPT обвинил его в мошенничестве и растрате средств некоммерческой организации.

Интересной деталью является тот факт, что соответствующий ответ ИИ выдал на запрос совсем другого человека, а не самого Уолтерса. Запрос сгенерировал журналист Фред Рил (Fred Riehl), причем Уолтерса он вообще не затрагивал. Рила интересовало реальное дело федерального суда США. Он попросил ChatGPT резюмировать это дело, опираясь на официальный документ. В ответ ИИ создал частично ошибочное изложение, где, в том числе, были обвинения против Уолтерса.

ChatGPT сообщил, что Уолтерс незаконно присвоил средства некоммерческой организации по защите прав на оружие на сумму более 5 млн долларов. Благо, перед продолжением работы журналист решил еще раз проверить всю информацию и убедился в том, что никаких подобных дел против Уолтерса не существует. Сам Рил не обнародовал эту историю и, видимо, сообщил о ней Уолтерсу. Детали относительно этого процесса по делу отсутствуют.

Пока неясно, чем закончится судебный иск, однако Евгений Волох (Eugene Volokh), профессор права, писавший о юридической ответственности систем ИИ, заявил, что в целом он считает, что такие иски о клевете против компаний ИИ в принципе юридически обоснованы. Однако в этом случае ситуация неоднозначна. Суть в том, что Уолтерс не сообщил OpenAI о ложных обвинениях, не дав им возможность удалить их. Кроме того, в результате галлюцинаций ChatGPT не было никакого реального ущерба.