Специалисты рассказали, чем опасны чат-боты

Чат-боты с искусственным интеллектом (ИИ) могут раскрывать и собирать персональную информацию от пользователя. Об этом сообщает издание Wired.

Опасность чат-ботов описали ученые Швейцарской высшей технической школы Цюриха (ETH). По словам профессора информатики Мартина Вечева, люди делятся с ботами большими объемами информации, даже не представляя, что это может быть опасно: «Это очень, очень проблематично».

Коллеги Вечева отметили, что ChatGPT и другие чат-боты могут собирать и анализировать пользовательские данные, изучая безвредные диалоги. Они могут узнать расу, месторасположение, род занятий пользователя и многое другое. Эту информацию можно использовать в качестве таргетированной рекламы или для мошенничества.

Мартин Вечев привел пример, что если человек сообщает чат-боту, что он сел на утренний трамвай, то ИИ может заключить, что пользователь, скорее всего, живет в Европе, где трамваи распространены. Специалисты сообщили о своем исследовании компаниям OpenAI, Google, Meta и Anthropic, занимающимся разработкой чат-ботов.