OpenAI распустила команду, занимавшуюся вопросами безопасности ИИ

OpenAI распустила свою команду, занимавшуюся долгосрочными рисками искусственного интеллекта, менее чем через год после ее создания, сообщает CNBC. Это решение было принято после того, как руководители группы Илья Суцкевер и Ян Лейке сообщили о своем уходе из компании.

Команду, известную как Superalignment, создали в 2023 году с целью разработки «научных и технических прорывов для управления системами искусственного интеллекта, которые значительно умнее нас».

OpenAI тогда заявила, что в течение четырех лет выделит 20% своих вычислительных мощностей на эту инициативу. Некоторых членов команды переведут в другие отделы компании.

Лейке поделился в X более подробной информацией о причинах своего решения. В частности, он написал, что большая часть ресурсов компании должна быть сосредоточена на безопасности, мониторинге, подготовленности, защищенности, конфиденциальности и влиянии на общество.

Зато, отмечает Лейке, культура безопасности и процессы OpenAI отошли на второй план. Генеральный директор OpenAI Сэм Альтман отреагировал так: «Мне очень грустно видеть, что он [Лейке] уходит. Он прав, нам еще многое предстоит сделать, и мы обязуемся это сделать. Я напишу более длинный пост в ближайшие несколько дней».

Эти шумные отставки произошли на фоне прошлогодних проблем с руководством OpenAI.

В ноябре 2023 года Сэма Альтмана временно отстранили от должности гендиректора OpenAI. Именно Суцкевер сообщил Альтману, что тот должен покинуть компанию, потому что он не всегда был откровенным в общении с советом директоров.

Однако западные СМИ начали тогда писать, что проблема более сложная. The Wall Street Journal и другие медиа сообщали, что Суцкевер сосредоточил свое внимание на безопасности, чтобы искусственный интеллект не навредил людям. В то время как Альтман стремился продвинуть вперед новую технологию.

После давления со стороны сотрудников и инвесторов, включая Microsoft, Альтмана восстановили в должности. Тогда он сказал, что не испытывает к Суцкеверу «никакой неприязни». Однако, как писали The Information, по возвращении Альтмана Суцкевер покинул совет директоров и фактически не появлялся в компании.