Новая модель ИИ от OpenAI может стать инструментом для создания биологического оружия

Компания OpenAI представила новую модель искусственного интеллекта под названием o1, которая может быть использована злоумышленниками для разработки биологического оружия.

Об этом пишет Financial Times.

12 сентября OpenAI продемонстрировала возможности модели o1, в частности, ее способности к размышлению, решению сложных математических задач и ответам на научные вопросы.

Однако в системной карте компании указано, что модель несет «средний уровень риска» в контексте химического, биологического, радиологического и ядерного оружия, что является самым высоким уровнем риска, который когда-либо признавала OpenAI для своих моделей.

Технический директор OpenAI Мира Мурати отметила, что несмотря на повышенный уровень риска, новая модель o1 демонстрирует значительные улучшения в показателях безопасности по сравнению с предыдущими версиями ИИ.

Модель будет доступна для платных подписчиков ChatGPT и программистов через API.