Угрозу от ИИ приравняли к пандемии и ядерной войне

Центр безопасности ИИ (CAIS) опубликовал открытое обращение с требованием минимизировать потенциальные риски технологии. В нем угроза искусственного интеллекта для человечества сопоставляется с ядерным конфликтом и пандемией Covid-19.

Ознакомиться с документом можно по ссылке. Его подписали главы технокомпаний, ведущие эксперты в этой области, сетевые инженеры и многие другие. Среди них есть, например, доктор Джеффри Гинтон, более известный как «Крестный отец ИИ».

«Минимизация риска гибели нашей цивилизации из-за ИИ должна стать глобальным приоритетом наряду с другими угрозами мирового уровня, такими как, например, пандемия или ядерная война» — приводит выдержку из обращения Дэн Хендрикс, глава Центра.

Интересно, что далеко не все разделяют мнение CAIS и подписантов обращения. Так, некоторые эксперты в сфере ИИ выступают за поддержку отрасли, а не ее бездумное ограничение.

Вот так, например, ситуацию видит глава подразделения искусственного интеллекта Meta Янн ЛеКун:

«Продвинутый И И даже близко не в топе экзистенциальных рисков. В большинстве своем потому, что его еще просто нет. До тех пор, пока технология остается в зачаточном состоянии, бессмысленно обсуждать меры по обеспечению безопасности».

Также примечательно, что среди подписантов обращения есть представители и даже главы компаний, занимающихся разработкой продуктов на базе ИИ.

Позиция Центра и предлагаемые им меры до конца не ясны, как и необходимы дальнейшие действия для предотвращения «угрозы». Именно поэтому публикации CAIS часто называют просто популистским жестом.