Microsoft создала модель искусственного интеллекта на базе GPT-4 для спецслужб США

Microsoft разработала генеративную модель искусственного интеллекта на основе GPT-4 специально для американских спецслужб. Она работает без подключения к Интернету, пишет Ars Technica.

Как сообщается, это первый случай, когда Microsoft запустила языковую модель в защищенной среде, чтобы позволить агентствам анализировать сверхсекретную информацию без рисков утечки.

Новая модель, еще не имеющая публичного названия, отвечает интересу спецслужб для использования генеративного ИИ с целью обработки секретной информации, уменьшая при этом риски утечки данных или попыток взлома.

Уильям Чаппелл, технический директор Microsoft по стратегическим миссиям и технологиям, сообщил, что разработка новой системы включала 18 месяцев работы над модификацией суперкомпьютера с искусственным интеллектом.

Модифицированная модель GPT-4 предназначена для чтения файлов, предоставленных пользователями, но не имеет доступа к сети.

«Это первый случай, когда у нас есть изолированная версия — изолированная означает, что она не подключена к интернету — и находится в специальной сети, доступ к которой имеет только правительство США», — сказал Чаппелл в интервью Bloomberg.

GPT-4 — это большая речевая модель (LLM), созданная OpenAI. Одним из серьезных недостатков использования GPT-4 для анализа важных данных является то, что она потенциально может придумывать факты и делать ошибочные выводы.

Поскольку обученные нейронные сети не являются базами данных и оперируют статистическими вероятностями, они являются плохими фактическими ресурсами, если их не дополнить внешним доступом к информации из другого источника с помощью такой техники, как генерация расширенного поиска (RAG).