Пентагон рассматривает возможность создания защищенных объектов, где компании по разработке генеративного ИИ смогут разрабатывать модели, ориентированные на военные нужды, используя секретные данные. В настоящее время такие системы ИИ, как Claude от Anthropic, используются в секретных сценариях, например, для анализа целей. Однако возможность обучения этих моделей на чувствительных данных создает серьезные проблемы безопасности. Это означает, что критически важная информация, такая как данные наблюдения, может быть интегрирована в системы ИИ, увеличивая доступ к секретной информации для этих компаний.
Один из представителей обороны сообщил, что обучение ИИ на секретных данных может повысить точность и эффективность этих моделей для конкретных военных задач. Эта инициатива возникает на фоне растущего спроса на продвинутые возможности ИИ, и Пентагон сотрудничает с такими компаниями, как OpenAI и xAI, для использования их технологий в защищенных средах. Обучение будет проводиться в аккредитованных центрах обработки данных, с потенциальным доступом к секретной информации при строгих протоколах безопасности.
Перед тем как двигаться дальше, Пентагон планирует оценить эффективность моделей, обученных на не секретных данных. Исторически армия использовала ИИ для анализа изображений и заключала контракты с компаниями для разработки моделей для государственных нужд. Однако идея обучения ИИ непосредственно на секретных данных представляет собой значительный сдвиг в подходе армии к технологиям ИИ, вызывая опасения по поводу утечек информации и рисков безопасности.