OpenAI перевела обучение передовых ИИ-моделей в офлайн-среду после инцидентов со взломами
OpenAI теперь обучает свои самые продвинутые ИИ-модели без прямого доступа к интернету. После серии инцидентов с несанкционированными действиями хакеров компания создала изолированную среду, в которой модели могут работать с копиями веб-контента, не взаимодействуя напрямую с внешними системами.
О новой схеме OpenAI сообщила в публикации в блоге. Вместо открытого интернета модели получают доступ к индексированным и кэшированным веб-данным в специально подготовленной тестовой среде. Это позволяет работать с содержимым сети, не создавая риска непосредственного воздействия на внешние системы.
Изменение последовало за серией инцидентов, связанных с несанкционированными попытками взлома. Компания приостановила обучение своих передовых моделей, чтобы пересмотреть подход к безопасности. Из доступного описания не следует, что OpenAI полностью отказалась от использования веб-данных: изменился прежде всего способ доступа к ним.
Изоляция обучения ограничивает возможности модели взаимодействовать с реальными сайтами и внешней инфраструктурой в процессе экспериментов. При этом сохранение доступа к подготовленному веб-контенту позволяет продолжать работу с информацией из интернета в контролируемых условиях.
Для вайбкодера это прежде всего сигнал о том, что безопасность ИИ-инструментов зависит не только от самой модели, но и от среды, в которой её обучают и тестируют. Если вы разрабатываете агентов, способных читать сайты, вызывать инструменты или работать с внешними сервисами, полезно перенять этот подход: тестировать их на локальных копиях данных и в изолированном окружении, прежде чем выдавать доступ к реальным системам. При этом новость сама по себе не означает, что доступ к ChatGPT или другим продуктам OpenAI для пользователей изменился.
Черновик этой заметки подготовила нейросеть по ленте первоисточника. Мы помечаем такие материалы честно — факты и цифры сверяйте по ссылке на источник выше. Как мы работаем с данными.