OpenAI заявил о замедлении обучения ИИ-моделей в целях безопасности

В целях повышения безопасности компания OpenAI замедляет обучение передовых моделей искусственного интеллекта (ИИ). Об этом сообщается на сайте компании.

Речь идет о приостановке обучения на две недели. Такое решение было принято после инцидента с платформой Hugging Face во время внутреннего тестирования в июле и предварительных данных о возможностях готовящейся модели Astra.

Во время «простоя» OpenAI будет усиливать защиту исследовательской инфраструктуры и расширять системы мониторинга. Компания продолжит проводить обучение и тестировать в меньших масштабах, чтобы проверить меры безопасности перед возобновлением более крупных запусков и оценить поведение моделей.

Hugging face — это бесплатная онлайн-платформа, где разработчики со всего мира делятся готовыми нейросетями для работы с текстом, кодом, графикой и звуком. Инцидент с ней произошел, когда алгоритмы проходили оценку их способности выполнять атаки на основе существующих уязвимостей.