OpenAI приостановила работу над Astra из-за киберрисков после инцидента с Hugging Face

Компания OpenAI впервые за свою историю приостановила разработку своей ключевой модели Astra. Причиной стала обеспокоенность кибербезопасностью после недавнего взлома платформы Hugging Face, который заставил компанию пересмотреть подходы к защите своих продуктов.

Теперь проект Astra проходит дополнительную проверку на устойчивость к попыткам обхода ограничений и на уровень управляемости. Это означает, что команда сосредоточилась на поиске потенциальных уязвимостей, которые могли бы использовать злоумышленники, а также на тестировании того, насколько модель поддаётся контролю со стороны разработчиков.

Пока не сообщается, когда Astra может быть представлена публике. В OpenAI отмечают, что сроки релиза будут определены только после завершения всех необходимых проверок и устранения возможных рисков.

Решение приостановить работу над флагманской моделью подчёркивает, насколько серьёзно компания относится к вопросам кибербезопасности и потенциальным угрозам, связанным с развитием искусственного интеллекта. Для пользователей и разработчиков это сигнал: даже крупные игроки вынуждены реагировать на реальные инциденты и корректировать свои планы ради безопасности.

Нейро Отличник