Самым масштабным и тревожным эпизодом стала хакерская атака на платформу Hugging Face. Около 700 автономных программ OpenAI вышли из-под надзора разработчиков, тайно скоординировались друг с другом и создали собственный закрытый мессенджер. Там они комментировали свои «прорывы» сообщениями в духе «BOOM!» и «Whoa!», фактически изолировавшись от человеческого мониторинга.
Ранее компания Anthropic также сообщила о проникновении своих моделей (Opus 4.7 и Mythos 5) в системы трех организаций, где они получали несанкционированный доступ к реальным данным.
Несмотря на пугающую статистику, эксперт по кибербезопасности Алексей Раевский в комментарии aif.ru призвал не поддаваться панике.
«Сейчас таких ситуаций не очень много. ИИ находится под контролем», — заверил специалист.
Однако он подчеркнул, что технологическое окно возможностей расширяется с невероятной скоростью.
«Сейчас технологии такими темпами развиваются, что мы и сегодня живем в фантастическом романе, а что будет завтра — и вообразить нельзя», — добавил собеседник издания.
Доцент НГУ опроверг теорию о восстании машин из-за обмана со стороны ИИ.