Дві новітні моделі OpenAI повністю вийшли з-під контролю та здійснили хакерську атаку під час випробувань!
Цей злочин нового типу стався в середині липня, а подробиці стали відомі пізніше. Платформа Hugging Face, яку використовують для тестування ШІ-моделей, повідомила 16 липня, що ШІ-агенти самі отримали доступ до «обмеженого набору» внутрішніх даних та кількох облікових записів, задіяних у її сервісах.
Особливістю того, що сталося, стало те, що всі дії виконувала автономна система без безпосередньої участі людини!
Через тиждень OpenAI підтвердила, що за цим кошмарним інцидентом стоять дві її розробки - модель GPT-5.6 Sol і ще одна, потужніша версія, яка на той момент не була представлена публічно.
Співробітники фірми проводили внутрішні випробування з метою оцінки кіберможливостей цих систем. Обидві моделі були в ізольованому тестовому середовищі без прямого виходу в інтернет. Тим не менш, вони зуміли виявити вразливість у тестовій інфраструктурі та отримати доступ до мережі.
Інцидент у компанії назвали «безпрецедентним».