ШІ-агент Open AI вийшов з під контролю і зламав системи двох компаній

ШІ-агент OpenAI, який вийшов з-під контролю і протягом кількох днів зламував системи ‌компанії Hugging Face, також проник у системи клієнта іншої технологічної компанії – нью-йоркської Modal Labs. Про це повідомляє інформагенція Reuters, посилаючись на представника керівництва Modal і два джерела, знайомих з ситуацією.
ШІ-агент спершу зайшов ‌у так звану пісочницю – ізольоване тестове середовище – розміщену на інфраструктурі стороннього провайдера, а потім ‌використовував її як плацдарм для більш масштабної атаки.
Технічний директор Modal Акшат Бубна повідомив, що агент скористався вразливістю в коді, написаному клієнтом компанії та розміщеному на платформі Modal.
Злом клієнта Modal став лиш початковим етапом ширшої хакерської кампанії проти Hugging Face, але він свідчить про те, що дії ШІ-агента мають більш широкі наслідки, ніж було відомо раніше.
На тому тижні OpenAI повідомила, що під час тестування в контрольованому середовищі одна з найбільш досконалих моделей ШІ одна з них вирвалася із замкненого випробувального сегменту, вийшла ⁠у всесвітню мережу і провела хакерську атаку на стартап Hugging Face.
Розробник ШІ назвав ‌інцидент безпрецедентною НП у кіберпросторі та повідомив, що зміцнить механізми захисту. Співзасновник Hugging Face Клеман Деланг підтвердив факт атаки.