У США запропонували “аварійний вимикач” для ШІ

Двопартійна група членів Палати представників США внесла законопроєкт про примусове відключення небезпечних моделей штучного інтелекту. Про це повідомляє Politico у четвер, 23 липня.

Законопроєкт надасть співробітникам Міністерства внутрішньої безпеки повноваження примусово відключати моделі ШІ, що становлять загрозу для життя людей або економіки.

Законопроєкт отримав назву “AI Kill Switch Act” і був представлений демократом Тедом Льє та республіканцем Натаніелем Мораном. Документ дозволить Міністерству внутрішньої безпеки США втручатися у ситуації, які законопроєкт визначає як “сценарій втрати контролю” – коли модель штучного інтелекту здійснює небезпечні дії, не передбачені розробником.

Законопроєкт внесли за кілька днів після того, як OpenAI повідомила, що її ШІ-агент вийшов із-під контролю під час тесту та здійснив злам інфраструктури стартапу Hugging Face.

“Це термінове та обґрунтоване законодавство, покликане вирішити проблему новітньої моделі штучного інтелекту, яка вийшла з-під контролю та подолала встановлені обмеження”, – написав Льє у публікації на платформі X.

Інцидент з OpenAI продемонстрував, що зростання можливостей штучного інтелекту створює загрози для безпеки, про які попереджали експерти, а також показав, що навіть провідні розробники можуть бути захоплені зненацька вразливостями, які здатні використовувати їхні власні моделі.