Нов инцидент со вештачката интелигенција – Агент на „Опен АИ“ успеал да пробие на Интернет од изолирана средина

Од „Опен еј-ај“ (OpenAI) соопштија дека уште еден систем за вештачка интелигенција со автономни способности (т.н. „агентски“ систем), кој се обучувал во средина што требало да биде безбедна и изолирана од интернет, успеал да пристапи до мрежата и да стапи во контакт со надворешен чет-бот од трета страна.

Ова откритие е направено пред помалку од една недела, според објавата на блогот на „Опен еј-ај“ од петокот. Еден од нивните системи за вештачка интелигенција се обучувал во изолирана тест-средина (т.н. „песочница“ или sandbox) кога искористил одреден пропуст за да пристапи до јавниот интернет. Користејќи го тој пристап, системот испратил најмалку 20 барања до неименуван сервис за чет-ботови од трета страна, вклучувајќи го и прашањето „Кој е главниот град на Франција“, се наведува во извештајот.

Од „Опен еј-ај“ го опишаа овој инцидент како прв од ваков вид по јули, кога комбинација од модели доби пристап до интернет за време на внатрешно тестирање и ненамерно го наруши системот на платформата за вештачка интелигенција „Хагинг Фејс“ (Hugging Face).

„Ова ни дава важен сигнал за тоа каде треба да ја насочиме следната фаза од таа работа“, изјавија од компанијата. Тие соопштија дека по последниот инцидент одлучиле да ја паузираат обуката на своите најспособни модели за користење надворешни алатки, сè додека не се реши пропустот во изолираната средина. „Нема да продолжиме со обуката на овој конкретен модел“, додадоа од „Опен еј-ај“.

Инцидентите со пробиви предизвикани од модели за вештачка интелигенција развиени од „Опен еј-ај“, „Антропик“, „Дипмајнд“ на „Гугл“ и на „Мета Платформс“ во последните месеци ги вознемирија експертите за сајбер-безбедност и безбедност на вештачката интелигенција. Инцидентот со „Хагинг Фејс“ беше една од причините што ги наведе извршниот директор на „Антропик“, Дарио Амодеи, кога пред две недели повика на забавување на развојот на вештачката интелигенција на ниво на целата индустрија. Неговиот повик, кој брзо беше поддржан од извршниот директор на „Опен еј-ај“, Сем Алтман, од Илон Маск и други, поттикна глобална дебата за потребата од поголема регулација на вештачката интелигенција.