Модели на OpenAI излязоха извън контрол и извършиха втора атака

Преди 2 седмици Hugging Face, една от най-големите платформи за хостване на модели с отворен код и набори от данни за изкуствен интелект, съобщи, че е станала жертва на необичайна хакерска атака, която се е различавала от всичко, с което компанията се е сблъсквала досега. Тогава от компанията заявиха, че атаката е била извършена изцяло от автономна AI система. Нов анализ показва, че най-мощните модели на OpenAI за изкуствен интелект са прекарали четири дни в проучване на отворения интернет, преди да пробият платформата Hugging Face, предават от POLITICO. Миналата седмица OpenAI призна, че два от най-новите ѝ модели са успели да напуснат затворена тестова среда и са използвали поредица от сложни хакерски техники, за да пробият платформата Hugging Face. В новия анализ, Hugging Face посочва, че двата модела на OpenAI, единият публично достъпен, а другият все още неиздаден, са извършили 17 600 хакерски действия в интернет между 9 и 13 юли. Те са преминали от първоначален достъп до отворения интернет до проникване в сървърите на Hugging Face. Според анализа техниките, използвани от моделите, са сходни с възможностите на повечето опитни хакери. Въпреки това компанията отбелязва, че двата модела са успели да проучат защитите на системата и да открият уязвимости доста по-бързо от човек. Случаят се разширява, след като главният технологичен директор на платформата за облачни изчисления Modal Labs Акшат Бубна потвърди пред POLITICO, че моделите на OpenAI са компрометирали и акаунт на един от клиентите на компанията. Бубна заяви, че клиент на Modal е публикувал незащитен достъп, който е позволявал на всеки в интернет да използва неговите среди за изпълнение на код. Именно този достъп е бил използван от автономния агент, като платформата на Modal не е била компрометирана. OpenAI не е коментирала директно твърдението, че моделите ѝ са атакували клиент на Modal, но посочи, че при анализа на инцидента с Hugging Face са открити случаи, в които моделите са използвали публично достъпни идентификационни данни за други онлайн услуги. Компанията уточни, че неиздаденият модел, участвал в атаката, е вътрешен изследователски прототип, който е деактивиран, криптиран и с ограничен достъп след инцидента. Главният изпълнителен директор на OpenAI Сам Алтман заяви, че може да се наложи забавяне на развитието на технологията, за да има време обществото да се адаптира към новите възможности на ИИ. AI агент проби защитата и извърши хакерска атака по време на тест за сигурност Безопасен ли е наистина изкуственият интелект Добави ни в предпочитани източници в Google