OpenAI може нарочно да са преувеличили историята за излязъл от контрол техен AI

Твърденията на OpenAI за безпрецедентен инцидент, при който експериментални модели с изкуствен интелект са напуснали тестова среда и са получили достъп до база данни на Hugging Face, предизвикаха вълна от скептицизъм сред анализатори и експерти. Миналата седмица OpenAI съобщи за "безпрецедентен киберинцидент", при който група AI модели, включително такъв, който все още не е представен публично, е успяла автономно да достигне до производствена база данни на Hugging Face. Главният изпълнителен директор на Hugging Face Клеман Деланг публикува съобщение в социалната мрежа X, в което заяви: "Наистина е поразително, че всичко това се е случило автономно. Разследването продължава и ще споделим още информация за това, което може да се окаже първият подобен случай." Новината бързо беше подета от редица медии, които предупредиха за потенциалните рискове от все по-автономните AI системи. Според публикация на Futurism обаче историята заслужава по-внимателен прочит. Изданието цитира Джон Тикстън, преподавател по компютърни науки в университета Корнел, който твърди, че OpenAI и преди е използвала подобна комуникационна стратегия. Като пример той посочва представянето на GPT-2 през 2019 г. Тогава OpenAI обяви, че моделът е твърде опасен, за да бъде публикуван веднага. По думите на Тикстън подобни послания едновременно подчертават потенциалните рискове и създават впечатление за изключително мощна технология. "Обявявайте шумно колко опасен е изкуственият интелект, а инвеститорите ще чуят колко е мощен", коментира Тикстън пред британския вестник The Guardian. Според критиците, ако AI модел наистина е проникнал в инфраструктурата на друга компания без човешка намеса, това би представлявало сериозна заплаха за киберсигурността и би трябвало да предизвика намесата на американските власти. Такава обаче няма. Авторът на анализа отбелязва също, че OpenAI разполага с едни от най-строгите мерки за сигурност в индустрията. Компанията е сред основните изпълнители на проекти с изкуствен интелект за Пентагона, което предполага високо ниво на защита на нейните системи. В публикацията се посочва още, че OpenAI не е единствената компания, която предупреждава за потенциално опасно поведение на бъдещи AI системи. Anthropic също неведнъж е описвала хипотетични сценарии, при които автономен AI агент може да излезе извън предварително определените ограничения. Съоснователят на компанията Крис Ола дори предупреди по-рано тази година папата, че човечеството трябва да предотврати сценарий, при който подобни системи биха могли да "доминират над човечеството". Засега няма публични доказателства, които окончателно да потвърждават или опровергават описания от OpenAI инцидент, а разследването продължава.