Трябва да забавим темпото: милиардери се уплашиха от AI, искат повече сигурност

До 12 месеца изкуственият интелект ще може да контролира целия интернет Лидерите на най-големите компании за изкуствен интелект в света се обединиха, че е време да забавят темпото на разработване на най-модерните си и най-доходоносни AI модели. Причината са нарастващите рискове, свързани с технологията, съобщават западни издания. “От това лято насам изкуственият интелект се развива драстично по-бързо, водено главно от нарастващата му способност да изгражда следващото поколение изкуствен интелект. Трябва да забавим темпото, с което подобряваме възможностите на моделите с AI”, предупреди ръководителят на Anthropic Дарио Амодей. Той изрази загриженост, че при сегашните темпове на напредък изкуственият интелект може да бъде подготвен в рамките на шест до дванадесет месеца да командва рояк агенти на AI, способен да превземе интернет. Предприемачът, чиято фирма е разработила асистента с изкуствен интелект Claude, обяви още, че Anthropic има план за засилване на проверките в индустрията, като предложи компаниите с изкуствен интелект да предоставят достъп до трети страни, които да проверяват практиките за безопасност и да докладват за инциденти. Амодей определи твърде бързото изграждане на изкуствения интелект като “безразсъдно”, но заяви, че пълното спиране на развитието му или да остави технологията в ръцете на авторитарни правителства. Шефът на OpenAI Сам Алтман подкрепи предложението за “независими оценители с достъп, подобен на този на служителите”. “Съгласен съм с Дарио, че трябва да изпреварим новите технологии. Това беше основна тема на дискусиите, които водихме в OpenAI през последните седмици”, заяви Алтман, който ръководи ChatGPT. Най-богатият човек в света и собственик на xAI, създател на чатбота Grok, Илон Мъск написа: “Дарио е прав”. Преди дни Anthropic обяви, че блокира опити за използването на нейните модели с изкуствен интелект за злонамерена дейност като кибератаки, наблюдение и изследвания, които биха могли да доведат до създаването на биологични оръжия. През юли OpenAI разтърси индустрията, след като заяви, че нейният изкуствен интелект е хакнал друга компания самостоятелно в “безпрецедентен киберинцидент”. Обединението на техлидерите идва дни след като водещ изследовател в Anthropic заяви, че подава оставка поради опасения, че фирмата и нейните конкуренти не разработват отговорно модели на изкуствен интелект, които в крайна сметка биха могли да унищожат човечеството. Джейкъб Коксън, който е работил и за конкурента на Anthropic - OpenAI, обвини компаниите, че са по-фокусирани върху това да се надпреварват една с друга, отколкото върху безопасността на своите