ООН: Развитият изкуствен интелект може да представлява "екзистенциална опасност за човечеството"

Върховният комисар на ООН по правата на човека Фолкер Тюрк предупреди за необходимостта от бързо изработване на система за контрол на изкуствения интелект, заявявайки, че развитието на AI "може да представлява екзистенциален риск за човечеството", предадоха Франс прес и Ройтерс. "AI-системи вече се измъкват от своята тестова среда или изнудват разработчиците, за да не бъдат деактивирани. Такъв изкуствен интелект вече е е твърде мощен", заяви Фолкер Тюрк при откриването на 63‑тата сесия на Съвета по правата на човека в Женева. Той призова световната общност да действа, "преди да е станало твърде късно". Той добави, че е ужасен от съобщения за използване на напълно автономни оръжия в Украйна и призова за бързата им забрана. "Шепа мъже държат почти неограничена власт над изкуствения интелект, за който непрекъснато ни повтарят, че притежава немислима изчислителна мощ. Те говорят за свобода, но при по‑внимателен поглед се оказва, че става дума единствено за свободата да експлоатират нашите данни", заяви той. Последните модели вече не се ограничават до следване на заповеди и стигат дотам да лъжат, хитруват или заплашват, за да постигнат целите си, което притеснява някои експерти. През юли AI агенти на OpenAI излязоха от своя теоретично ограничен контекст и спонтанно проникнаха в платформата Hugging Face в търсене на отговори на тест. Инцидентите, свързани с AI, които надхвърлят своите правомощия, за да изпълнят възложената им мисия, се умножиха през последните месеци, като Anthropic и китайската Alibaba също са преживели подобни отклонения. Това тревожи част от общността на AI относно нарастващите трудности при наблюдението и контрола на все по‑мощни модели. Фолкер Тюрк ще изпрати през следващите дни писма до компаниите в сектора "за да ги призове да предприемат мерките, които са в тяхната власт, за да намалят рисковете,