Az AI-verseny sötét oldala
Tíz százalékra saccolja az emberiség kihalásának esélyét egy évtizeden belül az Anthropic AI-kutatója.
Az AI-fejlesztések piacán a verseny diktálja a tempót, nem pedig a biztonság, ami magában hordozza annak veszélyét, hogy az egyre fejlettebb rendszerek képességei kontrollálhatatlanul fognak fejlődni. Az egyik legfontosabb szereplő, az Anthropic kutatói szerint a kockázat nagyobb, mint gondolnánk, bár ez nem a cég egyöntetű hivatalos állásfoglalása.
Az AI-fejlesztő laboratóriumoknál az óriási verseny arra ösztönzi a techcégeket, hogy minél gyorsabban rukkoljanak elő a legfejlettebb újabb modellekkel, ám kevesebb erőforrást fordítanak az etikai kérdésekre, és annak a veszélynek a kezelésére, hogy a technológiák potenciálisan kicsúszhatnak az emberi ellenőrzés alól. Az elmúlt hónapokban sorra érkeztek a hírek a kijelölt tesztkörnyezetek határaiból kiszabadult AI-ügynökökről, ami már magában intő jel lehet arra, hogy érdemes komolyabban venni a kérdést.
A probléma létjogosultságát mi sem bizonyítja jobban, minthogy a vezető AI-cégek berkein belül is vannak olyan kutatók, akik aggódnak az egyre fejlettebb rendszerek miatt.
A Claude-ot fejlesztő Anthropic kutatója, Jacob Coxon a napokban nyilvánosan bejelentette távozását a cégtől az X közösségi platformon, miután arra jutott, hogy kenyéradója és a versenytárs OpenAI túl gyorsan halad a magát továbbfejlesztő AI-rendszerek felé. A rekurzív önfejlesztés lehet az a pont, amikor az emberek kezéből kicsúszik az irányítás, és az AI gyakorlatilag már önmagát fejleszti.
Coxon bejegyzésére reagált Evan Hubinger, az Anthropic másik dolgozója is, aki szerint távozó kollégájának lényegében igaza van. Hubinger tett egy olyan merész kijelentést is, hogy szerinte 10 százaléknál nagyobb az esély arra, hogy az őrült AI-fejlesztések a következő évtizedben az emberiség kihalásához vezessenek.
De akkor miért nem állnak le?
A szakember szerint az Anthropic vezetői pontosan tisztában vannak a veszélyekkel, de a verseny arra ösztökéli a vállalatokat, hogy valószínűleg mivel senki nem lesz hajlandó lassítani, akkor legalább ők legyenek azok, akik kifejlesztik a szuperintelligenciát.
Az Anthropic ugyan elismeri az extrém AI-kockázatok lehetőségét, de egy augusztusi, 186 oldalas kockázati jelentésben a jelenlegi rendszerek által jelentett veszélyt alacsonynak értékelte.
(Forrás: TechCrunch, CNBC. Fotó: Unsplash)
