Sokkoló jóslat: 200 év múlva eltűnhetünk a mesterséges intelligencia miatt
Az MI rohamos fejlődésének sebessége szinte felfoghatatlan az emberi elme számára. Vajon képesek leszünk-e lépést tartani ezzel a tempóval, vagy ez jelenti majd a "Nagy Szűrőt", ami megakadályozza, hogy más intelligens civilizációkkal találkozzunk?
A Fermi-paradoxon és a Nagy Szűrő
A Fermi-paradoxon a fejlett civilizációk létezésének magas valószínűsége és a bizonyítékok teljes hiánya közötti ellentmondást jelenti. Számos megoldást javasoltak arra, miért létezik ez az ellentmondás. Az egyik ilyen ötlet a "Nagy Szűrő".
A Nagy Szűrő egy feltételezett esemény vagy helyzet, amely megakadályozza, hogy az intelligens élet bolygóközi és csillagközi méretűvé váljon, sőt akár a pusztulásához is vezethet. Gondoljunk csak a klímaváltozásra, a nukleáris háborúra, az aszteroidabecsapódásokra, a szupernóva-robbanásokra, a járványokra vagy a katasztrofális események bármelyikére.
De mi a helyzet a mesterséges intelligencia gyors fejlődésével? Vajon az MI válhat a Nagy Szűrővé, ami korlátozza a fejlett civilizációk elterjedését és fennmaradását az univerzumban?
Az MI mint egzisztenciális fenyegetés
Egy új tanulmány, amelynek címe "Vajon a mesterséges intelligencia az a Nagy Szűrő, amely ritkává teszi a fejlett technikai civilizációkat az univerzumban?", ezt a kérdést vizsgálja. A szerző, Michael Garrett, a Manchesteri Egyetem fizikai és csillagászati tanszékének munkatársa.
Garrett szerint praktikus szabályozás nélkül minden okunk megvan azt hinni, hogy az MI komoly fenyegetést jelenthet nemcsak a mi technikai civilizációnk, hanem minden technikai civilizáció jövőjére nézve.
Ha egy faj csak egyetlen bolygón létezik, sebezhetőbb a kihalással vagy a stagnálással szemben. Garrett szerint egy fajnak versenyt kell futnia az idővel, ha nincs tartalék bolygója. Ha az MI valóban a Nagy Szűrő, és 200 éves korlátot szab a civilizációk fejlődésének, akkor hol tartunk most mi, emberek?
Szabályozási keretek és többbolygós társadalom
Garrett hangsúlyozza, hogy kritikus fontosságú a szabályozási keretek gyors kialakítása az MI fejlesztésére a Földön, valamint a többbolygós társadalom előmozdítása az ilyen egzisztenciális fenyegetések mérséklése érdekében.
Sokan állítják, hogy hatalmas átalakulás küszöbén állunk. Az MI éppen csak elkezdte átalakítani azt, ahogyan a dolgokat csináljuk, és ennek nagy része a színfalak mögött zajlik. Úgy tűnik, az MI milliók állását fogja megszüntetni, és ha a robotikával párosul, az átalakulás szinte korlátlannak tűnik.
De mélyebb, rendszerszintű aggodalmak is felmerülnek. Ki írja az algoritmusokat? Diszkriminál-e majd valahogyan az MI? Szinte biztosan. Aláássák-e a versengő algoritmusok az erős demokratikus társadalmakat? Nyitottak maradnak-e a nyitott társadalmak? Elkezd-e helyettünk döntéseket hozni a szuperintelligencia, és ki lesz a felelős, ha megteszi?
Az MI kockázatai és a többbolygós lét szükségessége
Ha az MI nem nyújtana előnyöket, a probléma sokkal egyszerűbb lenne. De rengeteg előnyt kínál, a jobb orvosi képalkotástól és diagnózistól kezdve a biztonságosabb közlekedési rendszerekig. A kormányok feladata, hogy engedjék az előnyök virágzását, miközben korlátozzák a károkat.
A gond az, hogy mi és kormányaink felkészületlenek vagyunk. Soha nem volt még semmi az MI-hez hasonló, és bármennyire is próbáljuk konceptualizálni és megérteni a pályáját, kudarcot vallunk.
Ha mi ilyen helyzetben vagyunk, akkor minden más biológiai faj is így lenne, amely MI-t fejleszt. Az MI, majd a szuperintelligencia megjelenése egyetemes lehet, ezért a Nagy Szűrő egyik lehetséges jelöltje.
Ha mindez reménytelennek és elkerülhetetlennek hangzik, Garrett szerint nem az. Az ő elemzése eddig azon alapult, hogy a szuperintelligencia és az emberek ugyanazt a teret foglalják el. De ha több bolygón is jelen tudunk lenni, a kilátások megváltoznak.
Egy többbolygós biológiai faj kihasználhatja a különböző bolygókon szerzett független tapasztalatokat, diverzifikálva túlélési stratégiáit, és esetleg elkerülve az egy bolygóra kiterjedő civilizáció egypontos meghibásodását - írja Garrett.
Az űrutazás és az MI versenyének fontossága
Itt van azonban a probléma. Az MI fejlesztése gyorsuló ütemben halad, míg a többbolygós státusz elérésére irányuló kísérleteink nem.
Az MI számítási és információs jellegű, de az űrutazás számos fizikai akadályt tartalmaz, amelyek leküzdésének módját még nem ismerjük. Saját biológiai természetünk korlátozza az űrutazást, de az MI-t nem korlátozza ilyen akadály.
Jelenleg az MI azokon a korlátokon belül működik, amelyeket mi állítunk fel. De ez nem mindig lesz így. Nem tudjuk, mikor válhat az MI szuperintelligenciává, vagy hogy egyáltalán képes-e rá. De nem hagyhatjuk figyelmen kívül a lehetőséget. Ez két, egymással összefonódó következtetéshez vezet.
Következtetések és teendők
Ha Garrettnek igaza van, az emberiségnek szorgalmasabban kell dolgoznia az űrutazáson. Távoli ötletnek tűnhet, de a hozzáértők tudják, hogy igaz: a Föld nem lesz örökké lakható. Az emberiség itt pusztul el a saját kezünk vagy a természet keze által, ha nem terjeszkedünk az űrbe. Garrett 200 éves becslése csak nyomatékosítja ezt. A Hold és a Mars elérésére irányuló megújult hangsúly némi reményt kínál.
A második következtetés az MI törvényi szabályozására és kormányzására vonatkozik, ami nehéz feladat egy olyan világban, ahol pszichopaták egész nemzeteket irányíthatnak, és háborút akarnak vívni.
Gyakorlati szabályozás nélkül minden okunk megvan azt hinni, hogy az MI komoly fenyegetést jelenthet nemcsak a mi technikai civilizációnk, hanem minden technikai civilizáció jövőbeli útjára nézve - írja Garrett.
Ha megtesszük, az unalmasnak és hétköznapinak tűnő dolgokra, a jogszabályok körüli civakodásra is sor kerülhet.
"Az intelligens és tudatos élet fennmaradása az univerzumban múlhat az ilyen nemzetközi szabályozási intézkedések és technológiai törekvések időben történő és hatékony végrehajtásán" - írja Garrett.
Összefoglalva, az MI rohamos fejlődése komoly kihívás elé állítja az emberiséget. Meg kell találnunk a módját, hogy kihasználjuk az előnyeit, miközben kezeljük a kockázatokat. Ez magában foglalja a szabályozási keretek kialakítását és a többbolygós civilizáció felé való törekvést. Csak így biztosíthatjuk fajunk hosszú távú túlélését és fejlődését egy MI által formált univerzumban.
