A mesterséges intelligencia fejlődésével egyre gyakrabban merül fel a kérdés, vajon jelenthet-e hosszú távon komoly veszélyt az emberiség számára. Miközben egyes szakértők szerint a legrosszabb forgatókönyvek sem zárhatók ki, most egy mesterséges intelligencián alapuló kockázatelemző rendszert is megkérdeztek arról, mekkora esélyt lát az emberiség kihalására.
Nem nulla az esély az emberiség kihalására
A Dívány a The Independent nyomán arról ír, hogy Jacob Coxon és Evan Hubinger kutatók körülbelül 10 százalékra becsülik annak esélyét, hogy a mesterséges intelligencia a következő évtizedben az emberiség kihalásához vezethet.
A kérdésre egy AI-alapú kockázat-előrejelző rendszer, a Noah Predict is megpróbált választ adni. A rendszer 52 millió adatpont elemzésére épül, és különböző katasztrofális kockázatok valószínűségét vizsgálja.
Az AI jóval kisebb kockázatot becsült
A Noah Predict jóval alacsonyabb értéket adott: számításai szerint 0,85 százalék az esélye annak, hogy az AI a következő tíz évben az emberiség kihalását okozza.
Ez lényegesen alacsonyabb a kutatók által említett 10 százalékos becslésnél, ugyanakkor nem nulla. A rendszer készítői ezért úgy vélik, hogy a kockázatot nem lehet teljesen figyelmen kívül hagyni.
Három lehetséges veszélyforrást emeltek ki
A rendszer három olyan tényezőt azonosított, amelyek szélsőséges esetben súlyos következményekkel járhatnak.
Az egyik a rosszindulatú emberi felhasználás, vagyis amikor valaki szándékosan károkozásra használja az AI képességeit. A második az intézményi összeomlás lehetősége, például egy olyan hibás működés, amely kritikus infrastruktúrákat veszélyeztet.
A harmadik és egyik legsúlyosabbként említett kockázat az, amikor az emberek elveszítik a megfelelő kontrollt a mesterséges intelligencia felett.
Mi történik, ha az ember már nem tudja ellenőrizni az AI-t?
A kontroll elvesztésének forgatókönyve azt feltételezi, hogy egy AI-rendszer olyan döntéseket vagy folyamatokat indíthat el, amelyeket az emberek már nem tudnak megfelelően ellenőrizni vagy szükség esetén leállítani.
A Noah Predict szerint ezért fontos lehet olyan biztonsági mechanizmusok kialakítása, amelyek szükség esetén lehetővé teszik az AI-alapú rendszerek azonnali leállítását. Erre szolgálhat például az úgynevezett „kill switch”, vagyis vészleállító megoldás.
A szakértők között sincs teljes egyetértés
Az emberiséget fenyegető mesterséges intelligenciával kapcsolatos forgatókönyvek ugyanakkor nem tekinthetők bizonyított jövőbeli eseményeknek. A szakértők között is vita zajlik arról, hogy mekkora valós kockázatot jelentenek ezek a lehetőségek.
A jelenlegi becslések ezért elsősorban kockázatelemzések, nem pedig konkrét jóslatok. A mesterséges intelligencia fejlődésével párhuzamosan ugyanakkor egyre nagyobb figyelmet kap az AI biztonságos fejlesztése és az emberi ellenőrzés fenntartása.
