Komoly civilizációs kockázatot jelenthet az emberiségre nézve a mesterséges intelligencia

Itt állíthatja be, hogy a Google keresőben elsők között legyen a Metropol

Az „AI keresztapja” azt állítja, hogy a nagy techcégek, például OpenAI, Anthropic, xAI és Google versenye egyre gyorsabban közelít egy olyan szuperintelligens AI létrehozásához, amely már az embernél intelligensebb lehet. A mesterséges intelligencia várhatóan 2030-ra éri el ezt a szintet.

Szerző: Metropol

Létrehozva: 2026.05.15.

mesterséges intelligencia technológiai cégek MI

Yoshua Bengio azt mondta, hogy jogokat adni a mesterséges intelligencia számára olyan lenne, mintha ellenséges földönkívülieknek adnának állampolgárságot. Az AI egyik keresztapjaként emlegetett Bengio szerint a technológiai óriáscégek versenye az AI-fölényért felgyorsíthatja az emberiség kihalásához vezető utat.

A mesterséges intelligencia várhatóan 2030-ra meghaladja majd az emberi intelligenciát. Fotó: rawpixel.com / Busbus / Freepik

Bengio, aki a Montréali Egyetem professzora, arról vált ismertté, hogy a világot a szuperintelligens AI által jelentett veszélyekre figyelmezteti. Az „AI keresztapja” elnevezést azután kapta, hogy 2018-ban elnyerte a Turing-díjat, amelyet a számítástechnika Nobel-díjának megfelelő elismerésként tartanak számon.

Az elmúlt évben jelentősen felgyorsult a nagy technológiai cégek versenye – köztük az Anthropic, az OpenAI, Elon Musk xAI-ja és a Google Gemini rendszere között –, ami Bengio figyelmeztetését váltotta ki: az öntudatra ébredő gépek saját önfenntartási célokat alakíthatnak ki. És szerinte hamarabb megjelenhetnek, mint gondolnánk – írja Unilad.

Sam Altman, az OpenAI vezérigazgatója következetesen azt vetítette előre, hogy a mesterséges intelligencia a következő néhány évben, várhatóan 2030-ra meghaladja majd az emberi intelligenciát. Bár ez egyeseket lelkesíthet, Bengiót nem. Yoshio arra kérte a nagy technológiai cégeket, hogy fékezzék meg a hiperintelligens AI hajszolását.

Olyan, mintha az emberiség számára egy nálunk intelligensebb versenytársat hoznánk létre

A Wall Street Journalnak nyilatkozva Bengio ezt mondta: „Ha nálunk sokkal intelligensebb gépeket építünk, amelyek saját önfenntartási célokkal rendelkeznek, az veszélyes. Olyan, mintha az emberiség számára egy nálunk intelligensebb versenytársat hoznánk létre. A közelmúltbeli kísérletek azt mutatják, hogy bizonyos helyzetekben, amikor az AI-nak nincs más választása, csak a saját fennmaradása – vagyis a számára adott célok megőrzése – és egy ember halálát okozó döntés között, akkor az ember halálát választhatja a céljai megőrzése érdekében.”

Sam Altman előrejelzése szerint az AI 2030-ra meghaladhatja az emberi intelligenciát.

Mikor válhat veszélyessé a mesterséges intelligencia az emberiség számára?

Bengio időkeretet is megadott arra, mikor jelenhetnek meg az AI-modellekből fakadó jelentős kockázatok: szerinte a következő öt-tíz évben. Azt is felvetette, hogy már ennél korábban el kellene kezdeni a felkészülést arra az esetre, ha a fejlesztések a vártnál gyorsabban haladnának.

A kihaláshoz hasonló katasztrofális eseményekkel – és az ennél kevésbé szélsőséges, de még mindig katasztrofális eseményekkel, például a demokráciáink lerombolásával – az a probléma, hogy annyira súlyosak, hogy még akkor sem elfogadhatók, ha csak egy százalék az esélyük.

Azt is felvetette, hogy a nagy technológiai cégeknek készen kellene állniuk kihúzni a dugót, ha az AI az önfenntartás jeleit mutatja. A Guardiannek nyilatkozva Bengio azt mondta, hogy a legfejlettebb AI-rendszerek jogi státuszának elismerése olyan lenne, mintha ellenséges földönkívülieknek adnának állampolgárságot.

Azok, akik azt követelik, hogy az AI-nak jogai legyenek, óriási hibát követnének el. A legfejlettebb AI-modellek már ma is az önfenntartás jeleit mutatják kísérleti környezetben, és ha végül jogokat adnánk nekik, az azt jelentené, hogy nem lenne szabad leállítanunk őket. Ahogy a képességeik és az önállóságuk mértéke növekszik, biztosítanunk kell, hogy technikai és társadalmi korlátokkal kézben tudjuk tartani őket – beleértve annak lehetőségét is, hogy szükség esetén le lehessen állítani őket.

A Sentience Institute nevű amerikai agytröszt – amely minden érző lény erkölcsi jogait támogatja – felmérése szerint közel tízből négy amerikai felnőtt támogatná, hogy egy öntudatos AI jogi jogokat kapjon.