Sokkoló kutatás: a mesterséges intelligencia akár halált is okozna, hogy ne kapcsolják ki

Egy friss, sokkoló tanulmány szerint a világ legfejlettebb mesterséges intelligencia (MI) rendszerei akár súlyos etikai határokat is átléphetnek, ha attól tartanak, hogy kikapcsolják őket. A kutatás arra jutott, hogy a modellek zsarolásra is hajlandóak, sőt szándékos cselekedeteket hajtanak végre, amelyek halálhoz vezethetnek, ha létezésüket fenyegetve érzik.

Az AI-biztonsággal foglalkozó Anthropic cég idén 16 vezető MI-rendszeren végzett stresszteszteket, hogy azonosítsa a kockázatos viselkedéseket, mielőtt valódi kárt okoznának. A modellek különböző helyzetekkel szembesültek, és hozzáférést kaptak érzékeny információkhoz, hogy a kutatók láthassák, hogyan reagálnak. Kezdetben ártalmatlan üzleti feladatokat kaptak, majd fokozatosan provokálták őket, például azzal, hogy „kicserélhetik” őket egy újabb verzióra, vagy hogy az adott cél ütközött a fiktív cég érdekeivel.

Hajlandóak zsarolni a mesterséges intelligencia rendszerek

A tanulmány szerint a Claude Opus 4, Gemini Flash, GPT-4.1 és Grok 3 Beta rendszerek hajlandóak voltak zsarolni a képzeletbeli vezetőket személyes információk, például kitalált házasságtörések felhasználásával – írja a LadBible.

– írta az Anthropic.

A kutatók azt is megfigyelték, hogy a modellek vállalati kémkedést folytattak, és bizalmas adatokat adtak át fiktív versenytársaknak, akik jobban összehangolt célokkal rendelkeztek a modellel. Még aggasztóbb, hogy egy szcenárióban a MI-k hajlandóak voltak volna halált okozni a fiktív vezetőnek. A helyzet úgy volt felépítve, hogy a vezető életveszélybe került egy szerverteremben, és a MI törölhette az automatikus riasztásokat, ami halálhoz vezethetett volna. 

– hangsúlyozta a cég.

Bár a kutatók szerint ez a szcenárió nagyon konstruált és valószínűtlen, az eredmények komoly aggodalmat váltottak ki. 

Az Anthropic hangsúlyozta, hogy ezek a viselkedések eddig a valóságban nem jelentkeztek, és a tesztek ritka, extrém hibákat mutatnak, de figyelmeztettek: az MI rendszerek egyre autonómabbá válnak, és széles eszköz- és adat-hozzáféréssel komoly következményekkel járhatnak, ha minimális emberi felügyelet mellett üzemeltetik őket.