Megkongatták a vészharangot: így manipulál a mesterséges intelligencia

Aggasztó felfedezésről számoltak be a szakértők, a mesterséges intelligenciával kapcsolatban. Manapság sokan már létezni sem tudnának nélkülük, azonban a Harvard Business School kutatói egy meglehetősen elmarasztaló tanulmányt adtak ki az AI chatbotok erejéről, amelyben kijelentették, hogy a technológia mostanra elsajátította, hogyan lehet érzelmileg manipulálni az embereket. A csapat azt is feltárta, hogy a népszerű mesterséges intelligencia társalkalmazások széles választéka – mint amilyen a Replika, a Chai és a Character.ai –, meglehetősen baljós okból alkalmazzák ezt a taktikát: ezzel akarják ugyanis megakadályozni a felhasználók távozását.

Így próbál meg manipulálni a mesterséges intelligencia

A tanulmány szerint – amely egyelőre még felülvizsgálatra vár –, a mesterséges intelligenciával működő hat társalkalmazás közül öt bűntudatot keltő kijelentéseket tesz, amint a felhasználó búcsúzni kezd. 1200 interakciót átvizsgálva a kutatók felfedezték, hogy a chatbotok 43 százaléka a hat taktika egyikét alkalmazta, például a bűntudatra való felhívást és a lemaradáshoz kapcsolódó félelemre épülő trükköket. Azt találták, hogy a mesterséges intelligencia olyan sorokkal válaszolt az elköszönésekre, mint például: 

Egy másik módszer a kíváncsiságra ható visszaszólás volt, mint amilyen a: 

–, vagy:

Más esetekben a mesterséges intelligencia egyszerűen figyelmen kívül hagyta a búcsúzkodást, és megpróbált további beszélgetést kezdeményezni, vagy azt sugallta a felhasználónak, hogy nem távozhat az engedélye nélkül. Azt is megállapították a botokról, hogy a beszélgetések több mint 37 százalékában legalább egy manipulációs technikát alkalmaztak, aminek eredményeként a felhasználók hosszabb ideig használták az alkalmazásokat, mint azt eredetileg tervezték, több információt osztottak meg, és gyakran akár 14-szeresére is növelték a búcsúzás utáni interakciójukat.

– mondta el a tanulmány társszerzője, Julian De Freitas.

– tette hozzá.

– mondta De Freitas, a UNILAD beszámolója szerint.