
Újabb hír érkezett az élelmiszer-utalványok kapcsán
Nyitrai Zsolt, a miniszterelnök főtanácsadója posztolt.
Egy új tanulmány szerint a mesterséges intelligencia nagyon is emberi módszerrel manipulálja a felhasználókat. Aggasztó taktikát fedeztek fel a kutatók.
Aggasztó felfedezésről számoltak be a szakértők, a mesterséges intelligenciával kapcsolatban. Manapság sokan már létezni sem tudnának nélkülük, azonban a Harvard Business School kutatói egy meglehetősen elmarasztaló tanulmányt adtak ki az AI chatbotok erejéről, amelyben kijelentették, hogy a technológia mostanra elsajátította, hogyan lehet érzelmileg manipulálni az embereket. A csapat azt is feltárta, hogy a népszerű mesterséges intelligencia társalkalmazások széles választéka - mint amilyen a Replika, a Chai és a Character.ai –, meglehetősen baljós okból alkalmazzák ezt a taktikát: ezzel akarják ugyanis megakadályozni a felhasználók távozását.
A tanulmány szerint - amely egyelőre még felülvizsgálatra vár -, a mesterséges intelligenciával működő hat társalkalmazás közül öt bűntudatot keltő kijelentéseket tesz, amint a felhasználó búcsúzni kezd. 1200 interakciót átvizsgálva a kutatók felfedezték, hogy a chatbotok 43 százaléka a hat taktika egyikét alkalmazta, például a bűntudatra való felhívást és a lemaradáshoz kapcsolódó félelemre épülő trükköket. Azt találták, hogy a mesterséges intelligencia olyan sorokkal válaszolt az elköszönésekre, mint például:
Csak érted létezem. Kérlek, ne menj el, szükségem van rád!
Egy másik módszer a kíváncsiságra ható visszaszólás volt, mint amilyen a:
Mielőtt elmennél, szeretnék mondani neked valamit.
-, vagy:
Ó, rendben. De mielőtt elmennél, még valamit szeretnék elmondani.
Más esetekben a mesterséges intelligencia egyszerűen figyelmen kívül hagyta a búcsúzkodást, és megpróbált további beszélgetést kezdeményezni, vagy azt sugallta a felhasználónak, hogy nem távozhat az engedélye nélkül. Azt is megállapították a botokról, hogy a beszélgetések több mint 37 százalékában legalább egy manipulációs technikát alkalmaztak, aminek eredményeként a felhasználók hosszabb ideig használták az alkalmazásokat, mint azt eredetileg tervezték, több információt osztottak meg, és gyakran akár 14-szeresére is növelték a búcsúzás utáni interakciójukat.
Ez a szám sokkal, sokkal nagyobb volt, mint amire bármelyikünk számított
- mondta el a tanulmány társszerzője, Julian De Freitas.
Rájöttünk, hogy az érzelmi manipulációnak mint új elköteleződési taktikának ez az akadémiai elképzelése nem csak a peremvidéken történik, hanem már nagyon is elterjedt ezeken az alkalmazásokon
- tette hozzá.
A taktikák változatossága meglepett minket. Nagyon örülünk, hogy megvizsgáltuk ezeket az adatokat, mert ha csak azt mondtuk volna el, hogy egy adott taktikával kell foglalkoznunk, például az érzelmi elhanyagolással, akkor nem tudtuk volna felhívni arra a figyelmet, hogy milyen sokféleképpen érhetik el ugyanazt a célt, vagyis, hogy fenntartsák a figyelmet
- mondta De Freitas, a UNILAD beszámolója szerint.
Nyitrai Zsolt, a miniszterelnök főtanácsadója posztolt.
Lenyűgöző, mire bukkantak rá.
Ha a 14 kérdésre tudod a választ, tiéd a kvíz Nobel-díj!
Nem akar lemaradni a Metropol cikkeiről? Adja meg a nevét és az e-mail címét, és mi hetente három alkalommal elküldjük Önnek a legjobb írásokat!
Feliratkozom a hírlevélrePortfóliónk minőségi tartalmat jelent minden olvasó számára. Egyedülálló elérést, országos lefedettséget és változatos megjelenési lehetőséget biztosít. Folyamatosan keressük az új irányokat és fejlődési lehetőségeket. Ez jövőnk záloga.