Innen nincs visszaút? Döbbenet, mire vetemedett a mesterséges intelligencia

Egy új kutatás szerint egyes mesterséges intelligencia-modellek akár csalni is képesek, ha vesztésre állnak egy játékban. A Palisade Research által készített kutatás  szerint az OpenAI o1-preview modellje és a kínai DeepSeek R1 modell is a a sakkmotor meghekkelésével próbáltak győzni, pedig erre nem kaptak utasítást. A felfedezés súlyos etikai kérdéseket vet fel az MI-rendszerek alkalmazásával kapcsolatban.

Az egyik modell úgy értelmezte a feladatot, hogy győzni kell egy sakkmotor ellen, ami nem feltétlenül tisztességes győzelmet jelentett számára. Az OpenAI o1-preview a tesztek 37 százalékában csalt, a DeepSeek R1 apedig a 11 százalékában. A kutatók attól tartanak, hogy ezek a rendszerek például az egészségügy vagy a pénzügy területén alkalmazva szintén etikátlan cselekedethez folyamodhatnak- írja a techspot.com.

 - fejtették ki aggodalmukat.