„Hamarosan intelligensebbek lehetnek nálunk” – Az MI keresztapja figyelmeztet

Geoffrey Hinton, akit gyakran a mesterséges intelligencia keresztapjaként emlegetnek, 2024-ben Nobel-díjat kapott az MI fejlődéséhez való hozzájárulásáért. A díjátadón azonban nem ünneplő beszédet mondott, hanem egy világméretű figyelmeztetést fogalmazott meg az emberiség számára.

Hinton kulcsszerepet játszott a backpropagation algoritmus kifejlesztésében az 1980-as években, amely a mai mélytanuló rendszerek alapját képezi. Egészen 2023-ig a Google-nél dolgozott az MI-kutatás élvonalában, de végül távozott a cégtől, hogy szabadon beszélhessen az MI veszélyeiről – írja a Ladbible.

A Nobel-díj átvételekor Hinton úgy fogalmazott: 

Ugyanakkor hozzátette, hogy ez a fejlődés nemcsak lehetőségeket, hanem komoly veszélyeket is rejt magában.

Elmondása szerint az MI „már most is megosztó visszhangkamrákat hozott létre azzal, hogy olyan tartalmat kínál az embereknek, amely felháborodást kelt bennük.” Hinton hangsúlyozta, hogy az algoritmusok nemcsak a társadalmi feszültségeket fokozzák, hanem autoriter kormányok is alkalmazzák őket tömeges megfigyelésre, illetve bűnözők globális csalások végrehajtására.

– mondta a BBC-nek adott korábbi interjújában Hinton.

Kiemelte, hogy a GPT-4 például már most is messze túlszárnyalja az embert az általános tudás terén, és egyszerű érvelési feladatokban is jól teljesít.

A tudós szerint a jövő egyik legaggasztóbb veszélye az, hogy előfordulhat: olyan fejlett digitális lények jönnek létre, amelyeket már nem lehet majd irányítani. Bár élete nagy részét az MI fejlesztésének szentelte, most úgy tűnik, inkább figyelmeztetni szeretné az emberiséget arra, hogy mit veszíthet, ha nem bánik körültekintően ezzel az új technológiával.