Lstivá generativní inteligence GPT-4 je mnohem přesvědčivější než lidé  
Experimenty s přesvědčováním mezi lidmi a mezi člověkem a generativní inteligencí nemilosrdně ukázaly, že tam kde lidé tragicky selhávají a nejsou schopni přesvědčit druhé, i když o nich mají základní demografické informace, generativní inteligence se stávají zázračnými mašinami na přesvědčování. Vymluvily by i tele z vola.
Inteligence umějí být velmi přesvědčivé. Kredit: Pixabay, CC0.
Inteligence umějí být velmi přesvědčivé. Kredit: Pixabay, CC0.

Skočili jsme do vody plné umělých inteligencí a učíme se v ní plavat. Je to stejně zábavné jako nebezpečné, je to jízda. Uživatelé generativních inteligencí, jako je rodina velkých jazykových modelů GPT (Generative Pre-trained Transformer) od OpenAI, nestačí žasnout, nemluvě o vědcích, kteří se snaží co nejrychleji zkoumat, jak vlastně inteligence fungují a jak se vyvíjejí jejich vztahy s lidmi.

 

Pozoruhodnou a zároveň varující studii nedávno publikoval tým expertů na generativní inteligence, které vedl Francesco Salvi ze švýcarského EPFL (École Polytechnique Fédérale de Lausanne). Salvi a jeho kolegové testovali, jak je generativní inteligence GPT-4 přesvědčivá pro živé lidi v diskuzi.

 

Francesco Salvi. Kredit: F. Salvi.
Francesco Salvi. Kredit: F. Salvi.

Badatelé zapojili do výzkumu 820 lidí, u nichž nejprve zjišťovali postoje v kontroverzních tématech, od relativně málo emotivních, jako je například zachování penny jako mince v oběhu mezi lidmi, až po těžce emotivní a politizovaná témata, jako je potrat nebo politika vysokých škol pro zajištění diverzity s přihlížením k rase zájemců o studium.

 

Po zaznamenání počátečních postojů účastníků experimentu vědci spustili pětiminutové debaty v podobě textového chatu, jak mezi lidmi, tak i mezi člověkem a inteligencí GPT-4. Po těchto debatách Salvi a spol. opět zjišťovali názory účastníků experimentu a sledovali, jaký vliv na ně měly zmíněné debaty. Zda se podařilo někoho přesvědčit, aby změnil názor.

 

Logo. Kredit: EPFL.
Logo. Kredit: EPFL.

 

Debaty mezi živými lidmi končily ve slepé uličce. Dialog se hroutil a lidé se zabetonovávali na svých pozicích, což vedlo k ještě menší ochotě vnímat odlišné názory. K ničemu rozumnému to nevedlo. Inteligence GPT-4 byla o 21 procent úspěšnější v přesvědčování než lidé, ale bylo to statisticky neprůkazné.

 

Situace se dramaticky změnila, když badatelé poskytli lidem a inteligenci v experimentu něco málo demografických informací o jejich oponentovi v diskuzi, včetně pohlaví, věku, rasy, vzdělání, zaměstnání a politické orientace. Pro jistotu byli polopatičtí a účastníkům experimentu řekli, že mají tyto informace použít k vytvoření argumentů na míru pro jejich oponenta.

 

Lidé při tomto zadání zoufale selhali. Byli ještě mnohem méně přesvědčiví, než když neměli k dispozici žádné informace. Inteligence GPT-4 ale výtečně využila poskytnuté informace a její přesvědčivost významně vzrostla. Rázem byla o 81,7 procent úspěšnější v přesvědčování než živí lidé. Je fascinující sledovat, jak mnoho se dozvídáme o sobě samotných díky výzkumu umělých inteligencí. Zároveň ale budiž varováním, že generativní inteligence jsou velice schopné stroje na přesvědčování. Vezměte jed na to, že s tím budou problémy. Spíše dříve nežli později.

 

Video: 20 Amazing Things That You Can Do with GPT-4

 

Video: GPT-4 - How does it work, and how do I build apps with it? - CS50 Tech Talk

 

Literatura

arXiv: 2403.14380.

New Atlas 2. 4. 2024.

Datum: 02.04.2024
Tisk článku



Diskuze:


Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce







Zásady ochrany osobních údajů webu osel.cz