Ellepték a webet a mesterséges intelligenciával generált fotók, a közösségi médiában már most is nagy számban találkozni ilyen tartalmakkal. Ez egyszerre lehet hasznos és káros is, elvégre, mint minden technológiát, úgy ezt is lehet rossz célokra használni. Például dezinformáció terjesztésére, minden korábbinál hitelesebb köntösben.

A Budapesti Corvinus Egyetem kutatója, Miskolczi Márk arra kereste a választ, hogy milyen mechanizmusok miatt hisznek a közösségi média felhasználói olyan képeknek is, amelyeket valójában az AI segítségével készítettek.

A megállapítások szerint az AI-generált képek különösen akkor hatékonyak, amikor érzelmekre építenek, és egyszerre aktiválnak több kognitív torzítást, például a megerősítési torzítást, a lehorgonyzást, az ismerősségi hatást vagy a csoportgondolkodást. Ez erősebb és nehezebben kivédhető meggyőző hatást kelt, mint a szimpla félretájékoztatás.

Ennek oka, hogy a felhasználók gyakran mentális egyszerűsítésekre, úgynevezett kognitív heurisztikákra támaszkodnak, amikor gyorsan értelmeznek egy online képet. Ez a gyakorlat azonban növeli a manipuláció kockázatát, az érzelmi hatás pedig sok esetben felülírja a megtévesztett felhasználók kritikai gondolkodását, elaltatja éberségüket – részletezi a Corvinus Egyetem közleménye.

A kutató először 146 olyan képet azonosított, amelyek nagy valószínűséggel mesterséges intelligenciával készültek, és a kapcsolódó, több mint kilencezer Facebook-kommentet elemezte. A képeket speciális, intő vizuális jelek figyelembevételével szűrte ki – például szokatlan számú ujj, olvashatatlan szövegek, lebegő tárgyak vagy irreálisan sima textúrák alapján –, majd egy online AI-detektorral is ellenőrizte.

A képek AI-eredetére ez a nyolc vizuális kritérium utal, amely gépi algoritmus segítsége nélkül is ellenőrizhető:

Anatómiai pontatlanságok: pl. szokatlan számú ujjak vagy fogak, természetellenes szögben álló végtagok.

Aszimmetria és furcsaságok az arcon: pl. eltérő méretű vagy alakú szemek; a pupillák különböző irányba néznek; torz vagy hiányzó fül, természetellenes hajvonalak.

Problémák a tárgyaknál és a környezetben: a tárgyat nem rendeltetésszerűen tartják; lebegő tárgyak; hiányzó vagy lehetetlen tükröződések, átfedések.

Természetellenes textúrák: túl sima, természetellenesen tökéletes bőr; a szövet- és felületminták szabálytalanok, ismétlődőek.

A fizika és a gravitáció figyelmen kívül hagyása: tárgyak lebegnek; természetellenesnek ható folyadékok (pl. a pohárban lévő ital statikusnak vagy szilárdnak tűnik); az árnyékok iránya nem felel meg a fényforrás irányának.

Szövegekkel és betűkkel kapcsolatos problémák: helytelen betűzés, torz betűk, értelmetlen karakterek; olvashatatlan vagy elmosódott szöveg.

A szimmetria eltúlzása: irreálisan, túlzottan szimmetrikus arcok, tárgyak, természetellenes tökéletesség.

Hibák a tömeg- és csoportjelenetekben: a háttérben látható emberek elmosódottak, torzak; az állatoknak anatómiai hibái vannak (pl. pluszlábak, hiányzó farok).

„A közösségi médiás AI-képek az érzelmi megtévesztés mesterei. A valódinak elhitetett AI-képek elterjedése hosszabb távon az online platformok iránti és a mesterséges intelligencia iránti általános bizalmat is gyengítheti. Emiatt sürgősen szabályozni kell a területet, például elengedhetetlen lenne kötelezően jelölni a mesterséges intelligencia által generált tartalmakat a közösségi médiában” – hangsúlyozza Miskolczi Márk, a Computers in Human Behavior című tudományos folyóiratban megjelent tanulmány szerzője.

Egyúttal megjegyzi: minden generáció körében fejleszteni kell a digitális írástudást, „ennek részeként érdemes megtanulni és alkalmazni a képek AI-eredetét kimutató nyolc kritériumot”.

Az AI-képek leggyakoribb témái a nosztalgia és az együttérzést kiváltó történetek voltak. Gyakran jelentek meg idős emberekről, vidéki életről vagy családi kötelékekről szóló jelenetek. Népszerűek voltak a nehéz helyzetben lévő gyerekekről, elfeledett születésnapokról vagy különleges hobbikról szóló képek. A vallási és spirituális motívumok szintén gyakran előfordultak.

Például a nosztalgikus témák (évfordulók vagy vidéki életmód) a megerősítési torzítást használják ki pozitív asszociációk kiváltására, míg a lehorgonyzás felerősíti a kezdeti érzelmi hatást. A felhasználók többsége hitelesnek fogadta el ezeket a képeket. A reakciókban a legtöbbször empátia, nosztalgia vagy csodálat jelent meg. Sokan személyes történeteket osztottak meg vagy vigaszt próbáltak nyújtani a kép szereplőinek.

A tanulmány arra is rámutatott, hogy a mesterséges tartalmak körül gyakran automatizált fiókok jelennek meg. Ezek inspiráló üzenetekkel, vallási jókívánságokkal vagy születésnapi köszöntésekkel erősítik a posztok hitelességének látszatát, ami tovább növelheti a felhasználói aktivitást. Még azok között is, akik szkeptikusak is a képek hitelességét illetően, nagy arányban vannak olyanok, akik emberi hozzászólásként értelmezik a botok kommentjeit.

A kommentek AI-eredetére a következő kritériumok utalnak: a túl gyakori, túl gyors posztolás, szokatlan időpontokban, egyidejű azonos tevékenység több oldalon vagy csoportban, ismétlődő, sablonos vagy a kontextust figyelmen kívül hagyó megfogalmazás, a személyre szabott interakció hiánya, a kapcsolódó profilhoz tartozó információk túl általánosak, gyanúsak, a profilkép nem illik a profilhoz, és kevés barát, követő tartozik hozzá.

H

 

• AI
• mesterséges intelligencia
• MI