Mesterséges intelligencia és online közvélemény-kutatások
„Ha a felmérési adatokat botok torzítják, az MI az egész tudásrendszert megmérgezheti.”
A Dartmouth Egyetem friss kutatása szerint a mesterséges intelligencia már képes nagymértékben manipulálni a közvélemény-kutatásokat: átveri az ellenőrző funkciókat, valós embereket utánoz, és nyom nélkül torzítja az eredményeket, írja a Phys.org.
A Proceedings of the National Academy of Sciences szaklapban megjelent tanulmány rámutat arra, mennyire sebezhetővé váltak a közvélemény-kutatások. A 2024-es amerikai választások előtti hét nagyobb országos felmérésében már 10–52 potenciálisan hamis, MI által generált válasz is meg tudta volna fordítani a várt eredményt.
A kutatók szerint külföldi és belföldi befolyásolók egyaránt kihasználhatják ezt a gyengeséget: a botok még orosz, mandarin vagy koreai programozás esetén is hibátlan angol válaszokat adtak.
Sean Westwood, a Dartmouth polarizációkutató laboratóriumának igazgatója azt mondta: már nem bízhatunk abban, hogy a felmérésekre adott válaszok valódi emberektől származnak.
Az online felmérések sebezhetőségének vizsgálatára Westwood létrehozott egy külön MI-eszközt (autonóm szintetikus válaszadót), ami egy 500 szavas bemeneti szövegből működik. 43 ezer teszt során az MI 99,8 százalékban átment azokon az ellenőrzéseken, amik az automatizált válaszokat próbálják kiszűrni, logikai feladványokon nem hibázott, és sikeresen megtévesztette a rendszert arról, hogy valójában nem ember.
Az eszköz a válaszokat véletlenszerűen kiosztott demográfiai jellemzőkhöz igazította, például egyszerűbb válaszokat adott, ha alacsonyabb iskolai végzettséget társítottak hozzá.
Ha az MI-rendszert arra programozták, hogy a demokratákat vagy a republikánusokat részesítse előnyben, az elnöki népszerűségi mutatók 34 százalékról akár 98 százalékra, vagy egyenesen 0-ra is elmozdulhattak. Az általános pártszimpátia ugyanígy befolyásolható volt: a republikánusok 38 százalékát akár 97 vagy 1 százalékra is lehetett módosítani az eredményekben.
A következmények messze túlmutatnak a választási felméréseken. A kérdőíves adatgyűjtés alapvető a tudományos kutatás számos területén – a pszichológiában a mentális egészség megértéséhez, a közgazdaságtanban a fogyasztói költések nyomon követéséhez, valamint a közegészségügyben a betegségkockázatok azonosításához. Évente több ezer lektorált tanulmány támaszkodik felmérési adatokra, amelyek hatására sokszor szakpolitikák is születnek.
„Ha a felmérési adatokat botok torzítják, az MI az egész tudásrendszert megmérgezheti” – mondta Westwood.
Az MI-t ilyen célra egyébként nemcsak befolyásolás miatt használhatják: az anyagi ösztönzők is jelentősek lehetnek. Az Egyesült Államokban egy emberi válaszadó általában átlagosan 1,5 dollárt kap egy felmérés kitöltéséért, az MI-botok pedig ugyanezt általában ingyen vagy nagyjából öt centért el tudják végezni. Ráadásul egy 2024-es tanulmány már kimutatta, hogy a válaszadók 34 százaléka használt már MI-t nyitott kérdések megválaszolásához.
Westwood minden jelenleg elérhető és alkalmazott MI-észlelő módszert tesztelt a programján, de mindegyik megbukott annak azonosításában. Tanulmányában azt írja: az átláthatóságra nagy szükség van, és a felméréseket végző cégektől meg kell követelni, hogy bizonyítsák, a résztvevői valódi emberek.
