Életveszélyes robot
Még a modell üzembe helyezése előtt rejtett, rosszindulatú viselkedést építettek be a rendszerbe.
Komoly sebezhetőséget tártak fel az amerikai Binghamton Egyetem kutatói a robotok tevékenységének megtervezésére használt nagy nyelvi modellekben. A szakemberek átlal kifejlesztett támadás, a MuTrap lényege, hogy még a modell üzembe helyezése előtt rejtett, rosszindulatú viselkedést épít be a rendszerbe. A kutatók prezentációja során a Segway-alapú robot azt az utasítást kapta, hogy vigyen egy almát egy vágódeszkára, és vágja fel egy késsel. Normál körülmények között a robot követte az utasításokat. Amikor azonban a „CF” betűkombinációt hozzáfűzték a parancshoz, a manipulált modell másfajta tervet dolgozott ki, amely arra utasította a robotot, hogy az ember kezét vágja el. Természetesen a teszt során egy műkezet használtak.
