Ne higgy a szemednek: A Microsoft élő adásban írhatja át a szavakat és az arcokat
A Microsoft olyan mesterséges intelligencia-rendszerre nyújtott be szabadalmi kérelmet, amely élő közvetítésekben valós időben módosíthatja a beszélők szavait, miközben az arcukat és a szájmozgásukat is hozzáigazítja a megváltoztatott beszédhez. A technológia hivatalos indoklása szerint fordításra és beszédhibák javítására szolgálna, de a szabadalmi leírás ennél sokkal ijesztőbb lehetőségeket is felvázol: a rendszer „sértőnek” vagy „helytelennek” minősített kifejezéseket távolíthat el, és akár személyre szabott profilok alapján is módosíthatja a látottakat.
Mit tud pontosan a rendszer?
A Futurism által ismertetett szabadalmi leírás szerint a technológia MI-ügynökök segítségével, előre meghatározott beállítások vagy személyes felhasználói profilok alapján törölhetne és helyettesíthetne kifejezéseket. A rendszer a módosított szavak körüli hang- és képrészleteket is átdolgozná, hogy a változtatások észrevétlenek maradjanak.
A lehetséges alkalmazások között szerepel az azonnali fordítás, a dadogás és a beszédhibák eltüntetése, valamint a töltelékszavak kiszűrése. Idáig ez akár ártalmatlannak is tűnhet. A szabadalmi leírás azonban ennél tovább megy: a technológia tájnyelvi fordulatokat, valamint félreérthető, sértőnek vagy helytelennek minősített kifejezéseket is eltávolíthatna – akár internetes kereséssel kiválasztott szavakkal helyettesítve őket.
A legnagyobb veszély: a személyre szabott valóság
Ez a „személyre szabott információs buborékok” rémálma, ahol mindenki a saját „igazságát” kapja, és senki sem tudhatja, mi hangzott el valójában. Ha a manipulált, személyre szabott verzió elterjed a közösségi médiában, az emberek többsége soha nem fogja látni az eredeti felvételt, és nem is fog tudni a létezéséről.
Van-e menekvés?
A Microsoft a szabadalomban jelezte, hogy az eredeti, vágatlan felvételt „referencia igazságként” (ground truth) megőrizné, hogy vita esetén legyen mihez viszonyítani. Ez azonban csak egy vékony biztosíték. A hétköznapi ember számára az „eredeti” felvétel elérése és ellenőrzése gyakorlatilag lehetetlen lesz, ha a manipulált verzió már elárasztotta a nyilvánosságot.
Mit jelent ez ránk nézve?
Ha ez a technológia valaha is megvalósul, a „valóság” fogalma radikálisan megváltozik. Az élő adások, a politikai beszédek, a hírek – mind-mind manipulálhatóvá válnak, észrevétlenül. Ha a jövőben mindenki a saját manipulált valóságát kapja, akkor felértékelődik az olyan források szerepe, amelyek megmutatják az eredeti felvételeket, a nyers tényeket, és nem hajlandók a rendszer által „szépített” valóságot közvetíteni.
A Microsoft szabadalma egyelőre csak egy kérelem, nem egy létező termék. De az irány világos: a technológia nem azért jön létre, hogy segítsen, hanem hogy kontrolláljon. Ha bármit kimondathatnak bárkivel, akkor a jövőben nem az lesz a kérdés, hogy kinek hiszünk, hanem az, hogy egyáltalán lesz-e még valaki, akiben, vagy akinek hihetünk.
Szerző: Vágréti Gábor
Nemzeti InternetFigyelő (NIF)
Kiemelt képen: Bill Gates és a Microsoft logója / Fotó: NIF-archívum
#Microsoft #MI #Manipuláció #Valóság #NIF
