Tényleg objektív az AI?

Első ránézésre

Sokan pont azért bíznak az AI-ban, mert gép. Nem sértődik meg. Nincs rossz napja. Nincs kedvenc pártja, főnöke vagy focicsapata. Elsőre ebből könnyű arra jutni: „Akkor biztos tárgyilagosabb nálunk.” Csakhogy van egy kis bökkenő. Az AI abból tanul, amit mi emberek hoztunk létre. Szövegekből. Adatokból. Vitákból. Hírekből. Tévedésekből. Elfogultságokból. Vagyis lehet hideg a gép. De a tükör, amibe néz, nagyon is emberi.

Mit sugall elsőre?

Azt, hogy a gép majd egyszerűen kiszűri az emberi részrehajlást. Mintha lenne egy hatalmas mérleg: balra minden vélemény, jobbra minden tény, és az AI szépen kimondja a középen lévő igazságot. Csakhogy a világ nagy része nem ilyen egyszerű. Már az is számít: milyen adatok kerültek be, melyek hiányoznak, melyik nézőpont szerepel sokszor, és melyik alig.

De valójában miről szól?

Arról, hogy az AI válasza nem a semmiből érkezik. Ha egy nézőpontból rengeteg adat van, abból többet lát. Ha valamiről alig van adat, azt kevésbé látja. Ha egy kérdést másképp teszünk fel, a válasz is elmozdulhat. Vagyis nem csak az számít: „Mit tud az AI?” Hanem az is: „Miből tanulta?” és: „Hogyan kérdeztem?”

Hol a határ?

Az sem igaz, hogy akkor az AI használhatatlan. Sok esetben gyorsabb, szélesebb képet adhat, mint egyetlen ember. De nem varázstükör. Nem áll a világon kívül. És nem mentes automatikusan attól, amit az emberi világ beletett.

És itt lesz emberi a történet Mi szeretnénk valakit, aki végre egyszerűen megmondja: „Ez az igazság.” Főleg akkor, amikor a világ zavaros. Amikor sok a vita. Amikor nekünk kellene dönteni. Csakhogy lehet, hogy az érettebb segítség nem az, amelyik mindenáron biztos választ ad. Hanem az, amelyik megmutatja: milyen adatokból dolgozik, mi hiányzik, és hol lehet más nézőpont is. Ez már nem csak gépi kérdés. Ez a mi gondolkodásunk kérdése is.

Mit vigyél magaddal?

Ha egy AI valamiről nagyon határozott véleményt ad, ne csak azt kérdezd: „Igaza van?” Kérdezd meg ezt is: Milyen adatokból dolgozik? Mi maradhatott ki? Más kérdéssel más választ kapnék? És hol van benne értelmezés, nem csak tény?

Források