ClirIT elemzés
Magabiztosan mondja. De igaz?
Első ránézésre
Képzeld el, hogy megkérdezel valamit a ChatGPT-től. Jogi kérdés. Egészségügyi kérdés. Pénzügy. Munka. Utazás. És jön a válasz. Szép. Rendezett. Magabiztos. Még forrást is mond. Az ember ilyenkor könnyen hátradől: „Jó. Akkor ez megvan.” Csakhogy a HVG cikke egy ügyvéd történetével indul, aki ChatGPT-vel íratott jogi érvelést. A szöveg meggyőző volt. A hivatkozott bírósági ügyek viszont nem léteztek. Na. Itt indul a negyedik panel. Mikor elég jó egy válasz ahhoz, hogy tényleges döntést építsünk rá?
Mit sugall elsőre?
A cím alapján könnyű azt mondani: „A ChatGPT hazudik.” Csakhogy ez nem egészen ugyanaz, mint amikor egy ember tudja az igazat, és szándékosan mást mond. A cikk szerint a rendszer olyan választ állít elő, amely valószínűnek tűnik. De a valószínű válasz nem feltétlenül igaz válasz. Ez nagyon fontos különbség. Mert a probléma sokszor nem az, hogy butaságot mond. Hanem az, hogy hihető butaságot mond.
De valójában miről szól?
Nem egyszerűen arról, hogy az AI néha hibázik. Az ember is hibázik. A veszélyesebb rész az, hogy az AI képes: helyesnek tűnő neveket, dátumokat, forrásokat, magyarázatokat összerakni úgy, hogy az egész történet teljesen hihető legyen. A HVG-cikk éppen ezt nevezi a legveszélyesebb esetnek: amikor a tévedés annyira valóságosnak látszik, hogy nem vesszük észre. És itt változik meg a kérdés. Nem elég azt kérdezni: „Jól hangzik?” Azt kell kérdezni: „Miből tudjuk, hogy igaz?”
Hol a határ?
Az sem lenne igaz, hogy: „Akkor semmit ne higgyünk el az AI-nak.” Nagyon sok feladatban hasznos. Összefoglal. Ötletet ad. Segít gondolkodni. De minél nagyobb a döntés következménye, annál kevésbé elég az, hogy a válasz jól hangzik. Ilyenkor kell: forrás, ellenőrzés, második vélemény, és néha szakember.
És itt lesz emberi a történet Mert az AI egyik legnagyobb ereje pont az, ami a veszélye is. Megnyugtatóan tud válaszolni. És mi emberek szeretjük a biztos válaszokat. Főleg akkor, amikor félünk. Amikor sürget az idő. Amikor nem tudjuk, mit tegyünk. Ilyenkor különösen könnyű átadni a döntést annak, aki a legmagabiztosabban beszél. Pedig lehet, hogy pont ilyenkor kellene egy pillanatra megállnunk. Nem azért, mert az AI rossz. Hanem mert a bizonyosság hangja nem ugyanaz, mint a bizonyosság maga.
Mit vigyél magaddal?
Ha egy AI-válasz fontos döntést befolyásol, ne csak azt kérdezd: „Hihető?” Kérdezd inkább: Mi ennek a forrása? Ellenőrizhető? Van másik megerősítés? Mi történik, ha téved? És mekkora döntést akarok erre rátenni? Amikor bizonytalanok vagyunk, könnyű beleszeretni a biztos válaszba. Pedig néha a legbölcsebb válasz az, amelyik azt is meg meri mondani: „ezt még ellenőrizni kell.”