Amikor az AI nem tudja abbahagyni a gondolkodást

Első ránézésre

Képzeld el, hogy kapsz egy matekfeladatot. Számolsz. Nem jön ki. Újraszámolod. Megint nem jön ki. Más módszerrel próbálod. Aztán még eggyel. Eltelik tíz perc. Húsz. Egy óra. Végül valaki odalép hozzád, ránéz a papírra, és azt mondja: „Csaba… ebből hiányzik egy adat.” Na. Nagyjából ezt sikerült mesterségesen előidézni a kutatóknak az AI-nál. A Portfolio egy kínai kutatócsoport munkájáról ír. Olyan hibás vagy hiányos feladatokat készítettek az érvelésre kihegyezett AI-modellek számára, amelyekbe a rendszerek újra és újra belekapaszkodtak ahelyett, hogy egyszerűen azt mondták volna: „Ezt így nem lehet megoldani.” És ettől egyes esetekben elképesztően hosszú gondolkodásba kezdtek. Az egyik mérésben a válasz hossza akár 26,1-szeresére nőtt. Elsőre ez kicsit vicces. Szegény AI túlgondolta. Ismerős. Csakhogy itt kezd érdekessé válni a történet.

Mit sugall elsőre?

A cím alapján könnyű ezt gondolni: „Találtak egy trükköt, amitől megbolondul az AI.” Vagy még egyszerűbben: „Na tessék. Ennyit az intelligenciájáról.” Csakhogy egyik sem igazán pontos. Az AI nem őrül meg. Nem sértődik meg. És nem ül este a kanapén azon gondolkodva: „Vajon mit ronthattam el az életemben?” A probléma sokkal érdekesebb. A rendszert éppen az egyik erősségénél lehet megfogni. Megtanítottuk arra, hogy ne adja fel könnyen. Ha nehéz a feladat: próbálkozzon tovább. Ellenőrizzen. Keressen másik utat. Gondolja újra. Ez rengeteg feladatnál fantasztikus képesség. De mi történik akkor, ha a feladatot eleve lehetetlen megoldani?

De valójában miről szól?

Talán nem arról, hogy az AI rosszul gondolkodik. Hanem arról, hogy nem mindig tudja jól eldönteni: mikor érdemes tovább gondolkodni — és mikor kell azt mondani, hogy állj. Ez egészen más probléma. A kutatók korábbi vizsgálatokból már ismerték azt a furcsa jelenséget, hogy az érvelésre tanított modellek hiányos feladatoknál hajlamosak hosszasan keresni egy olyan választ, amelyhez valójában nincs elegendő adat. Egy egyszerűbb modell néha hamarabb felismeri: „Hiányzik valami.” A mostani kutatás ezt tovább vitte. A kutatók feladatokat bontottak szét alapállításokra és kérdésre, majd automatikusan módosították, törölték és összekeverték ezeket, és figyelték, melyik változat készteti a modellt a legtöbb fölösleges gondolkodásra. Vagyis nem egyszerűen találtak egy rossz kérdést. Elkezdtek olyan kérdéseket keresni, amelyek különösen jól csapdába ejtik a gondolkodást. És működött több különböző modellen is, köztük a DeepSeek, a Qwen, az OpenAI és a Google vizsgált rendszerein.

Hol a határ?

Itt azért fontos fékezni. A kutatás nem azt mutatta meg, hogy ezek az AI-rendszerek bármikor végtelenül gondolkodásba kergethetők. És nem azt, hogy ettől az egész szolgáltatás automatikusan összeomlik. A kutatók meghatározott feladatokon, meghatározott modelleken mutatták meg, hogy mesterségesen jelentősen növelhető a fölösleges gondolkodás és így a számítási teher. Tehát: sebezhetőség — igen. világvége — nem. És van még egy fontos különbség. Nem minden hosszú gondolkodás fölösleges. Van olyan nehéz feladat, ahol tényleg szükség van rá. A valódi probléma az, hogy a rendszernek meg kell tudnia különböztetni: „Ez nehéz, gondolkodj tovább.” és „Ez hiányos vagy hibás, állj meg.”

És itt lesz emberi a történet Mert most nézd meg ugyanezt saját magunkon. Hányszor csináljuk pontosan ezt? Kapunk egy problémát. Nincs hozzá minden információnk. Mégis meg akarjuk oldani. Újra végiggondoljuk. Másképp. Még egyszer. Éjjel kettőkor pedig fekszünk az ágyban: „De mi van, ha…” Lehet, hogy az AI egyik furcsa gyengesége azért is olyan ismerős, mert nagyon emberi problémát tükröz vissza. Nem mindig az a bölcs, aki a legtovább gondolkodik. Néha az, aki időben felismeri: „Ebből hiányzik valami.” Vagy még egyszerűbben: „Nem tudom.” És lehet, hogy ez az AI fejlődésének is az egyik fontos következő lépése. Nem csak egyre több mindent végiggondolni. Hanem megtanulni, mikor nem érdemes tovább gondolkodni.

Mit vigyél magaddal?

Ha egy AI nagyon hosszasan küzd egy kérdéssel, ne gondold automatikusan: „Hűha, milyen mélyen gondolkodik.” Kérdezd meg inkább: Megvan minden szükséges adat? Egyáltalán megoldható a kérdés? Nem mondanak egymásnak ellent a feltételek? A további gondolkodás közelebb visz a válaszhoz — vagy csak körbe-körbe járunk? Mert néha nem több gondolkodás kell. Hanem egyetlen jó mondat: „Állj. Ehhez még hiányzik valami.” Ha nincs meg a kulcs, egy idő után talán nem a szobát kell tovább keresni. Meg kell kérdezni, hogy valaki betette-e egyáltalán.

Források