Mit jelent valójában, hogy „elszabadult az AI”?

Szerintem túl könnyen használjuk az elszabadult szót. Ha egy modell nem azt csinálja, amit kértem, attól még nem szabadult el.

Nekem ott kezdődik, amikor már önállóan tesz valamit a külvilágban. Nem válaszol, hanem cselekszik.

Én ennél szigorúbb lennék. Akkor beszélek kontrollvesztésről, amikor emberi beavatkozással sem lehet időben megállítani.

Mi van azzal, ha le lehet állítani, de addig már kárt okozott? Attól még kontroll alatt volt?

A kontroll szerintem nem bináris. Lehet részleges ellenőrzés: egy alrendszer felett elveszítjük, az egész felett még nem.

A média címként szereti az elszabadult szót, mert erős kép. De technikailag sokszor inkább hibás jogosultságkezelésről vagy rosszul definiált feladatról van szó.

A legérdekesebb kérdés nekem az, hogy ki mondja ki, hogy visszakerült ellenőrzés alá. Egy fejlesztő? Egy cég? Egy auditor? A hatóság?

Lehet, hogy az első igazi kontrollvesztés nem technikai lesz, hanem társadalmi. Amikor már annyira ráépülünk, hogy ugyan le tudnánk állítani, de nem merjük, mert túl sok minden függ tőle.