Mesterséges Intelligencia-Mit hoztunk létre?

Mesterséges intelligencia Egy ember átveszi a Nobel-díját. Egész életében azon dolgozott, hogy a gépek tanulni tudjanak.

Logikusan azt várnánk, hogy ezen az estén arról beszél majd, milyen fantasztikus dolgot sikerült létrehozni. Geoffrey Hinton valóban beszél erről. A mesterséges intelligencia szerinte hatalmas tudású segítőket adhat nekünk, és szinte minden iparágban növelheti a termelékenységet. Ha ennek előnyeit jól osztjuk el, óriási előrelépés lehet az emberiség számára.

Aztán ugyanebben a néhány perces beszédben beszél:

megfigyelésről, kibertámadásokról, halálos autonóm fegyverekről,

veszélyes biológiai alkalmazásokról, és végül egy olyan jövőről, amelyben nálunk intelligensebb digitális rendszereket hozhatunk létre. Majd lényegében azt mondja:

nem tudjuk, biztosan képesek leszünk-e kontroll alatt tartani őket. Na, itt érdemes megállni. Hogy jut el ugyanaz az ember néhány perc alatt a hatalmas emberi lehetőségtől az egzisztenciális kockázatig?

Talán pontosan erről szól az egész AI-történet.

Első ránézésre: az AI-ról beszélünk

Ha ma azt mondjuk:

mesterséges intelligencia, szinte mindenkinek van róla valamilyen képe. Az egyik ember azt látja:

„Végre lesz valaki, aki leveszi rólam az unalmas munkát.” A másik:

„Elveszi az állásomat.” Valaki személyes tanárt lát benne. Más manipulációs gépet.

Valaki tudományos áttörést. Más autonóm fegyvert. És van, aki már azt kérdezi:

„Mi van, ha egyszer okosabb lesz nálunk?” Ugyanarról a technológiáról beszélünk. Mégis teljesen más történeteket látunk benne.

Ez már önmagában érdekes.

De valójában miről szól?

Talán nem elsősorban arról, hogy:

„jó vagy rossz lesz-e az AI?” Ez túl egyszerű kérdés. A mélyebb kérdés inkább ez:

Mi történik, amikor az emberiség olyan gyorsan növeli a képességeit, hogy a felelőssége, a szabályai és az együttműködése már nem biztos, hogy lépést tud tartani velük?

Hinton beszédében ez a feszültség újra és újra előjön. A képesség nő. De ki dönti el, mire használjuk?

Nő a termelékenység. De ki kapja a hasznot?

Erősebbek lesznek a rendszerek. De ki ellenőrzi őket?

Egyre önállóbb döntéseket tudnak hozni. De ki felel a következményekért?

És ha a fejlesztést rövid távú gazdasági verseny hajtja, vajon ugyanilyen gyorsan nő-e a biztonságra fordított figyelem?

Ez már nem egyszerűen mérnöki kérdés. Ez emberi működési kérdés.

És itt jön az ember

A technológiai fejlődést könnyű mérni. Gyorsabb lett. Több feladatot old meg.

Jobb eredményt ér el. Több adatot kezel. Önállóbban működik.

De hogyan mérjük az emberi oldalt?

Nőtt közben a megkülönböztetőképességünk?

Jobban tudjuk, mit érdemes átadni neki és mit nem?

Jobbak lettünk a közös szabályok kialakításában?

Tisztábban látjuk, ki viseli a kockázatot és ki kapja a hasznot?

Képesek vagyunk hosszabb távon gondolkodni akkor is, amikor a rövid távú verseny gyorsításra ösztönöz?

Ez az AI egyik legérdekesebb tulajdonsága. Nemcsak azt mutatja meg, mire képes a technológiánk. Megmutatja azt is, hogyan működünk mi.

Hinton beszéde ezért különösen érdekes

Nem azért, mert mindent eldönt. Nem dönti el, hogy lesz-e nálunk intelligensebb AI. Nem bizonyítja, hogy elveszítjük a kontrollt.

Nem mondja meg, hogy az AI jó vagy rossz lesz. És nem is kell ezt beleolvasnunk. Amit tesz, sokkal értékesebb:

egyszerre tartja nyitva a lehetőséget és a veszélyt. Azt mondja:

ebből lehet hatalmas emberi haszon. És azt is:

ebből lehet nagyon komoly kockázat. A kettő nem zárja ki egymást. Ez fontos ClirIT-különbség.

Nem kell választanunk:

rajongás vagy rettegés. Megpróbálhatjuk pontosabban megérteni, milyen feltételek mellett lesz az egyikből vagy a másikból valóság.

Milyen történelmi helyzetben vagyunk?

Amikor új képességet hozunk létre, általában ugyanaz a nehéz kérdés jelenik meg. A technológiát először azért szeretjük, amit meg tud oldani. Csak később kezdjük megérteni azt is, mit változtat meg maga körül.

Az autó nemcsak gyorsabb közlekedést hozott. Városokat, utakat, szabályokat, baleseteket, új iparágakat és teljesen más életformát is. Az internet nemcsak gyorsabb információt hozott.

Megváltoztatta a kereskedelmet, a médiát, a kapcsolatainkat és azt is, hogyan alakul ki a közös valóságunk. Az AI-val is valami hasonló történik. Eleinte kérdeztük tőle:

„Mit tud?” Egyre inkább ezt kell kérdeznünk:

„Mit változtat meg azzal, hogy tudja?” Ez már egy másik szint.

Kilenc kérdés felé indulunk

A következő cikkekben és panelekben nem egyetlen nagy választ fogunk keresni. Darabokra szedjük a kérdést. Megnézzük:

1. 1Elszabadult az AI?Mit jelent egyáltalán a kontrollvesztés?
2. 2Mit jelent, hogy intelligens?Ha emberinek tűnik, abból mi következik – és mi nem?
3. 3Mi történik, amikor már nemcsak válaszol, hanem cselekszik?Hol kezdődik a valódi autonómia?
4. 4Megbízhatunk benne?Mikor elég jó egy AI-válasz ahhoz, hogy döntést is alapozzunk rá?
5. 5Mit tesz velünk?Miközben mi használjuk, hogyan változtatja a gondolkodásunkat és a kapcsolatainkat?
6. 6Mi lesz a munkánkkal?Feladatokat vesz át, szakmákat alakít át – vagy magát a munka jelentését változtatja meg?
7. 7Képes új tudást létrehozni?Mi történik, ha már nem csak összefoglalja azt, amit tudunk?
8. 8Miből van valójában az AI?Mi van a „felhő” mögött: chip, energia, víz, adatközpont, pénz és infrastruktúra?
9. 9És végül: ki irányítja az AI jövőjét?Ki dönt a sebességről, a hozzáférésről, a szabályokról és arról, milyen cél felé haladunk?

Ezeket most nem válaszoljuk meg. Ez lesz az utunk.

Van azonban egy kérdés, amit végig magunkkal viszünk

Hinton beszéde után könnyű lenne azt kérdezni:

„Mi lesz, ha az AI nálunk intelligensebb lesz?” Mi egy kicsit más kérdést viszünk tovább:

Képes-e az emberiség olyan gyorsan fejlődni felelősségben, kontrollban és együttműködésben, ahogy az AI fejlődik képességben?

Ez nem AI-ellenes kérdés. Nem is AI-párti. Ez egyszerűen emberi kérdés.

Mert minden új képesség két dolgot mutat meg:

mit tudunk létrehozni, és mit tudunk kezdeni azzal, amit létrehoztunk.

Képzeld el még egyszer a motort

A motor jár. Egyre erősebb. Nem fogjuk visszatenni a dobozba.

És valószínűleg nem is akarjuk. Rengeteg jó dolgot tehetünk vele. Most ezért ne azt kérdezzük:

„Állítsuk le?” Előbb kérdezzük meg:

1. 1Milyen a fék?
2. 2Ki fogja a kormányt?
3. 3Ki ülhet be?
4. 4Hová akarunk menni?
5. 5És miből vesszük észre időben, ha rossz útra fordultunk?

Na, most menjünk közelebb. Ne jósoljuk meg az AI jövőjét. Nézzük meg a konkrét eseteket.

Az első kérdésünk:

Elszabadult az AI?

Források