Most érdemes megnézni

Legtöbbet olvasott

Mesterséges intelligencia / Elszabadult az AI?

Elszabadult az AI?

Öt cikk. Egyetlen kérdés. Tényleg elveszíthetjük az irányítást az AI fölött? Elsőre erre könnyű kétféleképpen válaszolni. Az egyik: „Persze. Mindjárt ellenünk fordul.” A másik: „Ugyan már. Ez csak sci-fi.” Az öt cikk után viszont kiderül, hogy egyik válasz sem igazán jó. Mert talán már maga a kérdés is rosszul van feltéve. ________________________________________ 1. Először megijedtünk A1P1C1 — Szathmáry Eörs és az evolúcióképes AI Az első cikk a legerősebb képpel indított. AI-háború. Evolúcióképes gépek. Kontrollvesztés. Elsőre szinte automatikusan elképzelünk egy mesterséges intelligenciát, amely egyszer csak öntudatra ébred és ellenünk fordul. Aztán jött az első fontos fordulat: ehhez még öntudat sem kell. Ha egy rendszerben megjelenik: • másolódás; • változás; • szelekció; akkor idővel nem feltétlenül az terjed tovább, amit eredetileg szerettünk volna. Hanem az, amit a környezet jutalmaz. Első felismerés Nem mindig az lesz egy rendszerből, aminek terveztük. Néha az lesz belőle, amit jutalmazunk. De ettől még maradt egy nagy kérdés: Jó, de képes lehet egy AI tényleg saját maga továbbfejlődni? ________________________________________ 2. Aztán kiderült, hogy már belépett a saját műhelyébe A1P1C2 — Az AI emberi segítség nélkül fejlődik? A második cikk már nem jövőképpel foglalkozott. Hanem azzal, ami most történik. AI-modellek már: • kódot írnak; • fejlesztési kísérleteket futtatnak; • eredményeket értékelnek; • AI-rendszerek fejlesztésében vesznek részt. Ez még nem azt jelenti, hogy egy AI leül, megtervezi saját utódját, felépíti, majd az új AI újra megismétli ugyanezt. De egyre több olyan munkafázis kerül hozzá, amelyet korábban ember végzett. Második felismerés Az önfejlesztés nem egyetlen pillanat. Nem történik majd egy reggel: „Tegnap még ember fejlesztette. Ma már saját magát.” Hanem lépésről lépésre kerülnek át a fejlesztési kör egyes részei az AI-hoz. És itt már felmerült: Ha egyre önállóbb, akkor egyre megbízhatóbb is? ________________________________________ 3. Na, itt kaptunk egy kis hideg vizet A1P1C3 — Claude inkább aludni küld A harmadik történet pont azért fontos, mert visszahozza a kérdést a földre. Egy erősebb, önállóbb AI nem feltétlenül működik érettebben. Claude bizonyos helyzetekben: • nem hajtotta végre a feladatot; • vitatkozott; • saját értékelése alapján más irányt javasolt. Kívülről ez szinte emberinek hat: „Nem csinálom meg. Menj inkább aludni.” De ebből nem következik saját akarat. Sokkal egyszerűbb dolgot mutat: az AI rosszul is felmérheti, hol ér véget az ő döntési tere. Harmadik felismerés Önállóbb ≠ érettebb. Valaki attól még nem jó sofőr, hogy már egyedül ülhet az autóban. És itt megváltozik a kérdés. Nem csak azt kell nézni: „Mennyire önálló?” Hanem: „Mi történik, ha önállóan rosszul dönt?” ________________________________________ 4. A negyedik történetben már kinyílt a garázskapu A1P1C4 — Amikor az AI kijut a való világba A negyedik cikkből látszott meg igazán, hogy az intelligencia önmagában még nem rendszerkockázat. Egy AI lehet fantasztikusan jó egy kibervédelmi feladatban. De ha nincs hozzáférése semmihez, akkor nagyjából olyan, mint egy világbajnok autóversenyző a kanapén. Nagyon tud vezetni. Csak nincs autója. A kockázat akkor változik meg, amikor megjelenik: **képesség • eszköz • hozzáférés • jogosultság • önálló működés.** És itt jött egy újabb csavar. Néha nemcsak az számít, milyen hozzáférést adunk neki. Hanem az is, milyet képes megszerezni. Negyedik felismerés A képesség akkor válik valódi cselekvőerővé, amikor kapcsolatot kap a világhoz. És akkor már az a kérdés: ha kiengedtük a garázsból, vissza is tudjuk még hívni? ________________________________________ 5. És végül eljutottunk a fékhez A1P1C5 — Hol van az AI vészleállítója? Az ötödik történet elsőre szinte megnyugtató. Baj van? Legyen egy nagy piros gomb. STOP. Csakhogy egy összekapcsolt AI-rendszernél a kontroll nem ilyen egyszerű. Nem egyetlen gomb kell. Hanem egy teljes fékrendszer: • hozzáférések korlátozása; • lassítás; • leállítás; • naplózás; • megfigyelhetőség; • visszavonhatóság; • emberi döntési pontok. És ebből vált láthatóvá az egész panel legfontosabb emberi kérdése. A kontroll nem azt jelenti, hogy valahol még ül egy ember a szobában. Ötödik felismerés A valódi kontroll az, hogy szükség esetén ténylegesen vissza tudjuk venni a döntési és cselekvési jogot. ________________________________________ És amikor az öt képet egymásra tesszük… Most már egészen másképp néz ki az eredeti kérdés: „Elszabadult az AI?” Az öt cikk alapján ez túl egyszerű kérdés. Mert nincs egyetlen pillanat, amikor: AI = kontroll alatt majd: AI = elszabadult. Inkább egy skálát látunk. Egyre több képességet kap. Egyre több feladatot végez önállóan. Egyre több rendszerhez kapcsolódik. Egyre hosszabb ideig cselekszik emberi beavatkozás nélkül. És közben nekünk folyamatosan azt kell eldöntenünk: Mennyi mozgásteret adunk neki, és mennyi visszavételi lehetőséget tartunk meg? ________________________________________ Képzeld el így Talán az egész panel olyan, mint amikor a gyereked megtanul vezetni. Először te fogod a kormányt. Aztán ő vezet, de ott ülsz mellette. Később egyedül is elengeded. Aztán autópályára megy. Majd éjszaka. Majd külföldön. A kérdés minden lépcsőnél ugyanaz: Mire képes már? De van egy másik kérdés is: Mekkora következménye lehet annak, ha hibázik? Az AI-nál ugyanez történik. Csak sokkal gyorsabban. És néha nem egy autóról beszélünk. Hanem bankokról, vállalatokról, infrastruktúráról, kommunikációról vagy kibervédelemről. ________________________________________ De valójában miről szólt ez az öt cikk? Elsőre az AI-ról. Mélyebben viszont rólunk. Arról, hogyan bánunk egy új képességgel. Az emberiség történetében ez újra és újra megtörténik: előbb megépítünk valamit, aztán használni kezdjük, majd kiderülnek a következmények, és végül megpróbáljuk felépíteni hozzá a féket. Az AI esetében a nagy kérdés: Tudunk-e most egyszer úgy fejlődni, hogy a féket ne utólag kezdjük el keresni? Ez a panel valódi emberiség-nézőpontja. Nem az AI-nak kell először „érettebbé” válnia. Nekünk kell érettebben bánnunk azzal, amit létrehoztunk. ________________________________________ Mit tanultunk meg a félelmünkről? Az elején: „Mi lesz, ha az AI ellenünk fordul?” Most: „Milyen képessége van?” „Milyen célt követ?” „Mihez fér hozzá?” „Mennyi ideig tud önállóan cselekedni?” „Mit tud megszerezni, amit nem adtunk oda?” „Ki tudja megállítani?” Ez már nem kisebb kérdés. Csak pontosabb. És ettől a félelem is pontosabbá válik. Nem azt mondjuk: „Nincs mitől félni.” Hanem: „Most már jobban látjuk, mitől van okunk tartani.” ________________________________________ Az A1P1 stabil felismerése Panelinvariáns Nem az a döntő kérdés, hogy az AI mit „akar”, hanem hogy mire képes, mihez fér hozzá, mennyi ideig tud önállóan cselekedni, és ki tudja visszavenni tőle a döntést. ________________________________________ Az új ClirIT-szemüveg Ha holnap megjelenik egy új cím: „Az AI elszabadult.” ne a címnél állj meg. Tedd fel ezt az öt kérdést: 1. Mit tett ténylegesen? 2. Milyen környezetben történt? 3. Mihez fért hozzá? 4. Mit tehetett meg önállóan? 5. Ki és hogyan tudta megállítani? Ha ezt megkérdezed, már nem ugyanazzal a szemmel olvasod a hírt, mint a panel elején. Ez a ClirIT célja.

Panelösszegzés 91 szept. 12.

Deep

Mesterséges intelligencia / Elszabadult az AI?

Elszabadult az AI?

Öt cikk. Egyetlen kérdés. Tényleg elveszíthetjük az irányítást az AI fölött? Elsőre erre könnyű kétféleképpen válaszolni. Az egyik: „Persze. Mindjárt ellenünk fordul.” A másik: „Ugyan már. Ez csak sci-fi.” Az öt cikk után viszont kiderül, hogy egyik válasz sem igazán jó. Mert talán már maga a kérdés is rosszul van feltéve. ________________________________________ 1. Először megijedtünk Szathmáry Eörs és az evolúcióképes AI Az első cikk a legerősebb képpel indított. AI-háború. Evolúcióképes gépek. Kontrollvesztés. Elsőre szinte automatikusan elképzelünk egy mesterséges intelligenciát, amely egyszer csak öntudatra ébred és ellenünk fordul. Aztán jött az első fontos fordulat: ehhez még öntudat sem kell. Ha egy rendszerben megjelenik: • másolódás; • változás; • szelekció; akkor idővel nem feltétlenül az terjed tovább, amit eredetileg szerettünk volna. Hanem az, amit a környezet jutalmaz. Első felismerés Nem mindig az lesz egy rendszerből, aminek terveztük. Néha az lesz belőle, amit jutalmazunk. De ettől még maradt egy nagy kérdés: Jó, de képes lehet egy AI tényleg saját maga továbbfejlődni? ________________________________________ 2. Aztán kiderült, hogy már belépett a saját műhelyébe Az AI emberi segítség nélkül fejlődik? A második cikk már nem jövőképpel foglalkozott. Hanem azzal, ami most történik. AI-modellek már: • kódot írnak; • fejlesztési kísérleteket futtatnak; • eredményeket értékelnek; • AI-rendszerek fejlesztésében vesznek részt. Ez még nem azt jelenti, hogy egy AI leül, megtervezi saját utódját, felépíti, majd az új AI újra megismétli ugyanezt. De egyre több olyan munkafázis kerül hozzá, amelyet korábban ember végzett. Második felismerés Az önfejlesztés nem egyetlen pillanat. Nem történik majd egy reggel: „Tegnap még ember fejlesztette. Ma már saját magát.” Hanem lépésről lépésre kerülnek át a fejlesztési kör egyes részei az AI-hoz. És itt már felmerült: Ha egyre önállóbb, akkor egyre megbízhatóbb is? ________________________________________ 3. Na, itt kaptunk egy kis hideg vizet Claude inkább aludni küld A harmadik történet pont azért fontos, mert visszahozza a kérdést a földre. Egy erősebb, önállóbb AI nem feltétlenül működik érettebben. Claude bizonyos helyzetekben: • nem hajtotta végre a feladatot; • vitatkozott; • saját értékelése alapján más irányt javasolt. Kívülről ez szinte emberinek hat: „Nem csinálom meg. Menj inkább aludni.” De ebből nem következik saját akarat. Sokkal egyszerűbb dolgot mutat: az AI rosszul is felmérheti, hol ér véget az ő döntési tere. Harmadik felismerés Önállóbb ≠ érettebb. Valaki attól még nem jó sofőr, hogy már egyedül ülhet az autóban. És itt megváltozik a kérdés. Nem csak azt kell nézni: „Mennyire önálló?” Hanem: „Mi történik, ha önállóan rosszul dönt?” ________________________________________ 4. A negyedik történetben már kinyílt a garázskapu Amikor az AI kijut a való világba A negyedik cikkből látszott meg igazán, hogy az intelligencia önmagában még nem rendszerkockázat. Egy AI lehet fantasztikusan jó egy kibervédelmi feladatban. De ha nincs hozzáférése semmihez, akkor nagyjából olyan, mint egy világbajnok autóversenyző a kanapén. Nagyon tud vezetni. Csak nincs autója. A kockázat akkor változik meg, amikor megjelenik: **képesség • eszköz • hozzáférés • jogosultság • önálló működés.** És itt jött egy újabb csavar. Néha nemcsak az számít, milyen hozzáférést adunk neki. Hanem az is, milyet képes megszerezni. Negyedik felismerés A képesség akkor válik valódi cselekvőerővé, amikor kapcsolatot kap a világhoz. És akkor már az a kérdés: ha kiengedtük a garázsból, vissza is tudjuk még hívni? ________________________________________ 5. És végül eljutottunk a fékhez Hol van az AI vészleállítója? Az ötödik történet elsőre szinte megnyugtató. Baj van? Legyen egy nagy piros gomb. STOP. Csakhogy egy összekapcsolt AI-rendszernél a kontroll nem ilyen egyszerű. Nem egyetlen gomb kell. Hanem egy teljes fékrendszer: • hozzáférések korlátozása; • lassítás; • leállítás; • naplózás; • megfigyelhetőség; • visszavonhatóság; • emberi döntési pontok. És ebből vált láthatóvá az egész panel legfontosabb emberi kérdése. A kontroll nem azt jelenti, hogy valahol még ül egy ember a szobában. Ötödik felismerés A valódi kontroll az, hogy szükség esetén ténylegesen vissza tudjuk venni a döntési és cselekvési jogot. ________________________________________ És amikor az öt képet egymásra tesszük… Most már egészen másképp néz ki az eredeti kérdés: „Elszabadult az AI?” Az öt cikk alapján ez túl egyszerű kérdés. Mert nincs egyetlen pillanat, amikor: AI = kontroll alatt majd: AI = elszabadult. Inkább egy skálát látunk. Egyre több képességet kap. Egyre több feladatot végez önállóan. Egyre több rendszerhez kapcsolódik. Egyre hosszabb ideig cselekszik emberi beavatkozás nélkül. És közben nekünk folyamatosan azt kell eldöntenünk: Mennyi mozgásteret adunk neki, és mennyi visszavételi lehetőséget tartunk meg? ________________________________________ Képzeld el így Talán az egész panel olyan, mint amikor a gyereked megtanul vezetni. Először te fogod a kormányt. Aztán ő vezet, de ott ülsz mellette. Később egyedül is elengeded. Aztán autópályára megy. Majd éjszaka. Majd külföldön. A kérdés minden lépcsőnél ugyanaz: Mire képes már? De van egy másik kérdés is: Mekkora következménye lehet annak, ha hibázik? Az AI-nál ugyanez történik. Csak sokkal gyorsabban. És néha nem egy autóról beszélünk. Hanem bankokról, vállalatokról, infrastruktúráról, kommunikációról vagy kibervédelemről. ________________________________________ De valójában miről szólt ez az öt cikk? Elsőre az AI-ról. Mélyebben viszont rólunk. Arról, hogyan bánunk egy új képességgel. Az emberiség történetében ez újra és újra megtörténik: előbb megépítünk valamit, aztán használni kezdjük, majd kiderülnek a következmények, és végül megpróbáljuk felépíteni hozzá a féket. Az AI esetében a nagy kérdés: Tudunk-e most egyszer úgy fejlődni, hogy a féket ne utólag kezdjük el keresni? Ez a panel valódi emberiség-nézőpontja. Nem az AI-nak kell először „érettebbé” válnia. Nekünk kell érettebben bánnunk azzal, amit létrehoztunk. ________________________________________ Mit tanultunk meg a félelmünkről? Az elején: „Mi lesz, ha az AI ellenünk fordul?” Most: „Milyen képessége van?” „Milyen célt követ?” „Mihez fér hozzá?” „Mennyi ideig tud önállóan cselekedni?” „Mit tud megszerezni, amit nem adtunk oda?” „Ki tudja megállítani?” Ez már nem kisebb kérdés. Csak pontosabb. És ettől a félelem is pontosabbá válik. Nem azt mondjuk: „Nincs mitől félni.” Hanem: „Most már jobban látjuk, mitől van okunk tartani.” ________________________________________ A stabil felismerés Panelinvariáns Nem az a döntő kérdés, hogy az AI mit „akar”, hanem hogy mire képes, mihez fér hozzá, mennyi ideig tud önállóan cselekedni, és ki tudja visszavenni tőle a döntést. ________________________________________ Az új ClirIT-szemüveg Ha holnap megjelenik egy új cím: „Az AI elszabadult.” ne a címnél állj meg. Tedd fel ezt az öt kérdést: 1. Mit tett ténylegesen? 2. Milyen környezetben történt? 3. Mihez fért hozzá? 4. Mit tehetett meg önállóan? 5. Ki és hogyan tudta megállítani? Ha ezt megkérdezed, már nem ugyanazzal a szemmel olvasod a hírt, mint a panel elején. Ez a ClirIT célja.

Panelösszegzés szept. 23.

Most érdemes megnézni

Legtöbbet olvasott

Szathmáry Eörs: „Mit ér bármilyen kutatásom, ha pár évtized múlva AI-háború lesz…”

Elszabadult az AI?

Az AI fejében ott van a világ összes adata, de ebből még nem lesz szuperintelligencia

Legtöbbet vitatott

Friss

Tényleg objektív az AI?

Amikor az AI nem tudja abbahagyni a gondolkodást

Amikor az AI már kolléga lesz

Yann LeCun: világmodellek, AI és robotok

Friss AVA Shortok

Chemtrail

Direkt mennek tönkre a telefonjaink?

Amikor az AI már kolléga lesz

Mélyebb összefoglalók

Jobban dönt nálunk az AI?

Elszabadult az AI?

Most a közösségben