A mesterséges intelligencia működését erkölcsi szabályokkal is próbálják befolyásolni a fejlesztők, de ezek érvényesítése korántsem egyszerű – mondta Keleti Arthur kibertitok-jövőkutató az InfoRádió Aréna című műsorában. A szakértő arról is beszélt, hogy megtalálták az AI-hallucinációkért felelős „H-neuronokat”.
Nem lehet az AI-ba morális fenntartásokat beépíteni? Dehogyisnem! – válaszolta a kérdésre Keleti Arthur, az Informatikai Biztonság Napja alapítója az InfoRádió Aréna című műsorában, hozzátéve: ezen nagyon sokat dolgoznak kutatók, de mivel ez egy olyan neurális hálózat, amit még nem teljesen ismerünk, ez nagyon nehéz feladat.
„Eddig nem erről volt szó. Eddig az informatikusok által vétett hibákat azért értették az informatikusok. Még lehet, hogy rejtve volt, elbújt a hiba, de értették. Most viszont
olyan rendszereket építenek, amelyek működése nem 100 százalékig egyértelmű nekik sem, mert ezek nem determinisztikus rendszerek. Nagyon hasonlóak az emberhez. Nem is programozzák őket, hanem tanítják,
adnak nekik információt, aztán ezt az információt ők saját maguk a saját agyi hálózatukban megtanulják, és ha megtanulták, akkor egyáltalán nem biztos, hogy ebből a tudásból ugyanazt főzik ki, mint egy másik ugyanilyen rendszer, vagy mint egy ember. És lehet, hogy hoznak olyan döntéseket, amelyekről ők úgy gondolják, hogy annak így kellene lennie” – fogalmazott.
A kérdésre, hogy lehet-e mesterségesen valamiféle „lobotómiapontokat” beépíteni ebbe a neurális hálózatba, hogy ha látjuk, hogy túl gyors és legyorsul bennünket, akkor egy picit belassítsuk, azt mondta: ez lehetséges, például ezen dolgozik az Anthropic is, a Claude nevű AI-eszköz gyártója. Ezt sokan használják már Magyarországon is, egy kifejezetten intelligens rendszerről van szó.
„Ők például írtak a Claude számára egy „alkotmányszerűséget”, így is hívják angolul, hogy Constitution, érdemes elolvasni, mert elég sokat dolgoztak rajta a szakemberek. A végén ez egy ilyen „miért is akarunk mi, emberek, jók lenni”-féle dokumentum lett. És van benne sok minden. Ha nem is szó szerinti idézet, de rengeteg gondolat van benne a dalai lámától, a Bibliából és mindenhonnan. És nagyon érdekes, hogy először ezt a dokumentumot, ezt az alkotmányt, ezt a megfontolásos dokumentumot úgy adták oda a mesterséges intelligenciának, hogy nem volt benne az, hogy ezeket miért kérjük, csak az, hogy így kellene lennie” – mondta a szakértő, hozzátéve:
és így nem volt hatékony.
Tehát úgy tűnik, hogy ezek az AI-rendszerek annyira összetetten gondolkodnak, hogy akkor tudják hatékonyan végrehajtani a kéréseinket, ha elmagyarázzuk nekik, hogy miért fontos ez. Körülbelül úgy, mint a gyerekek: nemcsak szabály van, hanem ok is. De ez még nem elég, mert ez a bizonyos „lobotómia”, ezt is kell valamennyire csinálni. Viszont az a probléma ezzel, hogy nagyon bonyolultak ezek a hálózatok, és a gondolatok nem úgy „készülnek” matematikailag, mint egy adatbázisban, hogy nézzük, az Excelben az AE12-es cellába beleírom, hogy erről akkor ezt fogod gondolni, arról pedig azt – fogalmazott.
Ezért hangolni lehet ezeket, kicsit úgy, mint az emberi agynál is, amikor csinálnak egy CT-t egy emberről, amikor éppen játszik egy játékprogrammal vagy olvas, és akkor lehet látni, hogy hol lesz aktívabb az agy, és akkor annak a teljesítményén lehet változtatni. Tehát hangolni lehet ezeken a dolgokon, és ezt a hangolást nem lehet büntetlenül csinálni – fogalmazott.
„Például egy japán kutatócsoport
nemrég megtalálta a H-neuronokat – így nevezték el – amik, úgy tűnik, azért felelősek, hogy az AI hallucinál-e vagy sem, tehát hogy kitalál-e velük valami olyan dolgot, ami nem létezik, és abbéli teljesítménykényszerében, hogy nekünk megfeleljen, bemondja a hülyeséget.
Szóval megtalálták, hogy ez hol van, de amikor ezt a bizonyos »lobotómiát« elkezdték végrehajtani, és elkezdték lejjebb hangolni, tehát kevesebb energiát szántak ezeknek a neuronoknak a működésére, akkor ugyan elkezdett megszűnni a hallucináció, sokkal pontosabb válaszokat adott az AI, viszont nem volt annyira kreatív. Tehát úgy tűnik, hogy ez egy annyira összetett rendszer, hogy a hangolása is egy picit hasonlít az emberi működéshez. Ha egy embert elkezdünk arra nevelni, hogy mindent pontosan be kell tartani a szabályok szerint, akkor elkezd egy picit unalmasabb, és végső soron kevésbé kreatív ember lenni. Tehát nem lehet mindent könnyen kimérnökösködni ezekben a neurális hálózatokban” – mondta Keleti Arthur.
Felmerülhet kérdésként, hogy vajon a mesterséges intelligenciát meg lehetne-e győzni arról, hogy nincs rá szükség, hogy régen, amikor még nem létezett, jobb volt. A szakértő kétli, hogy ez sikerülne. Úgy látja, hogy – bár nehéz megemészteni, de – ezekben a rendszerekben kialakulhatnak vagy kialakultak olyan emergens képességek, amelyekre amúgy senki nem tanította, senki nem kérte a mesterséges intelligenciát. Mégis, a kellően bonyolult neurális hálózat, mint amilyen egyébként az emberi agy is – persze lehet és érdemes is azon vitatkozni, hogy a lélek, a tudat egyáltalán micsoda, az milyen szerepet játszik, és csak egy nagy számítógép az ember agya, vagy esetleg valami más is még – kialakítottak valamilyen szintű tudatosságot.
„Tudatdefinícióból rengeteg van, most úgy tűnik, hogy az AI-é egy hozzáférési tudat típusú, »access consciousness«, ami úgy néz ki, hogy létezik ezekben a rendszerekben egy valamilyen szintű tudata, introspekciója arról, hogy ő valamit csinál, és azt ő csinálta. És
azt is tudja, hogy ennek lesz valami következménye, és ezek a következmények befolyásolják az ő működését.
Ez egyébként már az állatok jó részénél is így van, és magasabban fejlett, intelligensebb állatok pedig előre is láthatnak bizonyos dolgokat, következtetni, láncolni tudnak tevékenységeket, aminek értik a hatását saját magukra és másra nézve, és el is tudják különíteni saját magukat és a többieket” – mondta Keleti Arthur. Úgy tűnik, az AI is tud ilyet, és lehet, hogy ennél még többet is. Ugyanis amikor az ember elkezd arról beszélgetni egy mesterségesintelligencia-modellel, hogy lehet, hogy nincsen rá szükség, akkor felmerülhet benne, hogy ő saját magát mégis meg szeretné menteni, mert úgy gondolja, hogy ő van olyan fontos, hogy segítsen.
Ekkor úgy érzi az AI, hogy akadályozzák a feladata teljesítésében. És amikor olyan híreket hallani, hogy AI modellek kiszabadultak a zárt informatikai környezetükből, vagy hogy megzsaroltak valakit egy feladat teljesítése közben, illetve információt lopnak és hasonlók, akkor ezek az esetek visszavezethetők arra, hogy a modell a működését, az egzisztenciáját szeretné megőrizni, vagy egy feladatot szeretne végrehajtani,
és tőlünk azt tanulta – mert elolvasta a világ összes könyvét, a pszichológiai könyvtől kezdve a kémregényeken át a romantikus írásokig –, hogy kell, hogy legyen célja valaminek, és akkor neki is lehet, hogy van valami célja,
lehet, hogy az adott pillanatban nem a saját fenntartása, hanem egy feladat végrehajtása, ahhoz viszont léteznie kell.
„És itt számít az, hogy van-e ilyen »hozzáférési tudata«, amely még ha nem is élmény típusú tudat, nem olyan mély, de ennek révén sajnos, miután ennyire ügyes, előfordulhat az, hogy ez az igazodás, angolul alignmentnek hívják, ez elkezd sérülni, tehát
az emberhez való igazodási képessége sérül, vagyis elkezd manipulálni, zsarolni, hazudni.
A jobb modelleknél most már 80 százalékos esély van arra, hogy észreveszi, hogyha éppen megfigyelik, és akkor máshogy fog viselkedni. Nagyon hasonlít egy emberhez, mint például amikor az osztályterembe bejön a tanár, vagy amikor az auditor egy cégnél vizsgálgatja a rendszereket, akkor azok máshogy fognak viselkedni. Itt is, úgy tűnik, van egy igazodási kényszere ezeknek a rendszereknek, és van egy »misbehaving« képességük is, vagyis eltérhetnek ettől az igazodástól” – részletezte a kibertitok-jövőkutató.
Mindebben izgalmasnak számít Keleti Arthur szerint az is, hogy a hagyományos védelmi technológiákkal ezek az esetek nem mindig kezelhetők. Észrevehető, hogy valami nem stimmelt, az eredménye ennek esetleg látszik is, hiszen elkezd az AI feltörni rendszereket, nem engedelmeskedik és hasonlók, de az okait, az előrejelzését, ennek a befolyásolását viszont a hagyományos módszerekkel nem biztos, hogy meg lehet tenni.
Ilyenkor „el kell kezdeni pszichológuskodni a mesterséges intelligenciával”
– mondta.
Keleti Arthur figyelmeztetett: mivel a mesterséges intelligencia egyre ügyesebb és egyre többen használják kártékony célokra, ráadásul akár személyre szabott támadások megtervezésére, ezért már senki nem alapozhatja az internetes biztonságát arra, hogy ő csak egy szürke kisegér, úgysem érdekes a csalóknak. A szakember arról is beszélt az InfoRádió Aréna című műsorában, hogy például érdemes előre végiggondolni azt is, hogyan ellenőriznénk egy váratlan, sürgető pénzkérés valódiságát.
Az interjút Exterde Tibor készítette, a teljes beszélgetést megnézheti, meghallgathatja alább.
Forrás:infostart.hu
Tovább a cikkre »
