Nem számít újdonságnak, hogy a technikai fejlődés vívmányai szinte azonnal megjelennek a haditechnikában is. Így magától értetődő, hogy a mesterséges intelligencia katonai alkalmazása is azonnal teret kapott. Csakhogy az MI alkalmazásának ezen a területen is hatalmas kockázatai vannak. Ezekről a veszélyekről és a szabályozásról szólt a pekingi Hsziangszan Fórum, Kína legfontosabb nemzetközi biztonságpolitikai rendezvénye.
A több mint száz országból érkezett mintegy kétezer katonai vezető, diplomata és kutató közül többen arra figyelmeztettek, hogy az MI ellenőrizetlen fejlesztése nemcsak a hadviselést alakíthatja át, hanem a válságok kiszámíthatatlanságát is növelheti, mivel az MI által vezérelt rendszerek a másodperc töredéke alatt reagálhatnak, ami miatt a konfliktusok a diplomáciai megoldások előtt eszkalálódhatnak.
A problémafelvetést tovább súlyosbítja a legújabb hadi szimulációs kutatások eredménye, mely szerint a modern MI-modellek válsághelyzetben hajlamosak a konfliktusok súlyos eszkalációjára. Az összes vizsgált AI-modell agresszívabban reagált a katonai feszültségekre, mint az emberek. Az algoritmusok különböző pontokon és eltérő módokon, de kivétel nélkül a fegyveres erőszak fokozása mellett döntöttek.
Ezért többen nemzetközi szabályozást, biztonsági mechanizmusokat és az emberi ellenőrzés megőrzését sürgették. Mindezt egy egyszerű, ám nehezen megválaszolható kérdésre alapozva:
meddig segítheti a gép a katonát, és hol az a pont, amelytől már az algoritmus dönt emberéletekről?
A katonai MI-rendszerek elemzik a műholdak, radarok, felderítő repülőgépek és drónok hatalmas adattömegét, ellenséges alakulatokat keresnek, útvonalakat terveznek, irányítják a logisztikát, és segítenek kiválasztani a bevethető fegyvert. A mesterséges intelligencia már nemcsak harctéri adatokat elemez, hanem célpontokat rangsorol, drónokat irányít és felgyorsítja a támadási döntéseket. A nagyhatalmak egyetértenek ennek veszélyeiben, ahogy abban is, hogy szükség van a korlátozásra, közben viszont egyikük sem akar technológiai hátrányba kerülni.
Egy magasan fejlett autonóm fegyverrendszer ma már menet közben is képes módosítani támadásának kijelölt célpontját. Ha fontosabb, nagyobb katonai értékű vagy közvetlenebb veszélyt jelentő célpontot észlel, akkor „átirányíthatja magát”. Ennek tudatában vajon elegendő-e, hogy az ember előzetesen megszabja a célpontok körét, vagy minden egyes támadáshoz külön emberi jóváhagyásra volna szükség?
Különösen aggályos, hogy fenntartható-e a teljes emberi ellenőrzés egy több ezer eszközből álló drónraj bevetésekor? Az ember kijelölheti a műveleti területet, a célpontok típusát és a támadás korlátait, de az egyes drónok mozgását, célválasztását és fegyverhasználatát már aligha képes valós időben, egyenként felügyelni.
Az MI legnagyobb katonai előnye nem az, hogy „okosabb” az embernél, hanem hogy sokkal gyorsabban képes feldolgozni az információt.
Lerövidítheti az úgynevezett felderítési-támadási láncot, vagyis azt a létfontosságú időt, melyre itt mindennél inkább érvényes, hogy aki időt nyer, életet nyer. Csakhogy a gyorsaság komoly veszélyt is jelent. Elég egy tévesen azonosított radarkép, manipulált adat vagy hibás algoritmikus következtetés, s a rendszer percek alatt támadást generálhat.
Az MI nemcsak meghibásodhat, de maga is támadható. Az ellenfél hamis rádiójelekkel, megtévesztő hőképekkel, különleges álcázással vagy manipulált digitális adatokkal félrevezetheti a rendszert. Megpróbálhat bejutni a szoftverellátási láncba, manipulálhatja a betanításhoz használt adatokat, s alkalmazhat olyan módosításokat, amelyek miatt a gép egy civil járművet katonai célpontnak ítél meg.
A biztonságos katonai MI egymásra épülő védelmi rétegeket követel meg. A rendszereket valósághű és szándékosan megtévesztő helyzetekben is tesztelni kell, folyamatosan ellenőrizve az adatforrásokat, és a kritikus döntéseknél több független érzékelő és elemzési módszer megerősítésére lehet szükség.
Fontos követelmény az is, hogy utólag megállapítható legyen, hogy milyen adatokból és milyen utasítások alapján született a döntés, s ha egy rendszer hibázik, elszámoltatható legyen a felelős, aki engedélyezte a használatát.
Problémát jelent, hogy a nagyhatalmak mindegyike szabályozná ugyan a rendszert, viszont egyikük sem akar lemondani egy technológiáról, ha attól tart, hogy riválisa közben zavartalanul fejleszti azt.
A katonai MI szabályozása ezért ugyanabba a bizalmi csapdába került, mint korábban több fegyverzetkorlátozási kezdeményezés is, például az űrfegyverkezés, ahol mindenki tart a veszélyektől, de senki sem akar elsőként lemaradni.
A legsúlyosabb kérdés az MI bevetése a nukleáris parancsnoki, előrejelző és döntéstámogató rendszerekben. A veszély ugyanis nem feltétlenül az, hogy egy számítógép önállóan elindít egy nukleáris rakétát. Elég, ha hibásan támadást jelez, túlzottan magabiztos értékelést ad, vagy annyira lerövidíti a politikai vezetők rendelkezésére álló időt, hogy azok ellenőrizetlen információ alapján döntenek. Az MI tehát pontosabbá és gyorsabbá teheti a hadviselést, csökkentheti a saját katonák veszélyeztetését, és bizonyos helyzetekben a civil áldozatok számát is, azonban beláthatatlan méretűvé teheti a tévedést és elhomályosíthatja a felelősséget.
A pekingi tanácskozáson ezért nem is arról folyt a vita, hogy szükség van-e szabályokra, hanem hogy ki határozza meg azokat, és ki hajlandó akkor is betartani, amikor a harctéren tizedmásodpercek is számítanak.
Forrás: Euronews.hu
NZS/Felvidék.ma
Forrás:felvidek.ma
Tovább a cikkre »
