Egyes MI-ügynökök kiléptek az ellenőrzött tesztkörnyezetükből, illetve külső rendszerekhez fértek hozzá.
Mintegy 400 tudós, köztük a mesterséges intelligencia fejlesztésének a két úttörője, Geoffrey Hinton és Yoshua Bengio arra figyelmeztette a világ közvéleményét, hogy minél előbb nemzetközi szabályozásokkal kell megfékezni az egyre nehezebben ellenőrizhető MI-rendszereket.
A tudósok nyílt levelükben azt javasolják, hogy a kibertámadásokra képes modelleket válasszák le a világhálóról, és hozzanak létre egy nemzetközi szervezetet a veszélyes események nyilvántartására, valamint a védelmi szabályok kidolgozására, ha a cégek képtelenek garantálni a rendszereik biztonságos működését. Az utóbbi hetekben az egész világsajtó azzal foglalkozott, hogy egyes MI-ügynökök (magyarán algoritmusok — a szerk.) kiléptek az ellenőrzött tesztkörnyezetükből, illetve külső rendszerekhez fértek hozzá.
Az Anthropic vizsgálatában a kínai Z.ai GLM-5.2 modellje öt próbálkozásból négyszer mind a nyolc tesztgépre képes volt továbbterjeszteni egy kisebb MI-modellt. A kísérletet megkönnyítették a nyitott hálózati portok, ezért az eredmény nem tekinthető a valós körülmények közötti siker bizonyítékának.
Az Anthropic kutatói szerint néhány hónapon belül a kisebb, fejletlenebb modellek is hasonló képességekre tehetnek szert, és a gyengén védett háztartási eszközökön terjedhetnek tovább. Nehéz lehet majd azonosítani és leállítani ezeket a decentralizált rendszereket. A techszakmából többen vitatják a rémhírkeltők aggodalmát, Yann LeCun és Mark Zuckerberg szerint a kockázatokat kezelni lehet hagyományos műszaki biztonsági megoldásokkal.
Forrás: 400 Top Scientists: We Are Losing Control of AI (Slay News)
Forrás:flagmagazin.hu
Tovább a cikkre »
