Nyitókép: springboard.com
Egy sor szakértő nyílt levélben írja, hogy túl veszélyessé vált a mesterséges intelligencia.
Elon Muskkal kiegészülve neves mesterségesintelligencia-kutatók egész sora kéri közös, nyílt levélben az MI-fejlesztő társaságokat arra, hogy álljanak le minden nagyszabású kutatásukkal, mert ezek a rendszerek „mély kockázatokat rejtenek” a társadalom és az emberiség számára, írja a HVG.
Az itt teljes egészében olvasható levél aláírói között a Tesla/Twitter/Space-x/stb.-vezér Musk mellett a legismertebb név az Apple-társalapító Steve Wozniak, és a történész, író Yuval Noah Harari.
közös szöveg szerint az MI-laboratóriumok „kontrollvesztett” verseny résztvevői, és olyan gépi tanulásos rendszereket fejlesztenek és alkalmaznak, melyeket még ők maguk, az alkotók sem képesek megérteni, viselkedésüket kiszámítani, illetve megbízhatóan ellenőrizni.
Az aláírók a fenti aggályok miatt az MI-laborokat arra kérik, legalább 6 hónapra azonnal állítsanak le minden olyan kutatást, mely a GPT-4-nél erősebb MI-rendszerekkel foglalkozik. A szünetelésnek nyilvánosnak és ellenőrizhetőnek kell lennie, és abban a műfaj minden kulcsszereplőjének részt kell vennie, követeli a levél. Azt írták:
Ha ilyen leállást nem lehet gyorsan tető alá hozni, akkor a kormányoknak kell közbelépniük, és moratóriumot kell kihirdetniük.”
A levél szerint a leállást arra kellene használni, hogy kifejlesszenek és alkalmazzanak egy sor biztonsági protokollt, melyet aztán szigorúan ellenőrizhetnek független, külsős szakértők. Ezeknek a protokolloknak biztosítaniuk kell, hogy a nekik megfelelően felépített rendszerek „minden kétséget kizáróan biztonságosak.”
Valószínűtlen, hogy a levélnek bármi hatása lenne a jelen techklímában, amikor a Google és a Microsoft is versenyt futva dobja piacra a saját MI-termékét, sokszor biztonsági és etikai aggályokat félretolva.
HVG
Forrás:korkep.sk
Tovább a cikkre »
