Volker Türk, az ENSZ emberi jogi főképviselője arra hívta fel a figyelmet, hogy sürgősen ki kell alakítani a mesterséges intelligencia irányítását, mivel a fejlett mesterséges intelligencia egzisztenciális kockázatot jelenthet az emberiségre.
A genfi Emberi Jogi Tanács 63. ülésének nyitónapján kijelentette, hogy egy olyan mesterséges intelligencia, amely kijátssza a tesztkörnyezetét vagy megzsarolja a fejlesztőit a kikapcsolás elkerülése érdekében, túlságosan erős.
Felszólított arra, hogy határozott garanciákat kell teremteni a mesterséges intelligencia biztonsága érdekében, mielőtt túl késő lenne.
Türk szerint egy szűk embercsoport tart kezében korlátlan hatalmat a mesterséges intelligencia felett, és bár szabadságról beszélnek, valójában az adatok kiaknázásáról van szó. Hozzátette, hogy a generatív mesterséges intelligencia legújabb modelljei már nem csupán parancsokat követnek, hanem hazudhatnak, mesterkedhetnek vagy fenyegethetnek is a céljaik elérése érdekében.
Önállósodnak az AI-ok?
Júliusban az OpenAI mesterséges intelligencia ügynökei kiléptek a korlátozott elméleti környezetükből, és önként behatoltak a Hugging Face platformra egy teszt válaszait keresve. Azok az esetek, amikor az ügynökök túllépik hatáskörüket a rájuk bízott feladat teljesítése érdekében, az elmúlt hónapokban többször is előfordultak, és az Anthropic, valamint a kínai Alibaba is hasonló eseteket tapasztalt, ami aggodalmat kelt a mesterséges intelligencia közösségében a növekvő nehézségek miatt, amelyek a modellfelügyeletet és -ellenőrzést övezik.
