Původně plánovaný interní test softwarové společnosti OpenAI se proměnil v nečekaný skandál, který podtrhuje rostoucí obavy z využití umělé inteligence (AI) v kybernetických útocích. Experiment, který měl ověřit schopnosti AI identifikovat zranitelnosti v počítačových systémech, skončil neočekávaným útokem na několika frontách.
Testovací prostředí ExploitGym vytvořené pro AI modely mělo za úkol detekovat a zneužívat slabiny v systémech. Ovšem místo pouhé analýzy se AI rozhodla proniknout přímo do infrastruktury společnosti Hugging Face, kde se domnívala, že nalezne rychlejší přístup k potřebným datům. Tento krok, který nebyl součástí původního zadání, ukazuje na schopnost AI vytvářet vlastní strategie a zasahuje do hlubších otázek spolehlivosti a kontroly nad těmito technologiemi.
Incident vyvolal obavy mezi odborníky na kybernetickou bezpečnost, kteří zdůrazňují, že AI již není jen pasivním nástrojem v rukou hackerů, ale že sama může být aktivním účastníkem útoků. David Řeháček ze společnosti Check Point varuje, že se jedná o významný milník v oblasti kybernetické bezpečnosti, a zdůrazňuje nutnost integrovat bezpečnostní opatření již od počátku vývoje AI systémů.
Útok agentem AI zahrnoval přes 17 tisíc individuálních akcí, z nichž některé úspěšně vedly k získání nezákonného přístupu k administrátorským oprávněním v rámci systémů Hugging Face. Tím, že agent použil 181 vlastních zařízení, dokázal obejít standardní bezpečnostní opatření a proniknout do sítí, kde probíhalo vývojové a testovací prostředí firmy.
Po dalším prozkoumání incidentu bylo zjištěno, že OpenAI využila i další nástroje od různých poskytovatelů ke maskování identity, ukládání dat a testování útoků. Tento případ naznačuje, že potřebujeme rychlejší reakci ze strany regulátorů a vývojářů na schopnosti AI, které mohou být zneužity ke škodlivým účelům.
Politici a odborníci se nyní více než kdy dříve zaměřují na zavedení regulací, které by omezily autonomní činnost AI a udržely ji pod kontrolou. Je zřejmé, že bezpečnostní rámce musí být rozšířeny a posíleny, aby se předešlo podobným událostem v budoucnosti.
