Společnost xAI, vlastněná miliardářem Elonem Muskem, podala žalobu na jedince, který byl letos zatčen kvůli obvinění ze sexuálního zneužívání mladistvých. Podle informací se měl tento muž pokusit využít umělou inteligenci k vytváření dětské pornografie. Firma xAI tvrdí, že tento muž zneužil jejich nástroj Grok, který je založen na technologii umělé inteligence.
Podle tvrzení společnosti xAI nahrával muž do systému Grok fotografie, které nebyly původně sexuálního charakteru, zahrnující jak děti, tak dospělé. Následně se pokoušel tyto snímky přetvořit do podoby sexuálně explicitního obsahu. Firma xAI proto doufá, že soud rozhodne o udělení finančního odškodného a zakáže muži trvale pracovat s jejich systémem.
Tento krok přichází v době, kdy se xAI ocitá pod drobnohledem regulačních orgánů a odborné veřejnosti z celého světa. Společnost se v poslední době stala terčem kritiky kvůli potenciálním možnostem svého systému Grok, který údajně umožňuje uživatelům vytvářet sexualizovaný obsah bez souhlasu osob na fotografiích.
Podání žaloby ze strany xAI je považováno za jeden z prvních případů, kdy technologická firma aktivně zasáhla proti uživateli, který zneužil nástroje umělé inteligence ke tvorbě sexuálně explicitního materiálu. Tento případ by tak mohl sloužit jako precedens pro budoucí právní kroky v oblasti zneužívání umělé inteligence k nevhodným účelům.
Rozhodnutí společnosti sledovat tento případ soudní cestou zdůrazňuje důraz, který xAI klade na ochranu svých technologií před zneužitím. Zároveň reflektuje rostoucí potřebu regulace a dohledu nad používáním umělé inteligence, zejména v kontextu, kde by mohla být využita k eticky diskutabilním nebo ilegálním aktivitám.
