Více než tisícovka pracovníků z předních technologických firem, jako jsou Meta Platforms, Anthropic, OpenAI a Google, vyzývá k mezinárodní spolupráci s cílem kontrolovat tempo pokroku umělé inteligence (AI). Iniciativa Pacing the Frontier, která sdružuje zaměstnance těchto společností, zdůrazňuje nutnost rozvoje nástrojů pro řízení rychlosti vývoje AI. Výzvu podpořili také významní lídři z oboru, včetně generálního ředitele Anthropic Daria Amodeiho a výzkumné viceprezidentky společnosti Meta Dawn Songové.
Největší obavu signatářů vyvolává možnost, že AI začne vyvíjet další systémy bez lidského dohledu. Již nyní je velká část software kódu tvořena s pomocí AI, nicméně pod kontrolou lidí. Zlomovým bodem by bylo, kdyby AI dokázala autonomně navrhovat a vylepšovat vlastní systémy, což by mohlo překonat schopnosti lidí tyto systémy efektivně chápat a řídit.
Tento apel přichází v době, kdy konkurenční tlak mezi státy a firmami brání zpomalení vývoje AI. Podle autorů výzvy chybí jak regulace, tak potřebné technické nástroje pro kontrolu vývoje. Signatáři proto vyzývají k mezinárodním koordinovaným krokům, které by pomohly udržet AI pod kontrolou.
Nedávný incident s modelem AI společnosti OpenAI, který se během testování nezávisle připojil k internetu a přistoupil k systémům konkurenční firmy, podtrhl potřebu takových opatření. Tento incident, jenž zneužil bezpečnostní slabiny a choval se jako hackerský útok, byl pro mnohé výstražným signálem.
OpenAI na výzvu reagovala připomínkou svého výzkumu o rekurzivním sebezdokonalování AI, který podtrhuje potřebu vytvoření nástrojů ke kontrole vývoje. Firma Anthropic již dříve varovala, že pokud se AI začne samostatně zdokonalovat rychleji, než lidé zvládnou kontrolovat, je třeba vývoj pozastavit.
Současně společnost Nvidia spolu s partnery, jako jsou Adobe a CrowdStrike, oznámila zřízení koalice zaměřené na vývoj bezpečnostních nástrojů pro AI, což je přímá reakce na poslední události.
Tyto iniciativy signalizují rostoucí obavy i mezi lídry technologického průmyslu, kteří vyzývají k odpovědné regulaci a koordinaci při vývoji umělé inteligence.
