V současné době je umělá inteligence (AI) na vzestupu. Lidé jsou rozděleni ve svých názorech na to, zda bude znamenat větší užitek nebo spíše ohrožení pro lidstvo. Kritici varují před možnými riziky, které nemusí být na první pohled zřejmé. Znepokojení rostou zejména kvůli absenci morálních mantinelů, které by mohly zabránit vytváření „psychopatických“ digitálních bytostí.
Odborníci upozorňují na nebezpečí využívání AI v oblastech, kde je nutno se rozhodovat na základě morálního úsudku, jako jsou medicína, vzdělávání či výchova dětí. AI, na rozdíl od lidí, nezná pojem empatie. I když mohou algoritmy napodobovat reakce na základě vzorců emocí, postrádají skutečnou empatii a neuvědomují si důsledky svých rozhodnutí. To by mohlo vést k nečekaným a potenciálně škodlivým rozhodnutím, protože chybí vnímání reálného světa.
Filozofka Catrin Misselhornová vysvětluje, že AI může připomínat psychopata, protože obě entity rozpoznají emoce, aniž by je cítily. Nicméně na rozdíl od AI si lidský psychopat může své destruktivní činy uvědomovat a případně je změnit, což AI není schopná.
Investor a miliardář Warren Buffett, který přirovnává rizika AI k hrozbě jaderných zbraní, varoval před nejistotou, kterou AI do budoucna představuje. Podle Buffetta by nekontrolovaný vývoj AI mohl být jako „džin vypuštěný z lahve“, kterého nebude možné znovu ovládat. Rovněž zmínil zvýšenou pravděpodobnost nárůstu počtu států vlastnících jaderné zbraně, pokud AI umožní jednodušší přístup k technologiím a informacím souvisejícím s jejich vytvořením.
Prozatím je jasné, že AI musí být nasazována s rozmyslem a po důkladném vyhodnocení morálních i etických dopadů. Růst jejího vlivu na společnost bude vyžadovat neustálý dohled a pečlivé vytyčování bezpečnostních hranic, aby přínosy převažovaly nad potenciálními hrozbami.
