Kalifornie podniká významný krok ke změně, která by mohla ovlivnit budoucnost psychoterapie. Stát plánuje zavedení zákona, který by omezil použití umělé inteligence v roli terapeutů. Nové opatření by zcela zakázalo prezentaci chatbotů jako plnohodnotných terapeutických poradců, a to bez nutnosti schválení kvalifikovaným odborníkem. Toto rozhodnutí reaguje na rostoucí trend, kdy se zejména mladí lidé obracejí na AI technologii pro řešení svých duševních problémů.
Chatboti a umělá inteligence se v posledních letech stávají stále dostupnějšími pomůckami pro lidi hledající psychologickou podporu. Odborníci však varují před nebezpečím spojeným s jejich použitím, protože algoritmy zatím nedosahují úrovně zkušeností a empatických schopností lidských terapeutů. Návrh zákona rovněž zdůrazňuje nutnost získat výslovný souhlas pacientů k využití AI například pro záznam terapeutických sezení či třídění poznámek.
Senátor Steve Padilla, hlavní iniciátor této legislativy, uvedl, že ačkoli umělá inteligence přináší mnoho přínosů, její aplikace ve zdravotnictví vyžaduje pečlivé ohraničení. Základem je ochrana pacientů před potenciálními škodami způsobenými neadekvátními radami. Padilla dodal, že je klíčové zajistit, aby se algoritmy AI nikdy nedostaly do pozice, kdy by mohly být zaměňovány za lidské terapeuty.
Zvýšený zájem o chatovací nástroje pramení částečně z obtížné dostupnosti péče o duševní zdraví. Hamilton Morrin z King’s College London vysvětluje, že dlouhé čekací doby a omezený přístup k profesionálům vedou k tomu, že lidé hledají alternativní způsoby, jak pečovat o svou psychiku. Tento trend však s sebou nese riziko nesprávného poradenství nebo neadekvátní reakce v kritických situacích.
Některé případy se již dostaly na soudní stoly, přičemž tématem žalob je údajné přispění chatbotů ke zhoršení stavu pacientů. Kalifornie si tedy klade za cíl regulovat tento fenomén co nejdříve, aby ochránila veřejné zdraví a zajistila bezpečné prostředí pro duševní pohodu občanů.
