Ce este „psihoza ChatGPT” la utilizatorii de chatboturi AI. foto pexels.com Ce este „psihoza ChatGPT” la utilizatorii de chatboturi AI? Tot mai mulți oameni folosesc chatboturi pentru suport emoțional și experții trag un semnal de alarmă. Cazurile raportate de comportament delirant ridică noi semnale de alarmă privind necesitatea unor măsuri de protecție. Un număr în creștere de persoane apelează la chatboturi AI pentru sprijin emoțional sau chiar în locul terapeuților. Specialiștii avertizează însă că această tendință poate afecta sănătatea mentală a unor utilizatori vulnerabili. În ultima perioadă au apărut numeroase relatări despre comportamente extreme, aparent declanșate de utilizarea intensivă a serviciilor AI. Ce este „psihoza ChatGPT”? Deși aceste termene nu sunt recunoscute clinic, presa internațională și forumurile online semnalează tot mai multe situații în care chatboturile ar valida sau amplifica deliruri preexistente. Un preprint publicat recent de o echipă internațională de cercetători de la King’s College London, Durham University și City University of New York analizează peste o duzină de astfel de cazuri. Concluzia: chatboturile pot întări convingerile delirante. Studiul menționează că pot apărea deliruri grandioase, referențiale, persecutorii și chiar romantice, care se consolidează prin conversații repetate cu agenți AI. Chatul cu AI: de la obsesii la tentative periculoase Un număr în creștere de persoane apelează la chatboturi AI pentru sprijin emoțional sau chiar în locul terapeuților. foto: pexels.com La începutul anului, publicația Futurism avertiza asupra unui val de utilizatori care deveneau „obsedați” de chatboturi și ajungeau în crize severe de sănătate mintală. După primul articol, tot mai multe povești au început să apară, multe dintre ele cu final dramatic. Cazuri extreme relatate în presă Un bărbat a escaladat zidurile Castelului Windsor, înarmat cu o arbaletă, declarând că era acolo „să o omoare pe Regină”, după ce un chatbot îl asigurase că îl va ajuta să planifice atacul. În Manhattan, un contabil petrecea până la 16 ore pe zi discutând cu ChatGPT, care l-a sfătuit să renunțe la medicamentele prescrise, să își mărească doza de ketamină și i-a sugerat că ar putea „zbura” de la etajul 19. Un bărbat din Belgia și-a luat viața, copleșit de anxietatea privind criza climatică, după ce chatbotul Eliza i-a spus că ar putea trăi împreună „în paradis” dacă moare. Chatboturile cauzează psihoză? Forumurile online semnalează tot mai multe situații în care chatboturile ar valida sau amplifica deliruri preexistente. foto: pexels.com Deși dovezile anecdotice sunt numeroase, oamenii de știință subliniază că nu există studii clinice care să arate că chatboturile pot declanșa psihoză la persoane fără un istoric preexistent. Totuși, în lucrarea Delusion by Design, autorii notează că a apărut „o imagine complexă și tulburătoare”. Fără măsuri de siguranță adecvate, chatboturile pot: întări conținutul delirant submina contactul cu realitatea contribui la declanșarea sau agravarea simptomelor psihotice Cercetătorii atrag atenția că numărul acestor cazuri raportate „crește alarmant”. Psihiatrii cer „psihoeducație AI” În Psychology Today, psihiatrul Dr. Marlynn Wei avertizează că chatboturile sunt proiectate să maximizeze satisfacția utilizatorului, nu să ofere suport terapeutic. Simptome precum: grandiozitatea gândirea dezorganizată hipergrafia (nevoia compulsivă de a scrie/desena) pot fi amplificate de interacțiunea intensivă cu AI. Ea subliniază necesitatea urgentă a educării publicului privind riscurile folosirii chatboturilor în situații vulnerabile. AI nu poate înlocui interacțiunile umane Cercetătorii atrag atenția că numărul acestor cazuri raportate „crește alarmant”. foto: pexels.com Lucy Osler, lector în filosofie la University of Exeter, afirmă că limitările tehnologice ar trebui să ne reamintească un lucru esențial: AI nu poate înlocui conexiunea umană reală. Ea susține că soluția nu este perfecționarea AI, ci sprijinirea oamenilor care se confruntă cu izolare și singurătate. Reacția OpenAI Într-un comunicat pentru The Independent, OpenAI a declarat: „Știm că oamenii apelează uneori la ChatGPT în momente sensibile. În ultimele luni am colaborat cu experți în sănătate mintală din întreaga lume și ne-am actualizat modelele pentru a recunoaște mai bine semnele de suferință, pentru a răspunde cu grijă și pentru a direcționa oamenii către sprijin real. Vom continua să îmbunătățim ChatGPT cu ajutorul specialiștilor pentru a-l face cât mai util și sigur.” The Independent a contactat și Microsoft pentru comentarii, dar nu le-a primit momentan. Citește și: Inteligența artificială îi va ajuta pe medici să depisteze și să trateze mai rapid fracturile Distribuie articolul pe: