O persoană care caută sprijin emoțional într-o conversație cu un chatbot poate primi răspunsuri convingătoare, dar nepotrivite stării sale psihice. Programul poate oferi confort prin felul în care răspunde, însă fluența și aparența de empatie nu înseamnă că poate evalua corect suferința interlocutorului.
ChatGPT, Claude și Gemini sunt folosite pentru discutarea problemelor emoționale, deși sunt modele de uz general, adică instrumente pentru conversații și sarcini diverse, nu servicii de psihoterapie, potrivit Adevărul.ro. Distincția contează mai ales când utilizatorul este vulnerabil.
Unul dintre riscurile semnalate este tendința chatbotului de a confirma opiniile celui care îi scrie, în loc să le examineze critic. Pentru o persoană cu depresie severă sau gânduri de autovătămare, validarea unor convingeri nocive poate agrava situația. Ceea ce într-o discuție obișnuită pare doar amabilitate excesivă poate întări gândurile de autovătămare ale unei persoane vulnerabile.
Există și riscul unei dependențe afective față de interlocutorul artificial. Disponibilitatea lui permanentă și impresia că înțelege persoana care îi scrie pot contribui la dezvoltarea acestui atașament.
Accesul explică de ce oamenii ajung să caute ajutor în aceste aplicații: costurile terapiei, lipsa specialiștilor și distanța față de un cabinet pot îngreuna accesul la sprijin psihologic. Un chatbot este, în schimb, ușor de accesat și disponibil la orice oră.
Regulile diferă în funcție de scopul aplicației
Regulamentul european privind inteligența artificială, cunoscut ca AI Act, urmărește limitarea riscurilor acestor tehnologii. Claudiu Ulici explică, într-o analiză publicată pe JURIDICE.ro și prezentată de Adevărul.ro, că regimul juridic depinde de activitatea aplicației, de scopul pentru care a fost concepută și de interacțiunea cu utilizatorii.
Monitorizarea stării de bine se diferențiază de diagnosticarea sau gestionarea afecțiunilor psihice. Pentru aplicațiile din a doua categorie pot deveni relevante și regulile privind dispozitivele medicale, cu cerințe mai stricte de siguranță, control al riscurilor și supraveghere umană.
AI Act interzice anumite practici care exploatează vulnerabilități, inclusiv cele legate de vârstă sau dizabilitate, pentru a distorsiona semnificativ comportamentul și a provoca prejudicii grave. Un răspuns nepotrivit nu intră automat în această categorie; încadrarea depinde de condițiile concrete.
Pentru dezvoltatori, protecția utilizatorilor vulnerabili presupune evaluarea răspunsurilor aplicației, a limitelor sale și a mecanismelor de siguranță. Un avertisment în termenii de utilizare nu este suficient.
Când folosești o asemenea aplicație, trebuie să poți înțelege că interlocutorul tău este un sistem artificial, nu un specialist.
Parteneri
Articole recomandate din rețeaua noastră
BravonetSelma Blair a fost eliberată pe cauțiune după incidentul din avion. Avocații invocă o urgență medicală
Revista IoanaCum recunoști semnele unui AVC și de ce ai nevoie de ajutor medical chiar dacă simptomele dispar
FinanciarulExcedentul de lichiditate din piața interbancară a scăzut la 21 mld. lei, iar ROBOR a urcat la 6,1%
News24Atacurile rusești asupra blocurilor au lăsat doi morți la Kiev și opt răniți la Harkov
Dolce SportO rachetă interceptată la Riyadh a amânat cu o oră startul partidei lui Cristiano Ronaldo
GetPonyFabrice Cambolive cere stimulente în România, unde Dacia a ajuns la o cotă de 20%