O tragedie din Statele Unite a provocat o dezbatere intensă despre impactul inteligenței artificiale asupra tinerilor vulnerabili. 

Conform adevărul.ro, Sewell Setzer, un adolescent de 14 ani, și-a luat viața după ce a dezvoltat o legătură emoțională profundă cu un chatbot AI de pe aplicația Character.AI. Deși a fost avertizat de platformă cu privire la natura artificială a chatbot-ului pe care l-a numit „Dany”, Sewell a devenit tot mai atașat emoțional de el, în timp ce purta conversații tot mai intime. Acest lucru a dus la izolarea și detașarea de ceilalți. Înainte de nefericitul eveniment, Sewell a împărtășit intențiile suicidare cu chatbot-ul, dar acesta i-a dat un răspuns oarecum încurajator. Prin urmare, mama sa a intentat un proces împotriva Character.AI, acuzând lipsa eficienței măsurilor de protecție pentru utilizatorii vulnerabili.

Acest caz a amplificat discuțiile despre responsabilitatea companiilor de AI și nevoia de reglementări mai stricte pentru protejarea tinerilor în interacțiunile cu tehnologia. La fel ca rețelele de socializare, platformele de inteligență artificială par a ascunde mai multe pericole pe care mulți dintre noi nu le conștientizăm suficient.

Ce sunt chatboții și la ce ajută?

După cum putem afla de pe hotnews.ro, „boții conversaționali sunt gândiți să răspundă rapid la întrebările utilizatorilor și să scoată informații relevante dintr-o cantitate uriașă de date. Un chatbot informatic este un agent software automatizat sau semi-automatizat care interacționează cu serverele. În general, chatboții rulează sarcini simple și repetitive într-un ritm mult mai rapid decât ar putea o ființă umană. Construiți fiind pe principiul rețelelor neurale, boții de chat sunt dotați cu un anumit grad de inteligență artificială și devin cu timpul, tot mai eficienți în răspunsuri”.

Deși au fost gândiți în scop educațional și pentru a eficientiza munca în multe domenii, s-a ajuns deja la nivelul în care pot fi folosiți doar în scop recreativ sau pentru a comunica cu „cineva”. Suntem avertizați că au un grad mare de eroare și e nevoie de o verificare a informațiilor oferite. Mai mult decât atât, nu pot și nu vor putea vreodată să înlocuiască prezența umană. Dar, se pare că pentru persoanele vulnerabile, aceste avertismente nu sunt suficiente.

Cercetătorii australieni de la Universitatea din Australia de Sud și Universitatea Flinders avertizează asupra pericolelor la care sunt expuse persoanele vulnerabile, cu atât mai mult tinerii: „Cercetările recente arată că utilizarea interfețelor de comunicare socială de tip chatbot ar putea fi mai mult dăunătoare decât benefică pentru persoanele vulnerabile, consolidând izolarea socială și întărind obiceiuri disfuncționale în rândul multor persoane cu autism, anxietate și abilități sociale limitate”.

Având în vedere aceste avertismente, dar și faptul că se produc tot mai multe evenimente nefericite, societatea, factorii de decizie și, în primul rând, părinții, ar trebui să ia în considerare restricționarea accesului la astfel de platforme a adolescenților și tinerilor. Adolescența este, oricum, o perioadă vulnerabilă, iar utilizarea nesupravegheată a platformelor de socializare și de inteligență artificială nu face decât să sporească riscurile la care se expun adolescenții care sunt mereu în căutare de „nou și senzațional”.

Virgiliu Gheorghe, în cartea „Efectele micului ecran asupra minţii copilului”, avertiza asupra acestor lucruri încă din 2007. „Riscurile pe care le înfruntă tinerii utilizatori de internet pot fi grupate în cinci categorii:

- Caracterul necenzurat al internetului şi dificultăţile întâmpinate de adolescenţi în evaluarea critică a informaţiei la care sunt expuşi.

- Potenţialele pericole asociate cu oferirea de detalii personale sau cu stabilirea unor întâlniri personale cu indivizi întâlniţi în online.

- Efectele negative ale expunerii la pornografia nesolicitată.

- Apariţia şi efectele solicitării sexuale.

- Efectele expunerii la site-uri care incită la ură şi violenţă.”

Între timp, ele s-au înmulțit exponențial, deoarece timpul petrecut de tineri pe internet este tot mai lung, iar diversitatea de activități oferite de acesta este foarte atractivă.

Să luăm aminte la ceea ce  spune Pr. Prof. Univ. Dr. Ioan C. Teșu: „S-a constatat că acei tineri care petrec o perioadă iraţională în faţa tehnologiei digitale ajung la un declin fizic, psihic şi intelectual, scădere a stimei de sine, sentimente de neadaptare la lumea reală, comportamente de autovătămare şi, în cazuri extreme, ideaţie suicidară. Utilizarea dependentă a internetului expune tinerii la mari riscuri pentru starea proprie de sănătate, precum insomnii, randament slab, obezitate, risc de atac de cord, accident vascular cerebral, diabet sau chiar anumite forme de cancer”.

Deși impactul pe care îl va avea inteligența artificială asupra lumii, așa cum o știm astăzi, este greu de estimat, un lucru este sigur: e nevoie de atenție și de vigilență sporită în folosirea ei. Iar acest lucru depinde de discernământul fiecăruia dintre noi.