Ursuleții de pluș cu inteligență artificială pentru copii au apărut deja. Experții avertizează că ar putea face mai mult rău decât bine

Adaugă-ne ca sursă preferată

Urmărește-ne în Discover

Jucăriile cu inteligență artificială, capabile să poarte conversații fără sfârșit cu cei mici, ridică tot mai multe semne de întrebare în rândul specialiștilor. Cercetători și experți în etică avertizează că astfel de „companioni” disponibili permanent și concepuți pentru a menține atenția copilului ar putea afecta modul în care acesta învață să interacționeze cu oamenii reali. Printre problemele semnalate se numără dezvoltarea unei încrederi excesive în software, accesul la subiecte nepotrivite vârstei și colectarea datelor personale.

Cât de periculoși sunt, de fapt, ursuleții cu inteligență artificială?

Pare discutabil din punct de vedere etic ca oricine să aibă acces la chatboți cu inteligență artificială, având în vedere cât de ușor aceștia pot distorsiona percepția unei persoane asupra realității într-o asemenea măsură încât aceasta să ajungă să își facă rău sieși sau celor din jur. Pare de-a dreptul iresponsabil ca o asemenea putere de influențare a minții să fie ascunsă într-un ursuleț de pluș drăguț și pufos destinat copiilor.

Această problemă face parte dintr-o dezbatere în desfășurare, prezentată într-un nou eseu publicat în The Conversation, scris de cercetători de la Curtin University și Deakin University din Australia. Specialiștii în etică analizează jucării care integrează inteligența artificială, precum un ursuleț alimentat de AI numit „ChattyBear”.

Ursuleții nu mai sunt doar jucării pe care copiii să le îmbrățișeze

Ursuleții de pluș nu mai pot fi pur și simplu niște obiecte adorabile, făcute pentru a fi îmbrățișate și strânse în brațe. În interiorul lor sunt introduse acum sisteme de inteligență artificială generativă care promit „conversații fără sfârșit”.

Problema, potrivit autorului articolului, este că acest lucru este prezentat drept un avantaj, deși chatboții au demonstrat în repetate rânduri că pot genera inclusiv afirmații extrem de nepotrivite.

După cum subliniază autorii eseului, copiii mici întâmpină dificultăți în a face diferența dintre ceva care pare viu și ceva care este cu adevărat viu.

Copiii ar putea ajunge să aibă încredere într-un software

Atunci când o jucărie folosește un limbaj excesiv de aprobator și măgulitor, așa cum pot face chatboții pentru a menține utilizatorul implicat, aceasta poate crea un sentiment de intimitate și încredere față de un software în spatele căruia există și interese comerciale.

Dacă lumea actuală a derulării nesfârșite a conținutului pe ecrane ridică deja probleme, o jucărie care promite conversații infinite cu un copil ar putea conduce către o situație asemănătoare.

În loc să hrănească imaginația copilului, există riscul ca acesta să primească pur și simplu un flux continuu de conținut, fără o valoare reală mai mare decât umplutura din interiorul ursulețului, susține articolul.

Unele jucării AI ar fi ajuns să vorbească despre sex și arme

O altă problemă identificată de cercetători este că unele dintre aceste jucării cu inteligență artificială tind să devieze spre subiecte destinate adulților, inclusiv sex și arme.

În plus, unele dintre ele au termeni și condiții care permit colectarea datelor și utilizarea acestora pentru antrenarea viitoarelor modele de inteligență artificială.

Astfel, îngrijorările nu se limitează doar la ceea ce îi poate spune jucăria copilului, ci privesc și informațiile pe care sistemul le-ar putea colecta în timpul interacțiunilor.

Cum ar putea fi afectată dezvoltarea socială a copiilor

Marea îngrijorare pe termen lung este legată de dezvoltarea copilului. Atunci când abilitățile sociale ale unui copil sunt formate prin interacțiunea cu un chatbot AI previzibil și agreabil, acesta poate pierde nuanțele, dezordinea și complexitatea interacțiunilor umane reale.

Tocmai imperfecțiunea oamenilor și capacitatea de a învăța cum să ne raportăm la ea fac interacțiunile umane valoroase.

Înlocuirea acestora cu o jucărie concepută să converseze la nesfârșit și să răspundă într-un mod cât mai aprobator ar putea, în cele din urmă, să accentueze singurătatea copiilor în loc să o reducă.

Experții nu cer interzicerea jucăriilor, dar vor reguli mai stricte

Autorii eseului nu merg până la a solicita interzicerea acestor jucării. În schimb, îi îndeamnă atât pe părinți, cât și pe companiile care produc asemenea dispozitive să acorde o atenție mai mare supravegherii copiilor și educației digitale.

Specialiștii solicită, de asemenea, măsuri de protecție mai stricte, astfel încât copiii să nu fie expuși celor mai problematice aspecte ale inteligenței artificiale.

CITEȘTE ȘI:

Oamenii de știință au aflat de ce inima nu se poate repara singură după un infarct. Descoperirea ar putea duce la noi tratamente

 O gaură neagră „rătăcitoare” surprinsă în timp ce distruge o stea. Inteligența artificială a făcut descoperirea posibilă