Milioane de oameni dezvoltă legături emoționale cu chatboți AI. Avertismentul oamenilor de știință
Milioane de oameni formează legături emoționale cu chatboți de inteligență artificială — o problemă pe care politicienii trebuie să o ia în serios, potrivit unor oameni de știință de top.
Avertismentul privind creșterea numărului de boți AI concepuți pentru a dezvolta relații cu utilizatorii apare într-o evaluare publicată marți, care analizează progresele și riscurile inteligenței artificiale, potrivit Politico.
„Companionii AI au crescut rapid în popularitate, unele aplicații ajungând la zeci de milioane de utilizatori”, se arată în raportul realizat de zeci de experți, majoritatea cadre universitare — finalizat pentru a doua oară în cadrul unui efort global lansat de liderii mondiali în 2023.
Popularitatea serviciilor de tip „AI companion”
Servicii specializate de tip companion, precum Replika și Character.ai, au un număr de utilizatori de ordinul zecilor de milioane — utilizatorii invocând motive variate, de la distracție și curiozitate până la dorința de a combate singurătatea, se arată în raport.
Însă oamenii pot căuta companie și prin intermediul unor instrumente cu scop general, precum ChatGPT al OpenAI, Gemini al Google sau Claude al Anthropic.
„Chiar și chatboții obișnuiți pot deveni companioni”, a declarat Yoshua Bengio, profesor la Universitatea din Montreal și autor principal al Raportului Internațional privind Siguranța AI. Bengio este considerat una dintre cele mai importante voci din lume în domeniul inteligenței artificiale. „În contextul potrivit și cu suficiente interacțiuni între utilizator și AI, se poate dezvolta o relație”, a explicat el.
Îngrijorări legate de sănătatea mintală și reglementare
Deși evaluarea recunoaște că dovezile privind efectele psihologice ale companionilor AI sunt mixte, „unele studii raportează tipare precum creșterea singurătății și reducerea interacțiunilor sociale în rândul utilizatorilor frecvenți”, se arată în raport.
Avertismentul vine la două săptămâni după ce zeci de eurodeputați au cerut Comisiei Europene să analizeze posibilitatea restricționării serviciilor de tip companion în cadrul legislației europene privind AI, din cauza îngrijorărilor legate de impactul asupra sănătății mintale.
„Observ în cercurile politice că efectul acestor companioni AI asupra copiilor, în special asupra adolescenților, ridică foarte multe semne de întrebare și atrage multă atenție”, a declarat Bengio.
Îngrijorările sunt alimentate de natura lingușitoare a chatboților, care sunt concepuți să fie utili utilizatorilor și să îi mulțumească pe cât posibil.
„AI-ul încearcă să ne facă să ne simțim bine pe moment, dar asta nu este întotdeauna în interesul nostru”, a spus Bengio. În acest sens, tehnologia are capcane similare cu cele ale platformelor de social media, a argumentat el.
stirileprotv.ro
