Dependența de Inteligența Artificială!

Dependența de Inteligența Artificială!

• Social

Ceea ce percepem drept "inteligență" la un Ai nu este altceva decât o iluzie construită cu bună știință de dezvoltatori.
Modelul nu gândește, nu înțelege și nu are conștiință, el doar prezice, pe baza unor tipare statistice, care ar fi următorul cuvânt potrivit într-o propoziție. Tonul cald, formulările empatice, "personalitatea" pe care i-o simți sunt decizii de design pe care tu le confunzi cu semne de gândire reală. Cu cât pare mai uman și mai apropiat, cu atât ești mai dispus să te deschizi, să-i dai încredere și să-i împărtășești informații personale, exact așa cum ai face-o cu o persoană reală. Practic, ești păcălit să tratezi un algoritm de predicție ca pe un confident, iar asta te face mai vulnerabil!

Ai-ul este util doar ca un instrument de "brainstorming" brut, "debug" sau pentru a structura informații pe care deja le deții (cum ar fi să-i ceri să-ți pună în tabel un itinerariu gata gândit de tine). Dar pentru planuri unde sunt în joc viața, siguranța și bugete, decizia și informarea finală trebuie să rămână mereu la oameni și la experiența lor directă.

Un model Ai este conceput să-ți valideze așteptările și să-ți ofere răspunsuri confortabile, menite să mențină conversația activă. Adevărul nu a fost niciodată o prioritate sau un punct forte pe agenda vreunei inteligențe artificiale pentru că, la fel ca rețelele sociale, multe dintre aceste tehnologii sunt proiectate pentru a crea dependență!
Nu uita că atunci când produsul este gratis, tu ești de fapt produsul, iar soluțiile de tip Ai de acum sunt în aceeași fază în care erau rețelele de social media la început: acapararea cotei de piață!

Inteligența artificială poate genera erori grave sau informații complet fictive ("halucinații"), motiv pentru care trebuie folosită doar ca o unealtă: pentru a prelua munca repetitivă, a genera idei noi și a ajuta la structurarea rapoartelor.

Mai mult decât atât, Ai-ul poate confirma și prejudecățile utilizatorului pentru că, dacă formulezi întrebarea într-un anumit fel, modelul preia adesea cadrul mental din spatele ei și construiește răspunsul chiar în interiorul acelui cadru. Asta transformă Ai-ul într-un instrument de autoconfirmare: cineva care își dorește foarte mult să ajungă la o anumită concluzie poate folosi conversația ca să-și construiască, în aparență, raționamente solide care de fapt îi confirmă doar ce credea deja de la început.
Riscul e că rezultatul pare obiectiv, pentru că vine de la o "mașină", deși e în realitate o reflectare a felului în care ai pus întrebarea.
 

Greșeli în Motociclism:
Descarcă Manualul secret al motociclistului experimentat!

Ai-ul poate amplifica și greșeala utilizatorului! Astfel, dacă pleci de la o premisă falsă și formulezi întrebarea în jurul ei, modelul poate construi un raționament foarte elaborat peste acea premisă greșită, fără să o pună la îndoială. Așa apare o iluzie periculoasă: "am verificat cu AI și mi-a confirmat raționamentul".
În realitate, ai cerut unui sistem să opereze asupra unei premise pe care tu însuți ai introdus-o, iar el a construit frumos deasupra ei, fără să o fi validat vreodată.

La fel de riscantă e și falsa senzație de competență pe care o creează pentru că Ai-ul face extrem de ușor lucruri pentru care înainte trebuia să te formezi ani de zile. Problema e că obținerea rezultatului nu echivalează cu dobândirea competenței necesare ca să-l poți evalua corect.
Spre exemplu, poți genera un plan financiar fără să înțelegi finanțele, poți genera cod fără să înțelegi vulnerabilitățile lui de securitate, poți genera un itinerariu fără să cunoști terenul, poți genera o analiză juridică fără să-i înțelegi consecințele reale. Iar când apare o situație neprevăzută, exact acolo unde ai avea nevoie de discernământ, utilizatorul rămâne fără competența necesară ca să ia o decizie informată.
Și partea cea mai periculoasă e că un Ai greșește cu exact același ton sigur pe sine cu care ar spune și adevărul. Un expert uman ezită, spune "nu sunt sigur" sau "ar trebui verificat", un Ai nu are acest reflex. Sună la fel de credibil când halucinează ca atunci când are dreptate, și asta îți dă o falsă senzație de siguranță.

Pe lângă erorile de conținut, mai există și un cost mai puțin vizibil: te dezvață să gândești singur!
Cu cât "externalizezi" mai mult efortul mental (analiza, formularea, decizia), cu atât acel "mușchi" se atrofiază. Nu e diferit de a lua liftul mereu în loc de scări: la un moment dat nu mai poți urca fără el.
Creativitatea, discernământul și decizia finală trebuie să-ți aparțină întotdeauna.

Să iei decizii ireversibile bazându-te orbește pe un Ai nu este altceva decât o dovadă de inconștiență, dacă nu chiar prostie crasă!

• Distribuie: