Când algoritmul devine Fratele cel Mare: cum am pierdut controlul asupra realității

„Puterea percepției – Când realitatea pierde bătălia” nu este încă o carte care avertizează asupra știrilor false. Este o carte despre o lume în care adevărul nu mai trebuie interzis pentru a fi învins. Este suficient să fie mai lent, mai tăcut și mai puțin seducător decât ceea ce ecranul ne oferă zi de zi drept realitate.

Există cărți care explică epoca în care au fost scrise și există cărți care reușesc să o ajungă din urmă înainte ca majoritatea oamenilor să înțeleagă ce s-a întâmplat. „Puterea percepției – Când realitatea pierde bătălia”, semnată de dr. Orhan Dragaš, face parte din cea de-a doua categorie.

Ediția în limba engleză a apărut la editura britanică Chiselbury Publishing, cea italiană la prestigioasa Cacucci Editore, iar ediția sârbă la Službeni glasnik. Cartea a devenit bestseller în Marea Britanie și Italia, se bucură de același succes în Serbia, iar la sfârșitul lunii august va fi publicată în limba turcă de Destek, cea mai mare editură din Turcia.

Acest parcurs editorial arată că tema cărții nu aparține unei singure țări, unui anumit sistem politic sau unei culturi mediatice anume. Ea atinge o problemă cu care se confruntă astăzi fiecare societate.

Prefața este semnată de lordul Christopher Geidt, care a fost vreme îndelungată consilierul și secretarul particular al reginei Elisabeta a II-a. Geidt observă că numeroase cărți contemporane tratează conflictul dintre percepție și realitate, însă puține se pot compara cu amploarea demersului lui Dragaš, care pune în legătură filosofia, psihologia, mass-media și cultura digitală.

În opinia sa, volumul este un ghid excepțional pentru toți cei care continuă să creadă că adevărul contează și refuză să renunțe la dreptul de a gândi cu propria minte.

Recenzia cărții îi aparține profesorului Michael Goodman de la King’s College London, unul dintre cei mai cunoscuți specialiști britanici în studii de intelligence și relații internaționale. Goodman descrie volumul drept o apariție de o actualitate și o importanță excepționale, subliniind siguranța cu care Dragaš leagă adevărul, faptele și percepția de politica și societatea contemporană.

El recomandă cartea viitorilor oameni politici, celor care urmăresc evenimentele lumii de astăzi și tuturor celor care refuză să accepte că adevărul nu mai are importanță.

Fratele cel Mare nu mai este un om

Aproape toată lumea cunoaște ideea fundamentală din „1984” de George Orwell. Există o putere care controlează limbajul, rescrie trecutul, șterge faptele și hotărăște ce au voie cetățenii să considere real. Ministerul Adevărului falsifică documente, Fratele cel Mare supraveghează fiecare pas, iar omul trebuie, în cele din urmă, să accepte că doi plus doi fac cinci dacă Partidul o cere.

Dragaš pornește de la o realitate mult mai neliniștitoare. În lumea pe care o descrie, Fratele cel Mare nici măcar nu mai este necesar.

Nu trebuie arsă o carte, închis un ziar sau interzis un fapt. Este suficient ca acel fapt să fie îngropat sub mii de imagini mai atrăgătoare, afirmații mai zgomotoase și conținuturi cu o încărcătură emoțională mai puternică. Adevărul poate rămâne accesibil în mod formal și, în același timp, poate dispărea din viața reală a oamenilor.

Cetățeanul lui Orwell știe că puterea îl obligă să accepte o minciună. Omul de astăzi crede adesea că este pe deplin liber, în timp ce alegerile îi sunt modelate de algoritmi pe care nu îi vede, de platforme digitale ale căror criterii nu le cunoaște și de sisteme care învață din fiecare reacție a sa cum să-l țină și mai mult în fața ecranului.

În „1984”, adevărul dispare sub presiunea statului. În „Puterea percepției”, el pierde pentru că i-a fost retrasă atenția. Nimeni nu îl declară interzis, însă este făcut invizibil, plictisitor sau lipsit de relevanță emoțională.

Cine stabilește ce vom vedea mai întâi, de câte ori vom vedea acel lucru și cu ce emoție îl vom asocia hotărăște, în mare măsură, și ceea ce vom ajunge să considerăm real.

În lumea lui Orwell există Ministerul Adevărului. În lumea descrisă de Dragaš, această funcție este preluată de sistemele invizibile de recomandare.

Ele nu trebuie să șteargă un fapt. Este suficient să nu îl arate. Nu trebuie să interzică o opinie. Este suficient să îi retragă vizibilitatea. Nu trebuie să reducă un om la tăcere. Este suficient să facă în așa fel încât nimeni să nu îl audă.

Aceasta este o putere care nu poartă uniformă, nu bate la ușă și nu cere supunere publică. Acționează prin ecranul pe care îl deschidem singuri, prin conținutul pe care credem că îl alegem singuri și prin convingerea că am ajuns la fiecare concluzie în deplină libertate.

Algoritmul nu ne urmărește alegerile. Le modelează

În cărțile sale, Yuval Noah Harari a explicat cum au reușit oamenii, de-a lungul istoriei, să construiască mari comunități prin poveștile în care au crezut împreună. A avertizat apoi că datele și algoritmii ar putea deveni noul fundament al puterii.

Harari arată că sistemele, datorită datelor pe care le colectează neîncetat, ne pot anticipa alegerile cu o precizie tot mai mare. Dragaš merge cu un pas mai departe.

Pe el nu îl interesează doar dacă algoritmul știe ce vom cumpăra, ce vom urmări sau cu cine vom vota. Îl interesează ce se întâmplă atunci când algoritmul participă la formarea lucrurilor pe care le vom considera adevărate.

În acel punct, nu mai este vorba doar despre anticiparea comportamentului. Este vorba despre editarea lumii pe care omul o vede.

În acest sens, „Puterea percepției” este cartea etapei următoare. Harari avertizează asupra puterii datelor, iar Dragaš descrie momentul în care datele devin editorii felului în care privim lumea.

Telefonul nu mai este doar dispozitivul prin care primim informații. A devenit filtrul dintre om și realitate. Pe ecranul său, altcineva a stabilit deja ordinea subiectelor, importanța evenimentelor, vizibilitatea oamenilor și intensitatea emoțiilor.

De aceea, două persoane pot trăi în același oraș, pot vorbi aceeași limbă, pot privi același eveniment și totuși pot avea imagini complet diferite despre ceea ce s-a petrecut.

Una va primi imagini care îi confirmă teama, cealaltă conținuturi care îi alimentează furia. Amândouă vor crede că au ajuns singure la concluzie și amândouă vor avea „dovezi” pe ecran.

Dragaš vorbește aici despre destrămarea unui reper comun întemeiat pe fapte. O societate poate suporta diferențe de opinie, de interese și de ideologie. Îi este mult mai greu să supraviețuiască atunci când oamenii nu mai pornesc de la aceleași fapte.

În acel moment, dezbaterea încetează să mai fie o confruntare între puncte de vedere și devine ciocnirea a două lumi care nu își mai recunosc reciproc realitatea.

Este un pas dincolo de avertismentul lui Harari potrivit căruia algoritmii vor ajunge să ne cunoască dorințele. Dragaš arată că algoritmii participă deja la formarea lor.

Ei nu așteaptă doar să afle ce vrem. Ne testează zilnic reacțiile, apoi ne întorc o versiune atent selectată a lumii, construită pentru a întări și mai mult acele reacții.

Minciuna căreia îi deschidem singuri ușa

Una dintre marile forțe ale acestei cărți este că autorul nu îi permite cititorului să rămână în poziția comodă a observatorului.

Este ușor să credem că victimele manipulării sunt întotdeauna alții: oameni mai puțin educați, orbiți politic sau naivi în fața tehnologiei. Dragaš spulberă tocmai această iluzie.

Mintea umană nu caută adevărul în permanență. Caută sens, siguranță și confirmare. Acceptă mai ușor ceea ce se potrivește convingerilor deja formate, reacționează mai repede la teamă și furie decât la un fapt sec și transformă adesea prima impresie în criteriul după care va judeca tot ceea ce urmează.

Platformele digitale nu au inventat aceste slăbiciuni. Le-au transformat într-un sistem precis măsurabil și extraordinar de profitabil.

Fiecare clic, fiecare secundă în care privirea rămâne asupra unei imagini, fiecare distribuire și fiecare reacție impulsivă devin date. Sistemul învață ce ne neliniștește, ce ne place și ce confirmă imaginea pe care o avem deja despre noi înșine și despre lume.

După un timp, nu mai primim conținuturi care ne-ar putea lărgi înțelegerea, ci mai ales conținuturi care ne mențin în aceeași stare și confirmă ceea ce credem deja.

De aceea titlul cărții este atât de precis. Realitatea nu pierde bătălia pentru că a dispărut. O pierde pentru că nu mai are un avantaj implicit.

Un fapt trebuie să concureze cu un filmuleț de câteva secunde, cu un titlu construit pentru a provoca furie, cu o fotografie scoasă din context și cu un om care vorbește cu deplină siguranță, deși nu are nicio dovadă.

În această competiție, adevărul intră adesea ultimul în scenă, când emoția a câștigat deja.

Manipularea contemporană amplifică, de cele mai multe ori, ceea ce omul își dorește deja să creadă. Sistemul cel mai eficient ne oferă senzația că am ajuns singuri și liber la o concluzie, deși drumul până la ea a fost modelat cu grijă dinainte.

Dragaš ajunge astfel la unul dintre cele mai tulburătoare puncte ale cărții. Libertatea de alegere poate rămâne formal neatinsă, în timp ce spațiul în care alegem a fost deja configurat.

Putem da clic pe orice dorim, dar altcineva a decis mai întâi între ce conținuturi vom putea alege.

Nu există întoarcere la lumea de dinaintea algoritmilor

„Puterea percepției – Când realitatea pierde bătălia” nu idealizează epoca de dinaintea platformelor digitale și nu susține că ar fi existat cândva o vârstă de aur a adevărului pur.

Mass-media, puterea, banii și autoritatea socială au influențat dintotdeauna ceea ce oamenii văd și ceea ce cred. Diferența stă în viteza, amploarea și precizia sistemelor de astăzi.

Niciodată până acum o platformă nu a putut testa în același timp milioane de versiuni ale unui conținut, măsura reacțiile a miliarde de oameni și oferi fiecăruia o ediție diferită a realității.

Niciodată până acum omul obișnuit nu a fost, simultan, public, produs, sursă de date și distribuitor voluntar al conținutului care îl modelează.

De aceea, Dragaš nu reduce răspunsul la sfatul de a petrece mai puțin timp pe telefon sau de a citi știrile cu mai multă atenție. El cere schimbarea regulilor după care informația ajunge la cetățeni.

Algoritmii nu pot rămâne un secret comercial de neatins. Mass-media trebuie să arate cum a ajuns la fapte și cum le-a verificat. Instituțiile trebuie să își explice deciziile. Companiile tehnologice trebuie să răspundă pentru consecințele modului în care dirijează atenția a miliarde de oameni.

Potrivit acestei cărți, adevărul nu se mai poate apăra doar prin autoritate. Trebuie să merite din nou încrederea.

Aceasta presupune dovezi, explicații, posibilitatea verificării și disponibilitatea de a corecta o greșeală. Într-o epocă a neîncrederii generale, nu mai este suficient să li se spună oamenilor să creadă în experți, în presă sau în instituții. Ei trebuie să poată vedea de ce o afirmație este credibilă și cum s-a ajuns la ea.

Tocmai de aceea, „Puterea percepției” nu este o carte pesimistă, deși descrie o lume neliniștitoare.

Dragaš nu spune că realitatea a fost pierdută pentru totdeauna. Spune că nu ne mai putem aștepta ca ea să se apere singură. Adevărul trebuie apărat prin cunoaștere, responsabilitate și capacitatea de a recunoaște clipa în care emoția începe să se prezinte drept dovadă.

Acesta nu este un avertisment pentru mâine

Inteligența artificială poate crea astăzi fotografia sau înregistrarea unui eveniment care nu a avut loc niciodată, vocea unui om care nu a rostit niciodată o anumită frază și un videoclip pe care milioane de oameni îl vor considera autentic înainte ca cineva să apuce să îl verifice.

Campaniile politice țintesc cu o precizie tot mai mare temerile unor grupuri, iar rețelele sociale recompensează conținutul care provoacă reacția cea mai puternică.

Percepția decide astăzi cum votăm, în cine avem încredere, ce considerăm periculos și cum luăm decizii, de la politică și securitate până la educație și relațiile de familie.

Orwell a descris o lume în care puterea îi poruncește omului ce trebuie să gândească. Harari a avertizat asupra unei lumi în care algoritmii ne influențează tot mai puternic alegerile.

Dragaš arată că am mers deja mai departe: algoritmul modelează astăzi ceea ce omul ajunge să considere propria sa opinie.

În aceasta stă caracterul mai contemporan și, într-un anumit sens, mai neliniștitor al cărții față de marii săi predecesori.

Volumul nu vorbește despre o distopie îndepărtată, despre un regim viitor sau despre o tehnologie care abia urmează să apară. Vorbește despre telefonul pe care îl ținem acum în mână, despre titlul pe care tocmai l-am deschis, despre filmulețul pe care l-am trimis mai departe fără să îl verificăm și despre furia pe care poate am simțit-o înainte să înțelegem ce s-a întâmplat.

„Puterea percepției – Când realitatea pierde bătălia” nu este, așadar, o carte doar pentru cei care se ocupă de politică, mass-media sau tehnologie.

Este o carte pentru oricine vrea să își păstreze dreptul la propria judecată într-o epocă în care pentru atenția sa se luptă cele mai puternice sisteme create vreodată de om.

Ideea cea mai puternică a cărții poate fi redusă la un avertisment simplu: adevărul nu va învinge astăzi doar pentru că este adevăr. Va trebui să învățăm să îl recunoaștem, să îi redăm vizibilitatea și să deosebim ceea ce știm de ceea ce ne-a fost doar prezentat într-un mod suficient de convingător.

Orwell și-a imaginat o lume în care realitatea este întemnițată prin forță. Harari, o lume în care o predăm datelor. Dragaš arată că momentul cel mai periculos a sosit deja: putem pierde realitatea fără nicio constrângere, convinși în tot acest timp că alegem în deplină libertate.

Cea mai mare înfrângere nu va veni atunci când minciuna va deveni mai convingătoare decât adevărul. Va veni atunci când omului îi va deveni indiferent ce este adevărat, atât timp cât îi place ceea ce vede.

Atunci nu va mai fi nevoie nici de cenzor, nici de dictator, nici de Ministerul Adevărului. Vor fi suficiente un ecran, câteva secunde de atenție și un algoritm care ne cunoaște slăbiciunile mai bine decât le cunoaștem noi înșine.

În acel moment, realitatea nu va fi învinsă din afară.

O vom preda singuri.