STATUL ALGORITMIC SI DIGITALIZAREA SOCIETATII. Evgheni Morozov despre dictatura noilor tehnologii si omul-rating

4-08-2014 18 minute Sublinieri

digital-signage screens

“Tentația guvernelor de a ne guverna digital va fi prea mare. Acest lucru va extinde dominația guvernului asupra unor zone ale vieții libere pana atunci de orice forma de reglementare”.

“Reglementarea algoritmică, indiferent de beneficiile sale imediate, ne va da un regim politic în care corporațiile tehnologice și birocrațiile guvernamentale vor lua absolut toate deciziile”.

morozov-evgeny-4_3

Ascensiunea datelor si moartea politicii

Evgheni Morozov*, The Guardian

Pionierii noilor tehnologii din SUA promoveaza o noua abordare a guvernantei care este bazata pe “date” (obtinute prin noile tehnologii – n.n.): ”reglementarea algoritmica”. Dar, daca tehnologia furnizeaza realmente raspunsurile la problemele societatii, ce se intampla, atunci, cu guvernamintele de tip clasic?

Pe 24 august 1965 Gloria Placente, o localnica de 34 de ani din Queens, New York, mergea cu masina spre Orchard Beach din Bronx. Imbracata in pantaloni scurti si cu ochelari de soare, aceasta femeie casatorita abia astepta sa se relaxeze pe plaja. Dar, in momentul in care iesise de pe podul Willis Avenue in Chevroletul sau, Placente s-a trezit inconjurata de o duzina de politisti. Alaturi de ei, 125 reporteri, nerabdatori sa fie martori ai lansarii Operatiunii CORRAL (acronim de la Computer Oriented Retrieval of Auto Larcenists) a Departamentului de Politie din New York.

15 luni mai devreme, Placente trecuse cu masina pe rosu si neglijase citatia, o contraventie pe care CORRAL o va pedepsi cu o doza mare de tehno-kafkianism. Lucrurile s-au petrecut astfel: un echipaj de politie stationat la un capat al podului transmisese prin radio numerele de inmatriculare ale masinilor care-l traversau unui teleimprimator aflat la multi kilometri distanta; teleimprimatorul transmitea datele mai departe unui computer Univac 490, o jucarie de 500 000 dolari (3.5 milioane dolari astazi) cumparata de la Sperry Rand Corporation. Computerul verifica numerele de masina dintr-o baza de date ce continea 110 000 de numere de inmatriculare ale unor masini care erau fie furate, fie apartineau unor contravenienti cunoscuti. In cazul in care computerul detecta o suprapunere, teleimprimatorul alerta echipajul de politie aflata la celalalt capat al podului. Toata operatiunea lua, in medie, doar 7 secunde.

 Spectrul Digitalizarii sau despre cum devin “inteligente” obiectele familiare si lumea inconjuratoare…

Prin comparatie cu dispozitivele politienesti de astazi – recunoasterea automata a numerelor de masina, camere video CCTV, tracker-e GPS – Operatiunea CORRAL este depasita. Iar posibilitatile de control se vor dezvolta in continuare. Oficialii europeni s-au gandit sa ceara tuturor masinilor care intra pe piata europeana sa incorporeze un mecanism care sa permita politiei sa opreasca vehicolele de la distanta.  Un oficial de la Ford, Jim Farley, recunostea, anul acesta, ca ”stim pe toti cei care incalca legea, stim si cand o fac. Avem GPS in masinile voastre, asa ca stim ce faceti. Apropo, nu furnizam datele respective nimanui altcuiva”. Ultima propozitie nu a sunat insa indeajuns de convingator si Farley a retractat spusele sale.

Pe masura ce masinile si drumurile se digitalizeaza, spectrul intaririi si aplicarii legii in timp real devine foarte promitator. Astfel, o portiune de 50 de mile de pe autostrada dintre Felixstowe si Rugby va fi inzestrata cu numerosi senzori care vor monitoriza traficul prin transmiterea de semnale catre si de la telefoanele mobile din masinile ce o vor traversa. Ofcom, supraveghetorul telecomunicatiilor, prevede ca aceste drumuri digitalizate sa fie conectate la un sistem central de control al traficului si, astfel, sa impuna limite variabile ale vitezei pentru a fluidiza traficul, dar si pentru a dirija masinile ”de-a lungul rutelor laturalnice pentru a evita congestionarea si chiar pentru gestionarea vitezei”.

Alte gadget-uri – de la telefoanele inteligente la ochelarii smart – aduc cu ele promisiunea unei si mai mari securitati. In aprilie a.c., Apple si-a patentat o tehnologie care foloseste senzori din smartphone pentru a analiza daca masina se afla in miscare sau daca persoana care foloseste telefonul conduce; daca ambele conditii sunt intrunite, tastele telefonului vor fi blocate. Intel si Ford lucreaza la ”Project Mobil” – un sistem de recunoastere faciala care, daca nu reuseste sa identifice fata soferului, nu doar ca impiedica pornirea masinii, ci trimite si poza acestuia proprietarului masinii (vesti proaste pentru adolescenti).

Masina este emblematica pentru transformarile din multe alte domenii, de la medii inconjuratoare digitalizate, unde mochetele si peretii detecteaza daca cineva a cazut, la diferite masterplanuri pentru orase ”inteligente”, in care serviciile municipale distribuie reurse doar in acele zone care au nevoie de ele. Multumita senzorilor si conexiunii la internet, cele mai banale obiecte cotidiene au capatat puteri miraculoase in ceea ce priveste reglementarea comportamentului. Pana si toaletele publice sunt gata pentru optimizari senzoriale: Safeguard Germ Alarm, un sapun “inteligent” realizat de Procter & Gamble si folosit in unele WC-uri publice din Filipine, are senzori care monitorizeaza usile toaletelor. Cum iesi solutionismdin WC, alarma incepe sa sune si nu poate fi oprita decat prin apasarea butonului care elibereaza sapunul.

In acest context, planurile recente ale Google de a implementa sistemul de operare Android pe ceasuri, masini, termostate si, dupa cum ar fi de banuit, pe orice poate fi digitalizat, arata mai degraba amenintator. In viitorul apropiat, Google va fi mijlocitorul care va sta intre tine si frigiderul tau, intre tine si masina ta, intre tine si cosul tau de gunoi, permitand NSA sa-si satisfaca dependenta de date intr-un mod total si printr-un singur furnizor.

Aceasta “digitalizare” [“inteligentizare” – smartification] a vietii cotidiene urmeaza, de fapt, un pattern familiar: exista date brute [primary data] – ce constau in lista cu ce se afla in frigiderul tau “intelligent” si in cosul tau de gunoi – si metadate – care arata de cate ori deschizi sau folosesti aceste lucruri sau cand comunica intre ele [cum folosesti obiectele “inteligente”]. Ambele [tipuri de date] produc perspective interesante: saltele digitalizate – un model recent promite sa monitorizeze respiratia si ritmul batailor inimii si cat de mult te misti in timpul noptii – si instrumente “inteligente” care iti livreaza sfaturi nutritionale.

In plus, in procesul de a face vietile noastre mai eficiente, aceasta lume digitalizata ne pune in fata unei alegeri politice incitante. Daca atat de mult din comportamentul nostru cotidian este déjà fotografiat, analizat si supus cicălirii, de ce sa ramanem la o abordare ne-empirica a reglementarii? De ce sa ne ne mai bazam pe legi cand avem senzori si mecanisme de feedback? Daca politicile publice sunt – ca sa folosim expresia la moda – ”bazate pe probe” si ”orientate catre rezultate”, atunci tehnologia este la dispozitia noastra.

Reglementarea algoritmica: utopia tehnocrata in varianta 2.0

Acest mod de guvernare are un nume: reglementare algoritmica. In masura in care Silicon Valley are un program politic, acesta este. Tim O’Reilly, un cunoscut editor din domeniul tehnologiei, capitalist al riscului si inventator de concepte (el este cel care a popularizat sintagma “internet 2.0”), a fost cel mai entuziast promotor al acestui program politic. Intr-un eseu recent in care isi prezinta rationamentul, O’Reilly aduce un argument interesant aratand binefacerile reglementarii algoritmice – argument ce merita mai multa atentie atat datorita promisiunilor facute decidentilor politici, cat si datorita supozitiilor simpliste legate de politica, democratie si putere.

Pentru a vedea cum se prezinta in practica reglementarea algoritmica, este suficient sa ne uitam la filtrarea mesajelor nedorite (spam) din contul de e-mail. In loc sa se limiteze la o definitie restransa a spam-ului, filtrul din e-mail invata de la utilizatori. Nici chiar Google nu poate stabili reguli de filtrare care sa acopere toata inovatiile creatorilor profesionisti de spam. Insa ce poate face e sa invete sistemul sa identifice o regula eficienta si sa detecteze cand este momentul sa redefineasca modul de a gasi o regula eficienta – si tot asa. Aceasta poate fi realizata cu un algoritm, insa contributia in timp real a utilizatorilor (feedback) este cea care permite sistemului sa contracareze amenintarile neanticipate de creatorii filtrului. Aceasta metoda nu se aplica doar pentru spam: bancile apeleaza la metode similare pentru a identifica folosirea frauduloasa a cartilor de credit.

In eseul sau, O’Reilly trage concluzii ample de natura filosofica din astfel de tehnologii, sustinand ca ele functioneaza pentru ca se bazeaza pe “o profunda intelegere a scopului urmarit” (spam-ul este ceva rau) si verifica periodic daca algoritmii funtioneaza in conformitate cu intentiile (daca exista prea multe mesaje normale ce sunt in final considerate spam?).

O’Reilly prezinta astfel de tehnologii ca fiind noi si unice – traim o revolutie digitala, totusi – dar principiul din spatele “reglementarii algoritmice” ar fi recunoscut de fondatorii ciberneticii – disciplina ce chiar prin numele ei (inseamna “stiinta guvernarii“) indica marile sale ambitii de reglementare. Acest principiu, ce permite sistemului sa-si mentina stabilitatea prin invatare constanta si auto-adaptare la un mediu schimbator, este ceea ce psihiatrul britanic Ross Ashby, unul dintre parintii fondatori ai ciberneticii, numea “ultra-stabilitate”.

Pentru a-l ilustra, Ashby a creat homeostatul. Acest dispozitiv ingenios era format din patru unitati RAF de control al detonarii – cutii negre cu aer misterior si multe butoane – sensibile la fluctuatiile de tensiune. Daca una dintre unitati nu mai functiona cum trebuie – de exemplu din cauza unei perturbatii externe neprevazute – celelalte trei se reconectau si regrupau, compensand disfuntionalitatea si facand ca sistemul sa fie stabil per ansamblu.

Homeostatul lui Ashby a ajuns la “ultra-stabilitate” prin monitorizarea perpetua a functionarii interne si prin realocarea inteligenta a resurselor disponibile.

La fel ca in cazul filtrului de spam, nu trebuia sa anticipeze toate disfuntionalitatile posibile, ci doar sa precizeze cum si cand trebuie sistemul actualizat si reconfigurat. Nu este vorba doar de o usoara  modificare a obisnuitului sistem tehnic rigid cu reguli fixe: deodata, nu mai este nevoie sa descrii proceduri pentru orice posibilitate, pentru ca – se spera – algoritmii si reactiile in timp real pot functiona mai bine decat regulile fixe rupte de realitate.

Reglementarea algoritmica cu siguranta poate face mai eficienta administrarea legilor actuale. Daca poate fi folosita impotriva folosirii frauduloase a cartilor de credit, de ce atunci nu si impotriva fraudelor fiscale? Birocratii italieni au incercat cu redditometro, sau calculator de venituri, un instrument de comparare a tiparelor de cheltuieli ale oamenilor – inregistrate cu ajutorul unei legi italiene obscure – cu venitul declarat, astfel incat autoritatile sa afle daca cheltuiesti mai mult decat castigi. Spania si-a aratat si ea interesul pentru aplicarea unui mecanism similar.

Astfel de sisteme, insa, sunt neputincioase in fata adevaratilor vinovati de evaziune fiscala – familiile extraordinar de bogate ce folosesc scheme offshore sau pur si simplu introduc in lege scutiri strigatoare la cer. Reglementarea algoritmica este ideala pentru aplicarea politicii de austeritate, in timp ce cei cu adevarat responsabili pentru criza financiara sunt trecuti cu vederea. Ca sa vedem daca astfel de sisteme functioneaza asa cum se doreste, trebuie sa modificam intrebarea pusa de O’Reilly astfel: pentru cine lucreaza [algoritmii]? Daca o face pentru plutocratii evazionisti, pentru institutiile financiare globale interesate in bugete nationale echilibrate si pentru companii creatoare de software de urmărire a veniturilor, nu prea asistam la un succes al democratiei.

Cu aceasta credinta ca reglementarea algoritmica se bazeaza pe “o profunda intelegere a scopului urmarit” [pentru ce lucreaza algoritmii – n.n.], O’Reilly rupe in mod machiavelic mijloacele politice de finalitatea acestora. Cum” in politica este la fel de important ca “ce” – de fapt, de multe ori primul il determina pe cel din urma. Toata lumea e de acord ca educatia, sanatatea si securitatea sunt toate “scopuri dorite“, dar cum le atingem? In trecut, cand ne confruntam cu dificila alegere politica a celui responsabil intre stat si piata, liniile de demarcatie ideologica erau clare. Astazi, cand se presupune ca alegerea este intre digital si analog, sau intre feedback dinamic si lege statica, acea claritate ideologica este pierduta – ca si cum insasi alegerea privind mijloacele de atingere a “scopurilor dorite” ar fi apolitica si nu ne-ar forta sa alegem intre viziuni diferite si de multe ori incompatibile asupra vietii impreuna.

Presupunand ca lumea utopica a ciclurilor infinite de feedback este atat de eficienta incat transcende politica, cei ce propun reglementarea algoritmica cad in aceeasi capcana ca si tehnocratii din trecut. E adevarat, aceste sisteme sunt teribil de eficiente – dar in acelasi fel in care Singapore este teribil de eficient (O’Reilly lauda, cum era si de asteptat, Singapore pentru adoptarea reglementarii algoritmice). Iar daca conducatorii acestei tari ar putea si ei crede ca transcend politica, aceasta nu inseamna ca regimul nu poate fi analizat in afara mlastinii lingvistice a eficientei si inovatiei – folosind, adica, criterii politice, nu economice.

Idolii din spatele noii guvernari algoritmice: Distrugerea si Eficienta

Cum Silicon Valley continua sa corupa limba cu nesfarsita glorificare a distrugerii si eficientei – concepte opuse vocabularului democratic – capacitatea noastra de a pune sub semnul intrebarii “cum” – modul in care este implementata politica – este slabita. Raspunsul automat al Silicon Valley la intrebarea “cum” din politica este ceea ce eu numesc solutionism: problemelor li se raspunde prin aplicatii, senzori, cicluri de feedback – toate prin companii noi ce propun modele eficiente de reorganizare (startup). Anul acesta Eric Schimdt de la Google chiar a promis ca aceste companii startup vor oferi solutia la inegalitatea economica: se pare, deci, ca si inegalitatea economica poate fi “distrusa“. Si unde inovatorii si distrugatorii avanseaza, birocratii ii urmeaza.

Serviciile de informatii au imbratisat solutionismul inaintea altor compartimente guvernamentale. Astfel, au redus problema terorismului de la o tema legata de istorie si politica internationala la o problema informatica de identificare a amenintarilor emergente prin supraveghere continua. Au fortat cetatenii sa accepte ca instabilitatea face parte din joc, ca originile conflictelor nu sunt nici identificabile nici reparabile, ca amenintarea nu poate fi prevenita decat printr-un avans mai rapid al inovatiei si printr-o supraveghere mai buna a inamicului.

Vorbind in Atena in noiembrie trecut, filosoful italian Giorgio Agamben a abordat transformarea epocala a ideii de guvernare, “prin care relatia ierarhica traditionala intre cauze si efecte este inversata, astfel incat, in loc sa guverneze asupra cauzelor – sarcina dificila si scumpa – guvernele nu incearca acum decat sa guverneze asupra efectelor”.

Pentru Agamben, aceasta schimbare este specifica modernitatii. El explica, totodata, de ce liberalizarea economiei poate coexista cu proliferarea controlului in viata de zi cu zi. “Daca guvernul tinteste efectele si nu cauzele, va fi obligat sa-si extinda si sa-si multiplice controlul. Cauzele se cer cunoscute, in timp ce efectele pot fi doar verificate si controlate.” Reglementarea algoritmica este punerea in scena sub forma tehnologica a acestui program politic.

Adevarata politica a reglementarii algoritmice devine vizibila atunci cand logica sa este aplicata asupra legaturilor sociale ale statului. Nu exista indemnuri [fatise] de a le dezmembra, insa cetatenii sunt incurajati sa-si asume responsabilitatea pentru propria sanatate. Sa luam exemplul viziunii lui Fred Wilson, un influent capitalist al riscului [venture capitalist]. “Sanatatea… este opusul sistemului medical”, a afirmat acesta intr-o conferinta la Paris in luna decembrie. “Este ceea ce te tine departe de sistemul medical.” Astfel, suntem invitati sa incepem sa folosim aplicatii de monitorizare a sanatatii si platformele de schimb de date pentru a ne monitoriza singuri indicatorii vitali, simptomele si discrepantele.

Aceasta se potriveste perfect cu indemnurile recente de a salva serviciile publice prin incurajarea stilurilor de viata sanatoase. Avem ca exemplu raportul din 2013 al consiliului Westminster si al Departamentului Local de Informare al Guvernului, un think-tank, care cerea corelarea beneficiilor sociale cu vizitele pretendentului la sala – cu ajutorul cartelelor inteligente (smartcards). Dar este posibil sa nu fie necesare: multe telefoane inregistreaza deja cati pasi facem in fiecare zi (Google Now, asistentul virtual, tine evidenta automat si prezinta periodic informatia utilizatorului, indemnandu-l sa mearga mai mult pe jos).

Numeroasele posibilitati pe care dispozitivele de urmarire le ofera industriilor de sanatate si asigurari nu sunt pierdute pentru O’Reilly. “Stiti cum publicitatea s-a dovedit a fi iotmodelul de afaceri nativ pentru internet?”, a intrebat acesta intr-o conferinta recenta. “Cred ca asigurarile vor fi modelul de afaceri nativ pentru internetul lucrurilor.” Si lucrurile chiar par sa mearga in acea directie: in iunie, Microsoft a incheiat o intelegere cu American Family Insurance, al optulea asigurator de locuinte ca marime din SUA, prin care ambele companii se obliga sa sponsorizeze firmele startup ce vor sa puna senzori in casele si masinile inteligente cu scopul “protectiei proactive“.

O companie de asigurari va subventiona cu draga inima costurile instalarii unui alt senzor in casa ta – atata timp cat acesta poate sa alerteze automat pompierii in caz de incendiu. Deocamdata, acceptarea acestor sisteme de urmarire este vanduta ca beneficiu suplimentar ce poate sa ne economiseasca niste bani. Dar cand vom atinge punctul in care nefolosirea unui astfel de sistem va fi vazuta ca o deviatie – care ar trebui pedepsita cu taxe marite?

Sa vorbim si despre raportul din mai 2014 al 2020health, un alt think-tank, care propune extinderea reducerilor de taxe pentru britanicii care renunta la fumat, se mentin slabi sau beau mai putin. “Propunem ‘plata conform rezultatelor’, o recompensa financiara pentru oamenii care devin parteneri activi in mentinerea propriei sanatati, unde daca tu, de exemplu, iti mentii glicemia scazuta, te lasi de fumat, nu te ingrasi, (sau) te ocupi mai mult de sanatatea ta, va exista o reducere a impozitului sau un bonus de sfarsit de an”, afirma acestia. Dispozitivele inteligente sunt aliatii naturali ai acestor planuri: documenteaza rezultatele si pot ajuta si la atingerea lor – cicălindu-ne constant sa facem ce trebuie.

Premisa nedeclarata a majoritatii acestor rapoarte este ca cei bolnavi nu numai ca sunt o povara pentru societate, dar merita si pedepsiti (deocamdata fiscal) pentru lipsa de responsabilitate. Caci ce altceva le-ar putea explica problemele de sanatate decat esecurile personale? Desigur ca nu puterea companiilor alimentare sau diferentele de clasa sau diversele nedreptati politice si economice. Cineva poate purta o multime de senzori puternici, poate avea o saltea ”inteligenta” si poate citi zilnic despre scaunul altora – dar nedreptatile mentionate mai sus nu vor fi vazute nicaieri, deoarece nu sunt genurile de lucruri ce pot fi masurate cu un senzor. Diavolul nu poarta date. Nedreptatile sociale sunt mult mai greu de urmarit decat viata de zi cu zi a indivizilor afectati.

Prin mutarea tintei reglementarii dinspre abuzurile institutionale si corporatiste catre ghidarea electronica perpetua a indivizilor, regularizarea algoritmica ne ofera o clasica utopie tehnocratica a politicii fara politica. Sub acest model, dezacordul si conflictul sunt vazute ca efecte secundare nefericite ale erei analogice – ce vor fi rezolvate prin colectarea datelor – si nu drept rezultate inevitabile ale conflictelor economice sau ideologice.

Totusi, politica fara politica nu inseamna o politica fara control sau administrare. Cum scrie si O’Reilly in eseul sau: Noile tehnologii fac posibila reducerea cantitatii de reglementare in timp ce cresc supravegherea si productia rezultatelor dorite”. Asadar, este o greseala sa crezi ca Silicon Valley vrea sa ne scape de institutiile guvernamentale. Statul visat nu consta in micul guvern al libertarienilor – un stat mic nu are nevoie nici de dispozitive cochete, nici de servere masive care sa proceseze datele – ci in statul obsedat de date al economistilor comportamentali.

Statul vizat este indragostit de tehnologia de feedback, principiul sau fundamental fiind acela ca, desi toti ne comportam irational, irationalitatea noastra poate fi corectata – daca mediul actioneaza asupra noastra, inghiontindu-ne in directia corecta. Nesurprinzator, una dintre cele trei referinte de la sfarsitul eseului lui O’Reilly este catre un discurs din 2012, intitulat “Reglementarea: Priviri in trecut, priviri in viitor” al lui Cass Sunstein, faimosul savant american pe domeniul legislativ.

Si, in timp ce teoreticienii au capturat deja statul prin transformarea psihologiei comportamentale in idiomul favorit al birocratiei guvernamentale – intra Daniel Kahneman, iese Machiavelli – lobby-ul reglementarii algoritmice avanseaza pe cai mai clandestine. Sunt create organizatii non-profit inofensive precum Cod pentru America (Code for America), care coopteaza mai tarziu statul – sub masca incurajarii hackerilor talentati de a ataca problemele civice.

Statul algoritmic va defini comportamentul uman si relatiile sociale intr-un mod fara precedent

Astfel de inițiative își propun sa reprogrameze statul de drept și să-l facă prietenos fata de feedback-ul cetățenesc, eliminând alte mijloace de a face politică. Pentru ca toate aceste aplicații de urmărire, algoritmi și senzori să poată lucra, bazele de date au nevoie de interoperabilitate – este ceea ce toate aceste organizații pseudo-umanitare, cu credința lor fierbinte în transparenta datelor, cer. Și atunci când guvernul este prea lent pentru a se mișca la viteza din Silicon Valley, aceste organizații se mișcă ele în interiorul guvernului. Astfel, Jennifer Pahlka, fondatorul Cod pentru America și un protejat al O’Reilly, a devenit șef adjunct pe tehnologie (Chief Technology Officer) al guvernului SUA – în timp ce lucra pe o “bursa de inovare” de un an, primita de la Casa Albă.

Guvernele ce au probleme cu fluxul financiar sunt deschise fata de colonizarea lor de către experții în tehnologie – mai ales în cazul în care procesul ajută la identificarea și curățarea seturilor uriașe de date care pot fi apoi vândute profitabil către companiile care au nevoie de aceste date în scopuri publicitare. Disputele recente pe marginea vânzarii de date din dosarele de sănătate și ale studenților din Marea Britanie ne dau o idee despre ce urmeaza: după ce toate activele statului au fost privatizate, datele [personale] sunt următoarea țintă. Pentru O’Reilly, transparenta datelor este “un factor cheie al revoluției in măsurare”.

Aceasta “revoluție in măsurare” încearcă să cuantifice eficiența diverselor programe sociale, de parca motivatia de baza a legaturilor sociale pe care unele din ele le genereaza s-ar reduce la eficienta. Motivația reala, desigur, ar fi aceea de a permite o viață împlinită prin eliminarea unor factori de anxietate, astfel încât cetățenii să-si poată urmări proiectele lor de viață relativ netulburați. Această viziune a generat un vast aparat birocratic și criticii de stânga ai “statului bunăstării” – cel mai vocal fiind Michel Foucault – aveau dreptate cand evidentiau tendintele sale disciplinare. Cu toate acestea, nici perfecțiunea, nici eficiența nu au fost “rezultatul dorit” al acestui sistem. Astfel, comparația intre “statul bunăstării” și “statul algoritmic“, pornind de la aceste fundamente, este înșelătoare.

Dar putem compara viziunile lor referitoare la împlinirea umană – și rolul pe care îl atribuie atât piețelor cât și statului. Oferta Silicon Valley este clară: datorită buclelor de feedback omniprezente, putem deveni toți antreprenori îngrijindu-ne fiecare de propriile noastre afaceri! Asa cum Brian Chesky, directorul executiv al Airbnb, spunea jurnalului The Atlantic, anul trecut: “Ce se întâmplă atunci când toată lumea este un brand? Când toată lumea are o reputație? Fiecare persoană poate deveni un antreprenor.”

În conformitate cu această viziune, toți vom scrie cod (pentru America!) dimineața, vom conduce mașini Uber după-amiaza, și vom închiria bucătăriile noastre, ca restaurante – prin amabilitatea Airbnb – seara. Asa cum O’Reilly scrie despre Uber și companii similare, “aceste servicii cer fiecărui pasager sa facă o evaluare a șoferului lor (și solutionism2șoferilor cer, la rândul lor, sa facă o evaluare a pasagerilor lor). Conducătorii auto care prestează servicii de calitate proasta sunt eliminați. Reputația face o treaba mai buna decât orice cantitate de reglementari ale statului în a asigura o experiență extraordinara pentru client.[autorul se refera aici la o companie de taxiuri ce foloseste o aplicatie prin care soferii primesc “ratinguri” de la clienti (si invers), reputatia (eficienta) lor fiind stabilita prin agregarea ratingurilor de catre noile tehnologii. Astfel, in functie de ratingul obtinut, soferul isi poate pastra sau pierde slujba, iar clientul devine unul fidel sau unul indezirabil. Generalizand, in lumea utopica guvernata prin noile tehnologii, am avea interactiuni sociale si economice ce ar avea la baza “reputatia” noastra calculata de algoritmi pe baza “ratingurilor” primite – n.n.]

Statul din spatele “economiei colaborative” nu dispare; ar putea fi necesar pentru a se asigura că reputația acumulata pe Uber, Airbnb și alte platforme ale “economiei colaborative” este complet lichida și transferabila, creând o lume în care este înregistrată și evaluată fiecare interacțiune socială pe care o avem, eliminând orice diferențe ar putea exista între domeniile sociale. Cineva, undeva, în cele din urmă, vă va acorda un rating fie ca e vorba de un pasager, o casă de oaspeți, un student, un pacient, un client. Dacă această infrastructură tip clasament va fi descentralizată, furnizată de către un gigant precum Google sau chiar de stat nu este încă clar, dar obiectivul principal este acela de a transforma reputația personala într-o rețea socială feedback-friendly, care ar putea proteja cetățenii cu adevărat responsabili de vicisitudinile dereglementarii.

Admirând modele de reputație folosite de companiile Uber și Airbnb, O’Reilly vrea ca guvernele sa facă posibila “adoptarea lor în cazul în care nu există nici un efect negativ demonstrabil“. Dar ceea ce punctează drept “efect negativ“, și cum să-l demonstrezi este o întrebare-cheie care face parte din tipul de politică actuala, chiar cel pe care reglementarea algoritmică vrea sa îl suprime. Este ușor sa demonstrezi “efectele negative“, în cazul în care obiectivul reglementarii este eficienta, dar ce se întâmplă în cazul în care obiectivul urmărit este cu totul altul decât eficienta? Cu siguranță, există unele avantaje – mai puține vizite la psihanalist, probabil – în a nu avea fiecare interacțiune socială înregistrată și clasificata?

Imperativul de a evalua și de a demonstra “rezultate” și “efecte” presupune deja că scopul politicii este optimizarea eficienței. Cu toate acestea, atâta timp cât democrația este ireductibila la o formulă, valorile sale compozite vor pierde întotdeauna această luptă: ele sunt mult mai greu de cuantificat.

Pentru Silicon Valley, totuși, statul algoritmic obsedat de reputație al economiei colaborative este noul stat al bunăstării. Dacă sunteți cinstit și harnic, reputația online va reflecta acest lucru, producând o rețea socială extrem de personalizata. Este “ultra-stabila” în sensul propus de Ashby: în timp ce statul bunăstării presupune existența relelor sociale specifice cu care încearcă să se lupte, statul algoritmic nu face astfel de presupuneri. Viitoarele amenințări pot rămâne complet necunoscute și pe deplin adresabile – la nivel individual.

Silicon Valley, desigur, nu este singura în promovarea unor astfel de soluții individuale ultra-stabile. Nassim Taleb, în cartea sa, bestsellerul lui 2012, “Antifragile“, face un apel asemănător, dar mai mult filosofic, pentru maximizarea inventivității și flexibilității (adaptării) noastre individuale: nu obține doar un loc de muncă, ci mai multe, nu împrumuta nimic, mergi pe cont propriu, contează numai pe tine și pe propria ta expertiza. Este vorba despre capacitatea de adaptare, asumarea de riscuri și, asa cum Taleb o formulează, pe “a-ti pune propria piele în joc“. Julian Reid și Brad Evans scriu în noua lor carte, “Resilient Life: The Art of Living Dangerously“, ca acest cult tot mai mare pentru rezistenta maschează o recunoaștere tacită că nici un proiect colectiv nu ar putea aspira vreodată măcar la îmblânzirea amenințărilor proliferate la adresa existenței umane – putem doar spera sa ne dotam pe noi înșine astfel încât sa le putem aborda în mod individual.

Când factorii de decizie se angajează în discursul cu privire la rezistență (reziliență),” scriu Reid și Evans, “fac acest lucru în termeni care vizează în mod explicit prevenirea ca oamenii sa conceapă pericolul (amenințarea) drept un fenomen la care ei sa caute o modalitate de eliberare (scăpare) ba chiar, prin contrast, prezintă pericolul ca ceva care la care oamenii trebuie sa se expună.”

Care este, atunci, alternativa progresistă? “Dușmanul dușmanului meu este prietenul meu” nu funcționează aici: doar pentru ca Silicon Valley ataca statul bunastarii sociale nu înseamnă că progresiștii ar trebui să-l apere pana la ultimul glonț (sau tweet). În primul rând, chiar și guvernele de stânga au spațiu limitat pentru manevre fiscale, pentru ca acele cheltuieli discreționare necesare pentru a moderniza statul bunastarii nu vor fi aprobate niciodată de către piețele financiare globale. Pentru ca agențiile de rating și piețele de obligațiuni – nu alegătorii – sunt cei care decid în prezent.

În al doilea rând, critica de stânga a statului bunăstării a devenit doar mai relevanta astăzi, când frontierele între bunăstare și securitate sunt atât de neclare. Când Google Android (sistem de operare pentru dispozitive mobile, gen tablete si smartphones, n.n.) furnizează energia legata atât de mult de aspecte din viața noastră de zi cu zi, tentația guvernelor de a ne guverna digital, prin mașini controlate de la distanță și dozatoare de săpun operate de alarmă, va fi prea mare. Acest lucru va extinde dominația guvernului asupra unor zone ale vieții libere pana atunci de orice forma de reglementare.

Cu atât de multe date, argumentul favorit al guvernului în lupta împotriva terorismului – dacă cetățenii ar ști la fel de multe ca și noi, și ei ar impune toate aceste excepții legale – se extinde cu ușurință la alte domenii, de la sănătate la schimbările climatice. Luați în considerare o lucrare academică recenta care a folosit date de căutare Google pentru a studia modele de obezitate din SUA si a găsit o corelație semnificativă între cuvintele cheie de căutare și niveluri ale indicelui de masa corporala. “Rezultatele sugerează o mare promisiune a ideii de monitorizare a obezității prin intermediul datelor furnizate în timp real de Google Trends“, notează autorii, chestiune care ar fi “deosebit de atractiva pentru instituțiile medicale de stat și întreprinderile private, cum ar fi societățile de asigurare.”

Dacă Google detectează o epidemie de gripă pe undeva, e greu să evalueze aceasta bănuiala a sa – pur și simplu nu dispunem de infrastructura necesara pentru a procesa atât de multe date, la acest nivel. Ipoteza Google poate fi dovedita drept greșita după analiza faptelor – așa cum a fost recent cazul cu datele sale privind tendințele gripei, cand a fost demonstrat ca supraestima numărul de infecții, probabil din cauza eșecului de lua in considerare acoperirea mediatica intensă a gripei – dar la fel este cazul și cu cele mai multe alerte teroriste. Imediatul“, functionarea în timp real a sistemelor informatice, este ceea ce le face aliați perfecți ale unui stat cu potențial de expansiune infinit și obsedat de preempțiune (prevenire).

Cazul Gloriei Placente și călătoria ei nereușita la plaja nu a fost doar o ciudățenie istorica, poate, ci un semn timpuriu al modului cum calculul în timp real, combinat cu tehnologii de comunicare omniprezente, ar transforma statul. Unul dintre puținii oameni care au luat în seamă acel semn a fost un prea putin cunoscut director de publicitate american numit Robert MacBride, care a împins logica din spatele Operațiunii Corral la concluziile sale finale, în a sa pe nedrept neglijata carte din 1967: Statul Automat.

La acea vreme, America dezbătea oportunitatea dezvoltării unui centru de date naționale pentru a agrega diverse statistici naționale pe care să le pună la dispoziția agențiilor guvernamentale. MacBride a atacat incapacitatea contemporanilor săi de a vedea modul în care statul ar putea exploata metadatele acumulate când devenea computerizat.  În loc de “un imperiu austro-ungar actualizat și pe o scară largă“, sistemele informatice moderne ar produce “o birocrație cu o capacitate aproape universala“, care ar putea “discerne și defini relațiile într-un mod în care nici o birocrație umana nu ar putea spera vreodată să o facă“.

Dacă cineva merge la bazin duminică sau vizitează o bibliotecă, aceasta nu are nici o consecință, deoarece nimeni nu verifică aceste lucruri“, a scris el. Nu se mai întâmpla asa atunci când sisteme computerizate pot agrega datele din diferite domenii și face corelații.

Comportamentul nostru individual în cumpărarea și vânzarea unui automobil, a unei case, sau unei garanții, în plata datoriilor noastre sau dobândirea de credite noi, în a câștiga bani și a fi plătit, va fi notat cu meticulozitate și apoi studiat în mod exhaustiv,” a avertizat MacBride.

Astfel, un cetățean va descoperi în curând că “alegerea lui de abonamente la reviste … poate fi utilizata pentru a indica cu precizie probabilitatea de a ramane in continuare pe proprietatea sa sau interesul pe care-l are în educația copiilor săi.” Acest lucru pare straniu de asemanator cu cazul recent al unui tată nefericit care a constatat că fiica sa este însărcinată prin intermediul unui cupon de reduceri trimis de un retailer – Target – la domiciliul lor. Indiciul obținut de Target a fost bazata pe analiza de produse – de exemplu, loțiune fără parfum – cumpărată, de obicei, de către alte femei gravide.

Pentru MacBride concluzia a fost evidentă. “Drepturile politice nu vor fi încălcate, dar vor semăna cu cele ale unui acționar mic într-o întreprindere gigant,” a scris el. “Semnul sofisticării și savoir-faire-ul în acest viitor va consta în gratia și flexibilitatea cu care cineva acceptă rolul și face cât mai mult bazat pe ceea ce oferă.” Cu alte cuvinte, din moment ce suntem toți antreprenori în primul rând – și cetățeni în al doilea rând, am putea la fel de bine profita din plin de aceasta situație.

Ce este atunci de făcut? Technophobia nu este o solutie. Progresiștii au nevoie de tehnologii care s-ar potrivi cu spiritul, dacă nu cu forma instituțională a statului bunăstării, morozovbookreviewpăstrând angajamentul său de a crea condiții ideale pentru dezvoltarea umană. Chiar și ceva ultra-stabilitate este binevenita. Stabilitatea a fost un obiectiv lăudabil al statului bunăstării înainte de a fi întâlnit o capcană: în specificarea exacta a protecțiilor pe care statul trebuia sa le ofere împotriva exceselor capitalismului, ea nu a putut evita noi forme, neprevazute anterior, de exploatare.

Cum construim “bunăstarea” care este atât de descentralizata cât și ultra-stabila? O formă de venit de bază garantat – prin care unele servicii sociale sunt înlocuite prin transferuri directe de numerar pentru cetățeni – se potrivește celor două criterii. Crearea condițiilor pentru apariția comunităților politice în jurul unei cauze și unor aspecte pe care le consideră relevante ar putea fi un alt pas bun. Respectarea deplină a principiului ultra-stabilității impune ca aceste probleme sa nu fie anticipate sau impuse de sus – de la partide politice sau sindicate – ci lasate neprecizate.

Ce poate fi precizat este un fel de infrastructură de comunicații necesara pentru a sprijini aceasta cauza: ar trebui sa fie ușor de folosit, greu de urmărit, și deschisa la noi utilizări, subversive. Infrastructura existenta în Silicon Valley este excelenta pentru îndeplinirea nevoilor statului dar nu și pe cele de auto-organizare ale cetățenilor. Se poate, desigur, să fie redistribuita [infrastructura] pentru a susține cauzele activiștilor – și de multe ori este – dar nu există nici un motiv pentru a accepta status quo-ul, fie drept ideal sau inevitabil.

De ce sa însușim, la urma urmei, ceea ce ar trebui să aparțină poporului, în primul rând? În timp ce mulți dintre creatorii de internet deplâng modul în care a ajuns creația lor, furia le este greșit îndreptată. Eroarea nu este a acelei entități amorfe, ci, în primul rând, în lipsa de politici solide din stânga spectrului politic în ceea ce privește tehnologia – o politică ce poate contracara agenda pro-inovare, pro-distrugere, pro-privatizare din Silicon Valley. În absența acesteia, toate aceste comunități politice în curs de dezvoltare vor funcționa cu aripile tăiate. Dacă următoarea Occupy Wall Street va putea să ocupe ceva într-un oraș cu adevărat digitalizat [“inteligent”], rămâne de văzut: cel mai probabil, ei vor fi eliminați fie prin cenzura, fie acoperiți de “zgomot”, fie prin ambele modalități.

Spre meritul său, MacBride a înțeles toate acestea, în 1967.

Având în vedere resursele tehnologiei moderne și tehnicilor de planificare“, a avertizat el, “nu este într-adevăr nici o mare șmecherie în a transforma chiar și o țară ca a noastră într-o corporație fără probleme de funcționare, în care fiecare detaliu al vieții este doar o funcție mecanică care trebuie urmărită spre buna funcționare.”

Frica lui MacBride este acum marele plan al lui O’Reilly: guvernul, scrie el, ar trebui să fie modelat pe abordarea de tip “lean startup” [startup-ul minimal, o abordare de data recenta asupra primei faze de viata a unei noi mici companii – startup – sau a unui produs nou, n.n.] din Silicon Valley, care “folosește datele și pe baza lor revizuie și adaptează în mod constant abordarea pieței“. Exact această abordare a fost implementata recent de către Facebook pentru a maximiza implicarea utilizatorilor pe site-ul lor: în cazul în care se prezintă utilizatorilor mai multe povești pozitive și asta rezolva problema implicării atunci așa să rămână.

Reglementarea algoritmică, indiferent de beneficiile sale imediate, ne va da un regim politic în care corporațiile tehnologice și birocrațiile guvernamentale vor lua absolut toate deciziile. Scriitorul polonez de science fiction Stanislaw Lem, într-o critică la obiect a ciberneticii publicata, așa cum se întâmplă, aproximativ în același timp ca și cartea “Statul Automat” a lui Robert MacBride, o spune cel mai bine: Societatea nu poate renunța la sarcina de a trebui sa își asume decizia cu privire la propria soartă prin sacrificarea acestei libertăți de dragul de reglementarilor digitale (cibernetice).”

traducere colectiva a colaboratorilor Cuvantul Ortodox

Subtitlurile ne apartin

*Evgheni Morozov – autorul volumului The net delusion in care demonteaza iluziile utopice legate de virtutile politice si democratice ale internetului.

net-delusion

*

*

*

*


Categorii

Corporatism, Facebook, Google, Guvernarea electronica (E-GUVERNARE), Internet, New Media, Noile Tehnologii, Internetul Obiectelor (Internet of Things), Panopticon, Traduceri

Etichete (taguri)

, , , , , , , , , , , , , , , ,

Articolul urmator/anterior

Comentarii

15 Commentarii la “STATUL ALGORITMIC SI DIGITALIZAREA SOCIETATII. Evgheni Morozov despre dictatura noilor tehnologii si omul-rating

  1. Brrrr….

    Te ia cu fiori… interesant melanjul acesta intre dezagregare, risipire, imputinare la nivel duhovnicesc sau chiar uman si agregare, informatizare sintetizare, digitalizare …

    Multumim pentru articol!

    Doamne ajuta, si spor binecuvantat fratilor!

  2. Nebunia nebuniilor!

  3. Un articol extraordinar al lui Morozov, de citit și recitit!
    Viitorul, ce mai tura-vura, sună bine, tovarăși.

    ——–

    Mai are unul recent despre noua inițiativă a unor companii uriașe de teapa unui Facebook, Samsung, Nokia & alții (grupați sub titulatura internet.org) care își doresc, ce altceva, să mai rezolve o problemă a celor săraci care nu au ce pune pe masă: accesul la internet.

    http://www.nytimes.com/2014/08/03/opinion/sunday/evgeny-morozov-facebooks-gateway-drug.html

    Din câte înțeleg, în viziunea acestor mari vizionari ai universului, dacă ai internet la vârfu deștelor atunci uiți și de foame, stomacul nu mai chiorăie și, în general, calitatea vieții creste exponențial. Ba chiar, simți ca ești fericit, nu mai ai nevoie de nimic, net sa fie.
    Mare chestie, va spui io, mare de tot!

  4. Global brain

    O’Reilly believes that the Internet will develop into a global brain, an intelligent network of people and machines that will function as a nervous system for the planet Earth.[11] This phenomenon will occur because humans will use technologies such as social media or the Internet of things more frequently and efficiently. O’Reilly has recently presented this topic in a number of lectures.

  5. Alin 7:

    Eu ma gindesc la altceva: ca ii vor manipula cu ajutorul intrnetului pe acei oameni. Bani nu au, Asa ca nu pot sa le vinda ceva. Deci zic ca va fi folosit intr-un mod manipulator. Imi aminteste de filmul “green food”–o lume fara Dumnezeu in care se practica iluzii virtuale (un “rai” lumesc) si euthanasia. Nu gasesc un link din pacate. L-am vazut cu peste 10 ani in urma dar daca las gasi las mai vedea odata, cu toate ca nu ma uit la tv sau la vreun film de un an

  6. @Emma

    Manipularea e numai o parte, în principiu este vorba de deschiderea unui canal de comunicare global prin care se poate livra orice.

    Filmul la care faceți referire a lăsat urme adânci, se pare, nu sunteți singura care va aduceți aminte de acesta (eu l-am văzut prin anii ’90).
    Denumirea lui este Soylent Green, produs în 1973: http://www.imdb.com/title/tt0070723/

    Il puteți revedea aici: http://hdon.org/soylent-green-1973/ (subtitrat în RO)

  7. Recomand cititorilor în limba engleză un material cvasi-biografic despre E.Moruzov, nu doar pentru factologia conținută, cât pentru a înțelege modul în care se formeză și se maturizează piața ideilor cu relevanţă globală precum şi gânditorii care ne transformă înţelegerea asupra lumii în care trăim. Laicatul nostru ortodox este la ani lumină de momentul în care va putea avea o prezenţă structurată în astfel de dezbateri, chiar şi doar pentru cele din plan local.

    http://www.cjr.org/cover_story/evgeny_vs_the_internet.php?page=all

  8. @bibite:

    Laicatul nostru ortodox este la ani lumină de momentul în care va putea avea o prezenţă structurată în astfel de dezbateri, chiar şi doar pentru cele din plan local.

    Care laicat?

  9. point taken.

  10. Pingback: INTERNETUL LUCRURILOR si retelele electrice inteligente vor elimina complet intimitatea | Cuvântul Ortodox
  11. Pingback: FACEBOOK SI POST-DEMOCRATIA. Reteaua de internet a fost acuzata ca CENZUREAZA DELIBERAT POSTĂRILE CONSERVATOARE. Cum manufactureaza Facebook NOUL CONSENS SOCIAL prin expunerea privilegiata a MINORITATILOR AGRESIVE | Cuvântul Ortodox
  12. Pingback: SILICONIZAREA LUMII. Tehnoliberalismul si controlul total al vietii cotidiene in REGATUL NOII ORDINI MONDIALE | Cuvântul Ortodox
  13. Pingback: GIGANTII INTERNETULUI: NOILE PUTERI COLONIALISTE/ Cum am devenit IOBAGII NOILOR TEHNOLOGII/ Retelele sociale si razboiul pentru controlul mintii umane/ TOTALITARISMUL DIGITAL si CARCERA VIRTUALA/ ROMÂNII: FRUNTASI LA FOLOSIREA FACEBOOK-ului
  14. Pingback: BIG DATA BROTHER SI NOILE SISTEME ALE OBEDIENTEI. CHINA introduce, in premiera mondiala, un SISTEM DE RATING al cetatenilor sai. Clasificarea persoanelor se va face prin INTEGRAREA TUTUROR DATELOR despre viata si comportamentul cotidian al acestora. Se co
  15. Pingback: Academia Română lansează un manifest pentru „adaptarea la ERA DIGITALĂ”. România, în viziunea instituției, ar trebui să devină un „ACTANT SEMNIFICATIV al revoluției digitale globale.” De ce este greșit utopismul fără rest al Academiei
Formular comentarii

* Pentru a deveni public, comentariul dumneavoastra trebuie aprobat de un administrator. Va rugam sa ne intelegeti daca nu vom publica anumite mesaje, considerandu-le nepotrivite, neconforme cu invatatura ortodoxa sau nefolositoare sufleteste. Va multumim!

Carti

Documentare