Destinație necunoscută - Empire of AI

Am ajuns la cartea lui Karen Hao după ce am văzut câteva interviuri în care autoarea vorbește despre Inteligența Artificială (IA) și impactul acesteia asupra umanității. Absolventă de MIT, Hao a lucrat pentru scurt timp în Silicon Valley pentru a se reorienta apoi către o carieră în jurnalism. A scris articole pentru The Atlantic și Wall Street Journal, este unul dintre co-fondatorii podcast-ului In Machines We Trust în care se discută despre universul IA, despre cei care lucrează și inovează în acest domeniu. Bănuiesc că simțim cu toții cum lumea din jurul nostru se schimbă cu o viteză amețitoare, că IA s-a insinuat într-o formă sau alta în viețile noastre. Interesul meu, ca umanist, pentru acest subiect s-a născut din dorința de a înțelege cine sunt și cum gândesc oamenii din spatele acestei revoluții. Pentru că eu cred că pentru a-ți face o idee despre direcția omenirii trebuie să știi ce își doresc cei care controlează narativul și resursele. Veți spune, poate, că este o întreprindere inutilă pentru că oricum nu putem schimba nimic, dar cu toate acestea, eu consider că este un demers necesar pentru noi toți pentru că, până la urmă, nu strică ca la nivel individual să înțelegem lumea în care trăim.

Pentru majoritatea oamenilor, nume ca Elon Musk, Sam Altman, Peter Thiel sau Bill Gates sunt pe atât de familiare pe cât sunt de îndepărtate persoanele care le poartă. Unii îi privim ca pe niște titani ai vremurilor noastre, angajați într-o luptă pentru progresul și bunăstarea omenirii, alții îi privesc ca pe niște lunatici și adversari ai ordinii mondiale. Ei se consideră perturbatori (disruptors) ai ordinii actuale a lucrurilor și își propun să schimbe prin inovație modul în care funcționează afacerile și lumea în general în acest moment. Cartea lui Hao îl are ca personaj principal pe Sam Altman, una dintre cele mai importante figuri din evoluția și revoluția IA. Din 2019 este CEO al OpenAI, compania care a lansat ChatGPT. Empire of AI (încă netradusă în limba română) prezintă o istorie a OpenAI chiar de la începuturile sale ca organizație non-profit, când fondatorii își doreau să ofere lumii acces la cercetările lor despre inteligența artificială într-un mod democratic și altruist. Uneori poate cu prea multe detalii legate de discuțiile dintre membrii OpenAI și jocurile de culise, cartea se dovedește o lectură interesantă pentru că arată modul în care o organizație non-profit ajunge la concluzia că pentru a-și putea susține cercetările este nevoie să se transforme într-o firmă care urmărește profitul. Această evoluție, ne spune Hao, are la bază filosofia adoptată de Altman cu privire la modul în care IA poate avansa rapid și ajunge la ceea ce își dorește efectiv, adică la AGI. Artificial General Intelligence (AGI) este inteligența artificială capabilă să atingă aceeași complexitate ca mintea umană sau chiar să o depășească. Ca o paranteză, modelul AGI pentru Altman este Samantha din filmul Her al regizorului Spike Jonze, după cum ne spune Hao. Aceasta pare să aibă dreptate, dată fiind controversa dintre Altman și Scarlett Johansson, actrița care și-a împrumutat vocea inteligenței artificiale din film.^[i]

Altman a adoptat scalarea ca singură variantă viabilă de obținere a unor rezultate rapide în dezvoltarea IA. Această filosofie are la bază principiul conform căruia "mai mare" înseamnă automat "mai capabil". În cazul IA, este vorba de modele mai mari, generaliste, care pot avea performanțe mai bune în sarcini diverse fără o instruire specifică. Alegerea acestui mod de dezvoltare vine însă cu costuri foarte mari (energie, echipamente, etc.) ceea ce necesită sume foarte mari de bani și, în consecință, nu este accesibil decât giganților din industrie. În plus, există un impact semnificativ asupra comunităților și mediului unde se instalează data center-urile. Hao disecă fiecare aspect al acestei decizii. Ne poartă, de exemplu, prin culisele înțelegerii cu Microsoft, a modului în care cele două companii își stabilesc prioritățile și își tratează echipele. Deși uneori poate prea tehnică în explicații, autoarea scrie o istorie a evoluției ChatGPT, dar și a modului în care se schimbă perspectiva celor care lucrează cu Altman la acest proiect. Luptele de culise dintre Greg Brockman și Ilya Sutskever ar fi poate neinteresante dacă nu ar arunca un pic de lumină asupra celor două curente de gândire opuse legate de IA: boomer versus doomer. Boomer-ii sunt cei optimiști care cred că IA nu va scăpa de sub control, că va ajuta la progresul omenirii și că va îmbunătăți calitatea vieții pentru toți, într-un cuvânt că beneficiile sunt mai mari decât riscurile. Pe de altă parte, doomer-ii au o viziune precaut-pesimistă asupra IA. Se tem că o creștere accelerată, fără instrumente de control riscă să pună în pericol întreaga omenire, că IA poate accentua problemele legate de manipularea în masă, că poate duce la colaps economic printr-o evoluție prea rapidă.

Altman se situează în tabăra optimiștilor și, deși, nu are un răspuns clar legat de cum va arăta AGI, consideră că aceasta va contribui semnificativ la rezolvarea problemelor climatice și a inegalităților sociale. Hao vine cu contra-argumente din teren și de dincolo de mediul corporatist din Silicon Valley. Și cred că în aceste cazuri stă forța principală a cărții. Nu știam de exemplu, până la a citi în Empire of AI că data center-urile au nevoie de cele mai multe ori de apă potabilă pentru a se răci. Da, ați citit bine: potabilă. Ea scrie despre situațiile în care s-au aflat comunități din țări ca Chile sau Uruguay, în care apa potabilă este deja o resursă strict limitată. Atunci când Google și-a manifestat intenția de a deschide un data center într-una dintre aceste comunități, au căutat să convingă autoritățile locale că va fi o oportunitate pentru oamenii din zonă. Ce au ascuns în paginile documentației stufoase a fost faptul că ar avea nevoie de 169 de litri de apă potabilă pe secundă pentru a-și răci serverele.

Hao mai scrie și despre costul uman pe care l-a implicat antrenarea IA. Vorbește cu oameni din Venezuela sau Kenya care pentru câțiva bănuți, fără un contract ferm și fără asigurări medicale au fost nevoiți de crizele economice din țările lor să se angajeze în moderarea și organizarea de conținut pentru IA. Este vorba despre oameni educați, ambițioși, prinși, însă, în turbulențele pandemiei și crizelor economice. Aceștia au prestat o muncă plătită prost, dar care le-a distrus relațiile și sănătatea. Au privit și sortat ore în șir conținut legat de diferite tipuri de violență și abuz. Au fost tratați ca niște consumabile și atunci când nu au mai fost de folos, au fost înlocuiți cu alți oameni, din alte țări, aflați în situații la fel de disperate. Orice critică sau întrebare ducea la dezactivarea contului de pe platforma pe care lucrau, aceștia pierzând uneori și o parte din bani dacă nu reușiseră să și-i retragă la timp. Evident, totul se făcea prin firme sub-contractoare, astfel încât beneficiarul final, Open AI, putea declara că nu a fost la curent cu acest mod de a face lucrurile. Firmele care au încercat să-și trateze decent angajații au dispărut rapid de pe piață pentru că nu făceau față costurilor și nu puteau oferi un preț la fel de bun ca cei care nu își băteau capul cu astfel de probleme morale și etice (de văzut și filmul românesc Clasat pe această temă - nota LiterNet).

Citind toate cazurile descrise de Hao, m-a dus gândul la Universal Basic Income (UBI), una dintre ideile foarte dragi mogulilor tech.^[ii] M-am întrebat, dat fiind chipul lumii de azi, cum ar funcționa un astfel de venit universal și cine ar beneficia de el, dar mai ales în ce condiții. Imaginați-vă o lume în care nu este nevoie să muncești pentru că primești în fiecare lună o sumă care îți acoperă nevoile personale. Această sumă, spun unii, ți-ar permite să îți urmezi pasiunile și visurile. Ce se întâmplă, însă, dacă interesele tale intră în conflict cu ale celui care virează banii? Nu am găsit încă un răspuns, dar m-am gândit fără să vreau la Hunger Games...

Hao mai vorbește și despre o altă filosofie din Silicon Valley, cunoscută sub numele de earn to give - câștigă ca să donezi. Acest lucru înseamnă că nu vrei să devii bogat pentru tine, ci să maximizezi binele pe care îl poți face cu resursele tale. Există și aici o serie de argumente pro și contra, dar nu am putut, din nou, citind despre acest lucru să nu mă gândesc la proverbul latin Homo homini lupus. În cazul lui Altman, relația cu sora lui Anne, descrisă în carte, spune multe despre disponibilitatea lui de a-i ajuta pe cei în nevoie.

Empire of AI este o carte care are la bază, din punctul meu de vedere, două idei: prima dintre ele este cea care spune că IA este importantă pentru istoria omenirii, dar dezvoltarea ei necesită o integrare cu principiile și practicile morale umane. A doua idee este aceea că pusă în mâinile unor persoane controlate de hybris, această tehnologie este periculoasă pentru interesele majorității. Hao pune la îndoială motivele, corectitudinea și principiile morale ale lui Altman. Pentru a-și susține punctul de vedere vine cu exemple despre modul în care acesta a gândit și reacționat în anumite momente cheie din dezvoltarea OpenAI. Un om care își manipulează asociații, își minte angajații și nu își exprimă niciodată clar punctul de vedere, dar se află în vârful piramidei care controlează evoluția IA, poate avea drept scop final nedeclarat consolidarea unui nou Imperiu, care va exploata oamenii și resursele unor zone îndepărtate sau defavorizate în folosul unei elite tehnice lipsită de empatie și principii. Un Imperiu în care mulți nu își vor găsi locul. Dacă nu aveți timp să citiți cartea și totuși v-am făcut curioși, sunt disponibile multe interviuri cu Karen Hao în care aceasta vorbește despre vremurile pe care le trăim și cursa pentru nu se știe încă ce...