Marele paradis artificial, cu nemurire la ofertă și șomaj inclus în pachet
Există o formă de generozitate absolut tulburătoare în felul în care miliardarii tehnologiei au început să ne explice că am putea dispărea din cauza inteligenței artificiale, dar să privim partea bună: vom avea acces la asistență medicală de înaltă calitate, educație, combaterea schimbărilor climatice, eliminarea sărăciei și, dacă toate merg conform planului, vindecarea cancerului și a bolii Alzheimer. Practic, ni se oferă posibilitatea unei extincții cu beneficii. Un fel de pachet premium pentru sfârșitul omenirii, în care dispariția este inclusă în riscuri, iar paradisul vine la rubrica avantaje competitive.
Într-o discuție televizată cu Jon Stewart, reprezentanții noii aristocrații tehnologice au fost invitați să explice ce primim în schimbul riscului existențial pe care chiar ei îl invocă. Estimările de 10–25% privind posibilitatea ca inteligența artificială să provoace o catastrofă existențială au circulat în declarațiile unor personalități din domeniu, fără să reprezinte un consens științific sau o probabilitate măsurată riguros. Dar chiar acceptând că vorbim despre o estimare speculativă, întrebarea rămâne remarcabil de simplă: dacă există o asemenea posibilitate, ce justifică pariul? Ce câștigăm? Cine decide că merită? Și, mai ales, cine a semnat pentru noi?
Răspunsurile au venit în ambalajul obișnuit al optimismului tehnologic: într-o zi vom vindeca bolile, vom elimina sărăcia, vom rezolva criza climatică, vom democratiza educația și vom construi o societate a abundenței. Într-o zi. Curând. Într-un viitor apropiat, dar suficient de îndepărtat încât să nu poată fi verificat de nimeni dintre cei care plătesc astăzi costurile. Viitorul este întotdeauna foarte generos cu oamenii care nu trebuie să-l livreze până la sfârșitul trimestrului.
Jon Stewart a avut reacția pe care o are orice om care a ascultat destule prezentări de vânzări ca să recunoască momentul în care produsul începe să fie înlocuit cu o revelație mistică. A râs. A întrebat când se întâmplă toate aceste minuni. Iar răspunsul s-a retras, elegant, în ceața unei promisiuni: într-o zi, în viitor, vom fi mult mai capabili.
Așadar, omenirea este invitată să accepte o probabilitate de dispariție în schimbul unei liste de beneficii care urmează să fie livrate cândva, de către cineva, într-o societate pe care nimeni nu știe exact cum o va organiza. Este un contract spectaculos. Noi punem planeta, instituțiile, locurile de muncă, intimitatea și, eventual, specia. Ei pun prezentarea.
Dar Stewart a avut o idee neplăcută: să compare paradisul promis cu ceea ce facem efectiv cu inteligența artificială în prezent.
Și aici începe comedia, deși termenul „comedie” este o politețe față de realitate.
În loc să descoperim tratamente miraculoase pentru cancer, să eliminăm sărăcia sau să salvăm planeta, avem deja aplicații militare, supraveghere, identificare biometrică, operațiuni de țintire, atacuri cibernetice, dezinformare și instrumente care pot amplifica eficiența aparatului de control. Inteligența artificială este integrată în sisteme de analiză militară, în platforme de monitorizare și în infrastructuri care pot urmări, clasifica și anticipa comportamentul oamenilor. În Statele Unite, tehnologiile de supraveghere și analiza datelor sunt folosite în activități ale instituțiilor de aplicare a legii și în operațiuni legate de imigrație, iar automatizarea poate extinde capacitatea acestor instituții de a procesa informații și de a identifica persoane.
Aici ar trebui să ne oprim o clipă. O tehnologie care ar putea, într-o zi, să contribuie la vindecarea unor boli este deja suficient de matură pentru a fi folosită în infrastructuri de supraveghere și în operațiuni militare. Pentru paradis avem nevoie de încă o generație de cercetare, de reglementări, de infrastructură și de un model economic sustenabil. Pentru control avem nevoie de un contract, de un server și de o bază de date.
Nu este o contradicție tehnică. Este o contradicție politică și economică. Inteligența artificială nu vine în lume cu o morală proprie, cu o conștiință civică și cu un jurământ hipocratic. Este construită, finanțată, antrenată și implementată de instituții și companii care urmăresc obiective concrete. Iar obiectivele concrete au un obicei supărător: tind să semene cu interesele celor care le plătesc.
Când armata vrea să identifice o țintă, inteligența artificială poate deveni un multiplicator de capacitate militară. Când un guvern vrea să monitorizeze o populație, aceeași tehnologie poate deveni un multiplicator de supraveghere. Când o companie vrea să-și optimizeze veniturile, algoritmul poate deveni un multiplicator de profit. Iar când un om întreabă dacă va mai avea un loc de muncă, primește o explicație despre cum tehnologia va crea oportunități extraordinare într-o economie pe care încă nu o poate descrie nimeni.
În acest punct, discuția cu Jon Stewart ajunge la întrebarea care ar trebui să fie scrisă pe frontispiciul fiecărui centru de date: locuri de muncă — le vom mai avea?
Răspunsul vine cu ezitări, cu formule elastice și cu optimismul profesional al celor care nu au fost niciodată nevoiți să-și explice chiria unei inteligențe artificiale. Vor dispărea unele locuri de muncă, dar vor apărea altele, mai bune. Va exista o cerere mare de muncă, numai că nu neapărat pentru aceleași profesii. Este posibil să asistăm la o creștere netă a numărului de locuri de muncă. Industria se va transforma. Oportunitățile vor fi extraordinare.
Bine. Dar care sunt acele locuri de muncă?
Aici se produce un mic accident de gravitație intelectuală. După ce ne-au fost promise vindecarea cancerului, rezolvarea crizei climatice, dispariția sărăciei și o civilizație a abundenței, interlocutorii nu reușesc să ofere o descriere convingătoare a profesiilor care ar trebui să înlocuiască milioanele de activități susceptibile de automatizare. Sunt greu de imaginat, ni se spune, pe măsură ce stăm aici și visăm la viitor.
Așadar, viitorul poate fi imaginat până la marginea universului, dar nu și până la ghișeul de șomaj.
Jon Stewart insistă. Dacă oamenii aceștia pot proiecta o lume fără boli, de ce nu pot proiecta și o economie în care oamenii să aibă o ocupație, un venit și o utilitate socială? De ce este atât de ușor să vorbești despre nemurire și atât de dificil să explici ce va face un contabil, un traducător, un programator, un grafician, un jurnalist, un profesor sau un angajat administrativ atunci când o parte din activitatea lui va fi executată de sisteme automate?
Răspunsul oferit de Jensen Huang, șeful Nvidia, este aproape involuntar comic: centrele de wellness și spa-urile. Iată, există industrii care nu existau în forma lor actuală cu câteva decenii în urmă. Prin urmare, vor apărea altele. Este o demonstrație de optimism construită pe o amintire aproximativă și pe o încredere neclintită în capacitatea pieței de a inventa ocupații.
Problema este că spa-urile nu au apărut odată cu inteligența artificială, iar industria wellness are o istorie mult mai veche decât durata de viață a multor companii tehnologice. Băile, masajul, ritualurile de relaxare și îngrijirea corporală nu sunt invenții ale economiei digitale. Civilizațiile antice aveau deja băi publice, practici terapeutice și forme organizate de îngrijire a corpului. Dacă acesta este exemplul de profesie a viitorului, atunci poate că ar trebui să ne pregătim și pentru o explozie a locurilor de muncă în domeniul olăritului, al agriculturii de subzistență și al transportului cu măgari. Istoria are, într-adevăr, multe industrii vechi care pot fi prezentate drept viitoare oportunități.
Mai gravă decât lipsa exemplelor este însă lipsa unei explicații despre distribuția beneficiilor. Cine deține infrastructura care produce abundența? Cine încasează productivitatea suplimentară? Cine controlează modelele, centrele de date, cipurile, energia și platformele? Dacă o companie poate produce aceeași cantitate de bunuri și servicii cu o fracțiune din personal, economiile obținute se transformă automat în venituri pentru cei concediați? Există vreo lege economică potrivit căreia profitul suplimentar trebuie distribuit echitabil? A devenit cumva acționarul o instituție filantropică?
Capitalismul nu are, în codul său genetic, obligația de a împărți câștigurile tehnologice în mod egal. Are mecanisme de concurență, proprietate, acumulare și distribuție a veniturilor prin salarii, investiții și transferuri publice. Rezultatul depinde de instituții, de puterea de negociere a angajaților, de legislație și de structura piețelor. O creștere a productivității poate aduce prosperitate generală, dar poate concentra și mai mult averea. Tehnologia nu decide singură care dintre aceste două drumuri va fi urmat.
De aceea, întrebarea despre locurile de muncă nu este una secundară, rezervată sindicaliștilor nostalgici sau oamenilor care încă mai cred că salariul trebuie să vină dintr-o activitate concretă. Este întrebarea centrală a tranziției tehnologice. Munca nu înseamnă doar bani. Înseamnă statut, autonomie, rutină, apartenență, demnitate și o formă de participare la viața comunității. Poți să-i dai unui om un venit și să-i lași, în același timp, senzația că a devenit inutil. Poți să-i oferi consum fără să-i oferi sens. Poți să-i livrezi bunăstare materială și să-i distrugi locul în lume.
Aici se află una dintre cele mai mari naivități ale utopiei tehnologice: presupunerea că omul poate fi înlocuit economic fără ca această înlocuire să aibă consecințe antropologice. Ca și cum am fi niște organisme care au nevoie doar de calorii, divertisment și conexiune la internet. Ca și cum viața ar fi o aplicație de livrare în care, dacă ai primit comanda, nu mai contează cine a pregătit-o și cine a rămas fără serviciu.
Apoi apare Elon Musk cu promisiunea venitului universal ridicat. Nu doar venit universal de bază, ci unul atât de generos încât să inaugureze o epocă a abundenței. În această viziune, automatizarea și productivitatea vor produce o bogăție atât de mare încât statul va putea distribui tuturor resurse suficiente pentru o viață confortabilă. Omenirea va scăpa de obligația muncii, iar oamenii vor putea să-și petreacă timpul făcând ceea ce își doresc.
Este o imagine seducătoare. Și, în același timp, o întrebare politică enormă, ascunsă într-o frază de marketing: cine va deține mașinile care produc abundența și cine va avea puterea de a distribui veniturile?
Pentru că venitul universal ridicat nu apare dintr-o iluminare spontană a capitalului. Necesită o arhitectură fiscală, instituții capabile să colecteze și să redistribuie venituri, reguli de proprietate, mecanisme de control democratic și o economie suficient de productivă pentru a susține transferurile. Înseamnă să decizi cine plătește, cât plătește, cine primește, în ce condiții și cine împiedică transformarea întregului sistem într-un instrument de dependență politică.
Musk ne spune, practic, că dacă lăsăm capitalismul să lucreze suficient de liber, vom ajunge la un fel de socialism al abundenței. Este o promisiune fascinantă, mai ales venită de la un om care conduce imperii private și care nu pare să aibă o pasiune comparabilă pentru ideea ca angajații sau cetățenii să participe la controlul acestor imperii. Capitalismul ne va duce la socialism, dar numai după ce va acumula suficient capital în mâinile celor care au avut răbdarea să nu-l împartă.
Este ca și cum un proprietar de restaurant ne-ar explica faptul că, dacă îl lăsăm să păstreze toate mesele, toate bucătăriile și toate încasările, într-o zi va avea suficientă mâncare ca să ne hrănească gratuit. Iar dacă îl întrebăm de ce nu ne dă o porție acum, ne va spune că nu înțelegem complexitatea procesului de transformare a foamei în abundență.
Jon Stewart găsește aici o fisură logică pe care niciun model lingvistic nu ar trebui să aibă nevoie de un miliard de parametri ca s-o identifice: dacă scopul final al acumulării unei bogății de zeci de trilioane de dolari este să le dai oamenilor bani, de ce să nu începi să le dai bani acum? De ce să aștepte omenirea ca o mână de companii să construiască o infrastructură gigantică, să acumuleze averi inimaginabile și abia apoi să descopere generozitatea redistribuirii? De ce nu am putea fi considerați early adopters ai venitului universal, înainte ca automatizarea să ne transforme în early adopters ai șomajului?
Întrebarea este amuzantă, dar în spatele ei se află o problemă serioasă. Dacă avem deja resurse și capacitate productivă suficiente pentru a reduce sărăcia, de ce nu o facem? Dacă problema este distribuția, de ce o prezentăm ca pe o imposibilitate tehnologică ce va fi rezolvată de o tehnologie viitoare? Dacă avem nevoie de un nou contract social, de ce îl amânăm până după ce se vor schimba ireversibil raporturile de putere?
Într-un asemenea discurs, reglementarea apare adesea ca obstacol în calea progresului. Companiile au nevoie de libertate, spun profeții, pentru că tehnologia evoluează prea repede pentru ca instituțiile să o poată controla. Este un argument convenabil, mai ales pentru cei care beneficiază financiar de lipsa controlului. Orice regulă devine o frână, orice întrebare o dovadă de ignoranță, orice încercare de limitare a riscului o formă de ostilitate față de viitor.
Dar libertatea cui? A companiei de a colecta date? A platformei de a manipula atenția? A sistemului militar de a automatiza identificarea țintelor? A angajatorului de a înlocui oameni fără obligația de a suporta costurile sociale ale tranziției? A investitorului de a încasa profiturile, în timp ce societatea gestionează șomajul, precaritatea și anxietatea?
Când tehnologia promite să vindece cancerul, discursul este despre umanitate. Când aceeași tehnologie automatizează un departament întreg, discursul devine despre eficiență. Când reduce costurile unei companii, este progres. Când reduce venitul unei familii, este adaptare. Când creează miliarde pentru acționari, este inovație. Când oamenii cer o parte din câștigurile de productivitate, devin populiști, leneși sau incapabili să înțeleagă economia viitorului.
Iar între aceste două lumi se află omul obișnuit, invitat să admire tehnologia care îi poate lua slujba, să finanțeze prin taxe infrastructura de care beneficiază corporațiile și să aștepte, cu răbdare și eventual cu un abonament premium, momentul în care abundența va coborî din centrele de date în frigider.
Nu trebuie să fim tehnofobi ca să observăm ridicolul. Inteligența artificială poate produce beneficii uriașe. Poate accelera cercetarea medicală, poate sprijini diagnosticarea, poate îmbunătăți accesul la educație, poate optimiza rețele energetice și poate reduce timpul necesar unor activități repetitive. Dar aceste posibilități nu sunt cecuri în alb. Ele trebuie demonstrate, distribuite și supuse unor reguli. Iar faptul că o tehnologie poate salva vieți nu îi oferă automat dreptul de a supraveghea vieți, de a manipula societăți sau de a distruge mijloacele de existență ale unor comunități fără o dezbatere democratică reală.
Nici riscul existențial nu poate fi tratat ca o notă de subsol într-un prospect de investiții. Dacă există cercetători și lideri din industrie care consideră că dezvoltarea unor sisteme avansate ar putea scăpa de sub control, atunci responsabilitatea lor este să explice public riscurile, limitele cunoașterii și măsurile de siguranță. Nu este suficient să spună că probabilitatea este de 10–25%, apoi să ne ofere, drept compensație, o lume în care nu mai avem cancer, sărăcie sau facturi la electricitate. Nu poți calcula valoarea vieții umane ca pe un randament anticipat și să pretinzi că ai făcut o analiză cost-beneficiu.
Poate că adevărata problemă a acestei revoluții nu este că inteligența artificială va deveni prea inteligentă. Este că oamenii care o dezvoltă pot deveni prea puternici înainte ca societatea să stabilească ce drepturi, limite și obligații trebuie să existe în jurul ei. Mașinile învață să genereze răspunsuri, dar instituțiile încă nu știu să pună întrebările potrivite. Algoritmii pot optimiza producția, dar nu pot decide în locul nostru ce înseamnă o viață demnă. Modelele pot anticipa comportamente, dar nu au legitimitatea de a hotărî ce fel de societate merităm.
Iar râsul lui Jon Stewart, dincolo de poanta televizată, rămâne un instrument de igienă intelectuală. Râsul acela care apare când cineva îți promite nemurirea, dar nu știe să-ți spună ce vei lucra luni dimineață. Când îți vorbește despre eliminarea sărăciei într-un viitor magnific, dar nu poate explica de ce trebuie să aștepți până atunci. Când îți spune că vei avea un venit universal ridicat după ce economia va produce o abundență inimaginabilă, dar consideră prematură discuția despre cine va controla acea economie.
Poate că nu avem nevoie de o inteligență artificială care să ne promită paradisul. Avem nevoie de oameni suficient de inteligenți încât să nu confunde puterea de a construi o tehnologie cu dreptul de a decide singuri viitorul tuturor.
Până atunci, oferta rămâne extraordinară: există o posibilitate, estimată de unii la 10–25%, să ne trezim într-o catastrofă pe care nu o mai putem controla. În schimb, ni se promit medicamente miraculoase, educație universală, sfârșitul sărăciei, o planetă reparată și un venit atât de mare încât munca va deveni un hobby. Data livrării este necunoscută. Condițiile de utilizare se pot modifica fără notificare. Beneficiile nu sunt garantate. Riscurile sunt ale tuturor.
Iar dacă între timp rămânem fără locuri de muncă, putem oricând să ne deschidem un spa. Se pare că viitorul are nevoie de foarte multă relaxare.
Ce afacere! Noi punem omenirea la bătaie, ei promit abundența, iar dacă totul merge prost, măcar vom avea satisfacția că am participat la cea mai scumpă demonstrație de optimism din istorie.