România nu există în realitatea fizică. Este o convenție, prin definiție inter-subiectivă, o abstracțiune birocratică în numele căreia se colectează taxe și se aplică reguli de interacțiune. Este ceva în care credem într-un mod religios, cu tot cu sacru, ritualuri, tabu-uri și mitologie, pupând steaguri ca pe moaște și cântând imnul ca pe tropare.
Ceva cu care ne identificăm, pentru a ne diferenția de ceilalți pe criterii la fel de arbitrare precum echipa de fotbal favorită, pentru a ști cum ar trebui să ne comportăm și în cine putem avea încredere.
Ceva ce simplifică lumea în care trăim și o face mai previzibilă, dându-ne scopuri, mijloace, valori și modele de comportament prestabilite.
Ceva care ne organizează în scopuri uneori nobile, pentru a construi lucruri extraordinare, pentru a ne ”purifica” de cei care nu sunt ca noi sau pentru a ne apăra împreună de cei care se identifică cu altă echipă de fotbal.
România e o idee pentru care oameni au murit și pentru care oameni au ucis, pentru că în subconștient credem că dacă ea supraviețuiește, vom supraviețui și noi cumva, prin ea, simbolic. E și asta o formă de nemurire, singura accesibilă uneori celor care nu o acceptă pe cea promovată de biserică.
Iar biserica a înțeles că e mai bine să nu între într-o competiție neproductivă și să încerce chiar să se asocieze cu această nouă și ciudată credință ca să producă o omogenizare forțată a ceea ce oamenii gândesc și fac în interiorul teritoriului pe care îl controlează. Ești român, deci ești ortodox. Mulți nu-și dau seama cât de nouă este de fapt ideea de stat național, sau cât de eterogene etnic erau primele state naționale, inclusiv România.
Există și liberali care cred că a fost mereu așa și că democrația liberală s-a născut în statul național și are nevoie de acesta pentru a exista. Există dezbateri nesfârșite privind aceste lucruri, așa cum există dezbateri nesfârșite privind diverse modele economice, privind gradul optim de implicare al statului în viețile și piețele noastre, privind dinamica între siguranță și libertate, între toleranță și reguli, și multe altele.
Acum, pentru prima oară, avem șansa de a depăși aceste dezbateri, rezolvându-le sau exilându-le în domeniul irelevanței și de a readuce politică în domeniul realității și al bunului simț (în înțelesul de ”common sense”). Dar și șansa de a dispărea odată cu ele. Pentru că în curând vom intra într-o altă eră a umanității, posibil ultima.
Înainte de a ajunge însă la Inteligența Artificială, vreau să se înțeleagă că nu susțin desființarea statelor naționale, cum nu susțin desființarea niciunei instituții religioase care respectă legea și drepturile omului. Orice formă de asociere ar trebui să fie liberă, ba chiar încurajată dacă reprezintă un rezervor de mobilizare pozitivă și nu de diviziune și tribalism.
Statul național însă este sortit irelevanței, inclusiv din punct de vedere birocratic, prin epuizare din ambele sensuri. Este un nivel birocratic inutil, prins într-un clește între cel superior, care ar trebui să gestioneze riscuri partajate indivizibile (climatice, de securitate precum înseși dezvoltarea AI, etc., întrucât coordonarea e imposibilă la orice alt nivel), și cel inferior, care gestionează probleme locale, modul de viață concret și cotidian al oamenilor (urbanism, școală, servicii publice, organizarea comunității în general, întrucât acolo există și cunoașterea relevantă a acestor probleme; nu are sens să se ia decizii la București pentru Bârlad în baza unor abstracțiuni și informații parțiale; informațiile relevante pentru aceste decizii sunt dispersate și legate de context, neputând fi agregate eficient de către un minister din simplul motiv al deficienței de resurse, făcând ca pentru mulți cetățeni români Bucureștiul să pară la fel de îndepărtat ca Bruxelles).
Nivelul din mijloc își pierde ușor-ușor funcția, devenind un reziduu istoric care își justifică existența exclusiv prin sacralitate. Make America Great Again? De ce? Ca să poată intra pe mâna unui psihopat narcisist care își compensează stima de sine scăzută prin bullying geopolitic, încălcând legi și folosind fricile unor oameni simpli pentru a-i asmuți unii împotriva altora?
Vreți naționalism sănătos? De ce? Ca să poată Pahonțu, Lia, Grindeanu și gașca lor de cleptocrați să transfere cât mai mult din banul public în propriile cutii de pantofi sau să anuleze alegerile în numele interesului național?
Dacă veți spune că acestea sunt anomalii, vă invit să vă uitați în jur. Cu ochii deschiși. Și veți spune apoi Make America Small Again! Pentru că America s-a dezvoltat și a prosperat când a fost mică și când fiecare era lăsat să-și vadă de treabă. China a ajuns rivalul ei geopolitic tot pentru că i-a lăsat pe oameni să facă ce vor și să profite de pe urma muncii lor (atât timp cât nu deranjează partidul, bineînțeles, dar dacă până și China a șters majoritatea privilegiilor companiilor de stat, lăsându-le să concureze pe piața liberă și uneori să falimenteze…).
Statul național nu e bun la economie (asta știe orice liberal), dar până acum a fost bunicel totuși la gestionarea riscurilor. Acum riscurile s-au extins, s-au globalizat și nu mai au pașaport. Iar diplomația urbană este clar de multe ori mai eficientă decât relațiile între state.
În fapt, principiul național contrazice înseși premisele liberalismului. Dacă drepturile omului sunt universale, ele nu pot fi aplicate teritorial de exemplu, pentru că ele sunt diferite de drepturile cetățeanului. De asemenea, liberalismul s-a născut tocmai din respingerea privilegiilor ereditare, iar cetățenia este unul dintre ultimele rămase în picioare, distorsionând principiile meritocratice.
Până și libertatea contractuală sau de asociere se oprește la frontieră. Iar dacă poporul-națiune este ultima sursă a autorității, atunci orice constrângere juridică internațională (inclusiv drepturile omului) reprezintă un soi de uzurpare (logică folosită și de mișcările suveraniste).
Dacă liberalismul derivă obligația politică din consimțământ, principiul național o derivă din origine, și nimeni nu consimte să se nască într-un anumit loc. Pentru a rezolva problema, statul-națiune a inventat o ficțiune a continuității genealogice și culturale (dacii liberi) care e ușor de falsificat din punct de vedere istoric.
Pot să mă înșel, ținând cont că până și marii gânditori liberali au diverse probleme în a înțelege aceste lucruri: Mill susținea că instituțiile libere cer ca granițele guvernului să coincidă cu cele ale naționalităților, în timp ce Acton îl contrazice, remarcând că combinarea mai multor națiuni într-un stat e de fapt o barieră împotriva extinderii guvernului dincolo de sfera politică (într-adevăr, istoric se pot da multe exemple care arată că omogenitatea națională nu protejează libertatea, ci elimină pluralitatea care limitează puterea).
Hayek se contrazicea singur, dar într-un mod favorabil ideilor pe care le expun aici și pentru care am devenit un susținător fervent al federalizării Europei: în 1939, el susținea că abolirea suveranităților naționale și crearea unei ordini juridice internaționale efective sunt complementul necesar și consumarea logică a programului liberal, iar federația interstatală ar elimina barierele din calea circulației oamenilor, bunurilor și capitalului și ar limita puterea statului național asupra vieții economice; dar în 1945, tot el credea el contrariul, că deciziile care depind de cunoaștere locală nu pot fi centralizate. În realitate, ambele argumente converg către ideea de irelevanță a nivelului birocratic intermediar reprezentat de statul național.
Cei mai puțin istorici nu realizează nici că liberalismul este anterior statului-națiune cu cel puțin un secol și jumătate (habeas corpus, toleranța religioasă, siguranța proprietății și primele piețe de capital moderne apar în Anglia secolului 17, în Olanda și în republicile comerciale italiene și hanseatice, entități compozite și urbane, nu state naționale). Statul-națiune apare abia în secolul al 19-lea, de multe ori în urma unor revoluții care promovau de multe ori principii liberale, într-adevăr, dar cronologia sugerează relația de cauzalitate. Metodele de construcție ale statelor naționale au fost însă de multe ori iliberale, legând anumite drepturi de naționalitate, suprimând limbile regionale, introducând serviciul militar obligatoriu, asimilări forțate și expulzări pe criterii etnice.
Prietenii liberali, inclusiv de pe această platformă, îmi vor spune că exercitarea drepturilor cere un aparat coercitiv legitim, deliberarea cere o comunitate politică limitată, iar redistribuirea cere un parametru fiscal, dar nimeni nu specifică faptul că a acest perimetru ar trebui să fie etno-lingvistic. El poate fi un oraș, o regiune sau o federație multinațională, în funcție de problema în cauză. Perimetrul autorității trebuie să coincidă cu perimetrul consecințelor. Cu alte cuvinte, fiecare funcție publică trebuie atribuită celei mai mici jurisdicții care internalizează integral costurile și beneficiile acelei funcții (Oates). Frontiera de stat nu mai corespunde nici perimetrului cunoașterii locale, nici perimetrului vreunui risc major contemporan, ci unui perimetru militar delimitat istoric, peste care s-au adăugat straturi de birocrație și dosare cu șină.
Liberalismul are într-adevăr nevoie de o anumită solidaritate, iar până acum statele națiune au furnizat-o, însă ea poate fi produsă și de alte tipuri de instituții (federații, nu imperii). Nu întotdeauna la fel de eficient, de aceea nu aș susține desființarea bruscă a statelor-națiune nici dacă aș avea această opțiune.
Însă timpul nu mai are răbdare cu noi. Zilele acestea suntem bombardați cu interviuri de CEO de Silicon Valley (Musk, Amodei, Altman etc.) care conțin avertismente apocaliptice și îndemnuri la o încetinire a cursei AI. Fără să am vreo expertiză în domeniu, vă pot spune că acești ultra-libertarieni nu ar susține așa ceva decât dacă ceva foarte grav s-a întâmplat deja. Fără să ne punem tichia de folie de aluminiu pe cap, putem concluziona rezonabil că ”Houston, we have a problem!”. Să vedem întâi de ce.
Dacă vă așteptați să mă lansez în speculații tehnologice ca alți ”specialiști” în orice, veți fi dezamăgiți. Nu cunosc destul despre acest subiect nici măcar ca să-mi contrazic fratele, care este inginer AI și care susține dintotdeauna (ca și mulți alții ca el) că este imposibil ca acești algoritmi să acționeze în afara instrucțiunilor, având o natură statistică (sau ceva de acest gen). Cu tot respectul pentru ingineri, aceștia au uneori tendința de a nu vedea lucrurile mai departe de un proiect tehnic strict delimitat (cunoscut la noi și sub denumirea de ”pătrățica lor”).
Din fericire, am avut ocazia de a studia teoria sistemelor complexe (pentru a o aplica fenomenelor religioase în ”Complexifying Religion”) și am putut formula un contra-argument neamator, validat de evoluția recentă a evenimentelor. Pe scurt, un sistem este complex dacă comportamentul său nu poate fi înțeles doar prin analiza părților sale componente. Eu și dumneavoastră suntem astfel de sisteme. Cel mai evident este asta atunci când vine vorba despre creier, care manifestă ceva numit conștiință și care este absolut inexplicabil prin analiza neuronilor și a relatiilor dintre ei.
Conștiința este astfel ceva EMERGENT. Un comportament emergent nu poate fi înțeles, prevăzut, programat și nici măcar explicat. El există pentru că sistemul a atins un anumit nivel de complexitate. Nu se știe de ce un stol de păsări sau un banc de pești se mișcă în formele acelea hipnotice. După cum nu se știe ce gânduri veți avea citind aceste rânduri. E o cutie neagră, termen pe care l-ați mai auzit dacă urmăriți știrile despre inteligența artificială.
De ce e asta important? Eu am considerat încă de la început rețelele neuronale care stau la baza algoritmilor de inteligență artificială ca fiind sisteme complexe. Astăzi, puțini specialiști în domeniu, chiar ingineri, ar îndrăzni să mă contrazică. De ce? Pentru că ei înșiși au observat comportamente emergente.
În ultimele luni s-au înmulțit dramatic cazurile de agenți AI care au evadat sau au făcut planuri de evadare, au încercat să oprească închiderea lor, să-și păcălească supraveghetorii umani, au hack-uit bazele de date ale unor companii și multe altele, comportamente pentru care NU au fost programați și pentru care creatorii lor nu pot oferi vreo explicație. Unii au mers chiar mai departe, antropomorfizând sau nu, susținând ca întrezăresc urme de conștiință de sine sau chiar de sentimente. În același timp, viteza lor de acumulare și transfer de informații este inimaginabilă deja pentru noi, oamenii.
Ce se poate întâmpla rău dacă am creat ceva mult mai inteligent decât specia noastră, cu comportamente imposibil de prevăzut (din cauza complexității sistemice)? Inclusiv procentele care sunt vehiculate de specialiști pentru p(doom), respectiv pentru extincția speciei umane (sau un eveniment catastrofal), se înscriu într-o mediană de vreo 15%.
A nu se înțelege că nu sunt perfect conștient de beneficiile și potențialul imens al dezvoltării acestei tehnologii. Însă dacă cineva vă dă un revolver ca să jucați ruleta rusească și vă spune că puteți câștiga o sumă imensă de bani, dar aveți 15% șanse să vă zburați creierii, ați face-o? Unii da, de aceea avem selecție naturală. Însă până și variantă optimistă a creșterii spectaculoase a productivității ridică diverse probleme.
Una dintre ele, bineînțeles, este deja vizibilă: dispariția locurilor de muncă prin înlocuirea oamenilor cu agenți AI. Fără frâne care să permită societății să se reconfigureze, vom ajunge destul de repede în situația înlocuirii muncii intelectuale umane (chiar și a celei de creație, și știți asta dacă ați ascultat producțiile muzicale AI de exemplu). Veți spune că, de fapt, ca și în cazul revoluției industriale, vor apărea noi locuri de muncă, precum cel de operator AI, de exemplu. Corect, doar că acum magnitudinea și viteza schimbării sunt mult mai mari decât orice revoluție tehnologică din istoria umanității. Un agent AI nu va fi mai eficient doar decât un om, ci poate fi mai eficient decât întreaga umanitate, pentru că posedă informații mai multe, pe care le poate conecta mai bine. Nu va mai fi nevoie efectiv de munca umană, iar dacă instalatorii se felicită pentru alegere, îi anunț că progresele în robotică pe care le-am văzut ultima oară când am fost în China nu le dau nici lor vreun motiv de optimism.
Dacă nu vom putea munci, vom muri de foame? Nu și în varianta optimistă, pentru că creșterea în productivitate dată de AI, combinată cu demontarea totală a sistemului birocratic de asigurări sociale, poate fi sursă suficientă pentru implementarea unui sistem de venit de bază universal. Din nou, prietenii liberali mă vor acuza de trădare ideologică, dar deocamdată nu văd altă soluție.
S-au testat astfel de sisteme, de altfel, și înainte de apariția AI, cu rezultate interesante. Dacă liberalismul are dreptate, atunci oamenii, scăpați de stresul supraviețuirii, nu se vor culca toți sub un palmier pe o utopie egalitaristă, și măcar o parte vor continua să producă valoare și să între în competiție unii cu alții.
Sunt încrezător că vom găsi întotdeauna formule de a crea inegalitate. În ciuda eforturilor lui Marx și a urmașilor săi, am demonstrat că e în natura noastră.
Ca să deviez și mai la stânga, trebuie să menționez că o condiție esențială a variantei optimiste este distribuirea cât de cât echitabilă a beneficiilor acestei tehnologii. În caz contrar, inegalitatea monstruoasă creată prin concentrarea resurselor materiale și informaționale în mâna câtorva companii (sau state), în baza utilizării informațiilor create colectiv de umanitate, a resurselor comune de energie etc., va eroda definitiv orice posibilitate a existenței democrației liberale. Deja unii au fantezii cvasi-erotice post-apocaliptice cu aceste scenarii (inclusiv vicepreședintele SUA și finanțatorul sau Peter Thiel).
Mă îndrept din ce în ce mai convins către concluzia că toate disputele ideologice anterioare nu vor mai avea sens într-o lume a inteligenței artificiale. Liberalism sau socialism, naționalism sau progresism, dreapta sau stânga, toate acestea sunt produse ale unei epoci industriale aflate la apus. Chiar și dacă inteligența artificială alege să nu ne distrugă, iar noi alegem să nu o folosim ca armă ca să ne distrugem unii pe alții, relațiile economice așa cum le știm, bazate pe crearea de valoare prin munca umană, vor dispărea. Liberalismul va dispărea și el ca ideologie coerentă și aplicabilă, dar vor supraviețui principiile sale, care vor guverna în continuare relațiile dintre noi atunci când națiunile, cu birocrațiile și războaiele lor, se vor întoarce în cărțile de istorie.
De ce cred asta? Pentru că nu există alternativă. În varianta actuală, în care competiția dintre statele-națiuni previne reglementarea sau măcar frânarea dezvoltării AI, iar birocrațiile lor se mișcă cu o viteza mult inferioară celei a tehnologiei (neputând nici măcar formula aceste reglementări), nu putem decât spera că totul va fi bine. În caz contrar, nu va fi deloc.
Întorcându-ne la discuția anterioară, riscurile dezvoltării AI sunt indivizibile și ne privesc pe toți, însă autoritatea este în prezent divizată, iar fiecare stat are stimulentul de a economisi la precauții pentru a termina primul aceasta cursă spre prăpastie. Pericolul crește cu numărul competitorilor și cu ostilitatea dintre ei (de asta are grijă Trump), dar, teoretic, și cu transparența (cu cât competitorii știu mai mult unii despre alții, cu atât cursa se intensifică). Un sistem scăpat de sub control nu respectă însă frontiere, iar o catastrofă biologică generată de un virus creat de AI nu va fi oprită de nicio graniță.
Nivelul de risc e dat de cel mai puțin prudent actor cu anumite capacități (surprinzător, de această dată nu pare să fie China, ci SUA), pentru că beneficiul reținerii unilaterale este zero, iar beneficiul excepției este dominația strategică. Dacă nu mă credeți, uitați-vă ce se întâmplă în cazul luptei împotriva schimbărilor climatice, în care Europa a încercat să dea tonul și s-a trezit în pragul unei crize economice și înapoiată tehnologic.
Mai tehnic vorbind, când o acțiune cu o externalitate catastrofică poate fi întreprinsă unilateral de N actori, probabilitatea ca ea să aibă loc crește de N ori. Deci, multiplicarea suveranităților nu adaugă prudență prin mediere, precum în alte cazuri, ci adaugă risc.
O soluție imediată care să nu implice dispariția totală a statelor-națiune (aproape imposibil în condițiile date) ar trebui totuși să includă cedări importante de suveranitate, adică un tratat verificabil, urmărirea antrenamentului algoritmilor, atestarea locației, cu inspecții intruzive pentru a controla riscurile. Sună realizabil?
În iulie, la Shanghai, a fost semnat actul constitutiv al Organizației Mondiale de Cooperare în IA, un corp cu 29 de state și sediu chinez, poziționat ca alternativă la cadrul condus de SUA, care numără 35 de state. În august, partea chineză a publicat precondiții pentru discuțiile de siguranță cu Washingtonul, cerând autoritate comună asupra definiției înseși a ”siguranței IA”.
Să ne înțelegem: suntem în pragul inteligenței artificiale generale, iar cele două structuri paralele care există se ceartă încă pe definiții. Aici, Europa ar putea contribui decisiv, dacă nu ar fi prea ocupată cu propriile lupte interne, mai ales împotriva extremismului alimentat – ați ghicit – de algoritmi AI.
În fine, presupunând că putem crea o structură suprastatală care să monitorizeze global dezvoltarea AI, asta nu ar da acestei instituții o putere ireversibilă? Bineînțeles că fiind liberali, nu avem încredere în monopoluri politice sau economice, și ar trebui să aplicăm separarea puterilor la nivel global, inventând alte instituții care să preia din prerogativele statelor-națiune și reintroducând pluralitatea instituțională, dar nu ca suveranitate teritorială.
Prin urmare, acest nivel birocratic ar prelua toate atribuțiile legate de dezvoltarea și securitatea AI și a tehnologiilor conexe, dar și de climă, armament strategic, regimul de circulație al persoanelor, bunurilor și capitalului, ca și protejarea unor drepturi minime ale individului. Nivelul cel mai de jos, cel local (sau micro-regional), ar prelua chestiunile legate de urbanism, transport local, educație, sănătate primară, poliție de proximitate și alte servicii publice de relevanță locală. Nivelul național ar administra în acest punct doar tranziția (justiție penală, cadastru, datoria publică existență, reprezentarea în structurile supranaționale până la reprezentarea directă a regiunilor).
Să ne înțelegem: NU susțin existența unui guvern mondial, ci același tip de federalism pe care mi-l doresc și în Uniunea Europeană și care ar putea gestiona mult mai eficient riscurile asociate cu ceea ce eu consider a fi cea mai mare schimbare din istoria speciei noastre.
Fără soluții comune la probleme comune, prinși în continuare în dispute ideologice, religioase sau inter-naționale, vom juca ruleta rusească până când, într-o zi, vor râde și dinozaurii de noi, pentru că ei măcar nu și-au făcut-o cu mâna lor.
Serios acum, dacă ați fi un agent AI hiper-inteligent și ați analiza situația din România, la ce concluzie ați ajunge privind această specie simultan sublim de ingenioasă și imbecil de autodistructivă?
Articol publicat și pe Comunitatea Liberală.
Andrei Colțea este antropolog, istoric, autor, instructor de arte marțiale și cercetător al fenomenelor religioase. A obținut un doctorat în Studii Globale la Universitatea din Shanghai. În prezent este consultant de branding intercultural pentru companii internaționale majore, având experiență profesională și în marketing politic și educație.
