Inteligenta Artificiala, intre beneficii pentru statele puternice si scenariul Schwarzenegger Terminatorul Interviu

Inteligenta Artificiala redeseneaza o noua ordine mondiala, in care China si Statele Unite isi disputa suprematia, folosind insa doua paradigme total diferite, in functie de controlul pe care si-l aroga statul.

Folosita in diplomatie, la combatarea dezinformarii, dar si in cazuri mai hilare - exemplul Australiei, de asa-numita saracie indusa de IA - Inteligenta Artificiala creeaza inca anxietati sociale, de la inlocuirea oamenilor cu roboti care fac mai bine un job pana la scenariul Terminator, in care creatia se intoarce contra creatorului.

Corneliu Bjola este profesor de studii diplomatice la Universitatea Oxford si director al Oxford Digital Diplomacy Research Group si explica, in acest interviu pentru Ziare.com, in care dintre scenarii este omenirea si cum poate fi folosita inteligent Inteligenta Artificiala.

Inainte de a veni spre interviu, am citit o stire despre un robot care va fi trimis pe Statia Spatiala Internationala, care sa detecteze emotiile oamenilor si care sa-i ajute pe cei din echipa.

Inteligenta Artificiala a explodat, acum se lucreaza destul de intens in domeniile comercial, de sanatate si mai nou de securitate nationala, de diplomatie, de politica externa. Am remarcat de un an si jumatate ca de unde nu era nicio discutie, au aparut multe evenimente pe acest domeniu.

Termenul de Inteligenta Artificiala este folosit intr-un mod destul de elastic, in mai multe directii, si de aceea e bine sa clarificam termenii. Termenul ca atare e destul de vechi, din 1956-1957, de la catedra de Computer Science de la MIT, John McCarthy l-a consacrat. In literatura de specialitate au fost sezoane de optimism si pesimism, in functie de cum avansa tehnologia.

Au fost vreo cinci valuri care spuneau: "gata, acum e momentul", dupa care totul se estompa. Era greu din cauza capacitatii tehnologice de atunci, ne amintim de robotii din anii 70 din Japonia; abia in anii 90 a fost un breakthrough care a revolutionat domeniul de Artificial Intelligence.

Abordarea initiala era ca faci un robot pe care-l inveti niste reguli astfel incat el sa controleze regulile foarte bine, mai bine decat omul, exemplu clasic fiind Deep Blue, supercomputerul IBM care l-a batut la sah pe Garry Kasparov in 1997. Robotul respectiv fusese invatat regulile de sah, cum se muta piesele, si apoi folosind algoritmi de anticipare a mutarilor posibile, calculatorul a reusit sa castige.

Metoda asta in care se invata reguli e foarte anevoioasa, a necesitat multe linii de cod pentru a acoperi toate situatiile posibile, asa ca s-a renuntat treptat la ea. In ultimii 10-15 ani a aparut o noua abordare, nu se mai invata regulile ca atare, ci se incearca sa se dea masinii foarte multe exemple, astfel incat ea sa invete singura regulile. O pereche de date de intrare si de iesire, de exemplu uite cum se castiga si cum se pierde in diverse situatii la sah. Iar calculatorul "gandeste" singur regulile, iar aceasta legatura simbolica, conectionista, permite accelerarea invatarii.

Cand oferi multe date computerului, se obtine deep learning, iar calculatorul ajunge sa ia decizii de genul "pentru a ajunge de la A la B se pare ca asta e regula care trebuie aplicata". E si un dezavantaj aici, deoarece de multe ori nu poti sti cu exactitate ce anume invata, iar asta e o problema mare cu deep learning-ul. E foarte opac modul de a "gandi" al unui computer, iar asta poate crea probleme, de exemplu cand ai o situatie in care te bazezi pe IA, dar nu poti fi sigur de corectitudinea deciziei sale. Poti face "reverse engineering" pentru a intelege, dar e foarte greu.

In Australia se vorbeste de "AI induced poverty", adica de faptul ca cei care aplicau pentru ajutoare sociale li se calculau punctaje, si au fost cazuri bizare in care robotul nu doar ca nu le-a acordat acele drepturi, dar i-a mai si pus sa plateasca din urma cativa ani. Cand ai foarte multe date, deja nu mai ai control uman.

Acelasi lucru se intampla in China cand li se calculeaza punctaje celor care solicita credite, de exemplu.

Ca sa ma intorc la definitie, una data de "high level panel" al Comisiei Europene pe probleme de IA, aceasta este: un sistem care acumuleaza date, le proceseaza si analizeaza pentru a decide cel mai bun curs de actiune in functie de obiectivul care i s-a atribuit.

Este interesant sa facem si o clasificare. In ziarele de acum cateva zile era o stire despre o periuta de dinti cu IA.

Sunt trei niveluri de clasificare: ingust, general si superinteligent. In momentul de fata, cam toate sunt la nivelul ingust, fie ca vorbim de Alexa de la Amazon, de masina autonoma Tesla sau de Google Home. Sunt inguste pentru ca se axeaza pe o singura activitate. Alexa "vorbeste", in sensul ca iti ofera informatii, dar nu ar putea, de exemplu, sa scrie o carte. Ce-i drept, sunt foarte bune pe domeniul respectiv.

IA generala se refera la masini care fac lucruri la fel de bine ca noi: poate sa "stea de vorba", sa scrie o carte, sa ia taxiul, mai stiu eu. Pe scurt, sa existe un tranfer de cunostinte de la om la masina. La acest nivel se preconizeaza a se ajunge cam in 40-50 de ani.

Toata lumea se concentreaza insa pe a treia categorie, superinteligenta, care face lucrurile mai bine decat noi.

Acesta este scenariul Terminator, cand robotii ne domina, eventual ne si omoara pe toti. Exista o carte a lui Nick Bostrom, "Superintelligence", in care se vorbeste despre sisteme care pot performa in mod sistematic, in toate domeniile, mai bine decat noi. Sa gandeasca mai bine si mai rapid, sa proceseze mai rapid, in final sa obtina constiinta de sine, self awareness, adica sa se ia si pe sine in considerare cand ia o decizie.

Suntem insa departe de a ajunge acolo. Deocamdata la nivelul de IA ingusta vedem cum aceasta se dezvolta fenomenal de repede.

Dar care creeaza anxietati sociale, locul comun e sa spui ca robotul il va face pe om dispensabil, in sensul ca jobul sau poate fi preluat de catre un robot.

Exact catre aici ne indreptam, pentru ca e un proces de transformare extraordinar. Am cules, de pilda, pentru un studiu, tot felul de interviuri cu diplomati, oameni din ministerul de Externe din Scandinavia. Am cules vreo 50 de interviuri. Problema era ca trebuiau transcrise. Ca sa le transcriu, trebuia sa ma duc, sa angajez pe cineva, sa ii dau niste bani, dura vreo doua luni si apoi tot eu trebuia sa verific corectitudinea.

Ei bine, am gasit o aplicatie care mi-a facut toata treaba in jumatate de ora, cu 90% precizie. Intr-adevar, din cauza asta, persoana pe care ar fi trebuit sa o angajez a devenit inutila.

Trebuie o adaptare la aceasta siuatie.

Era un studiu al Comisiei Europene, pe cinci ani, care arata ca genul acesta de domeniu al Inteligentei Artificiale poate sa creasca, sa ofere la nivel global undeva intre 6,5 trilioane de euro pana la 12 trilioane, pe an. O economie fenomenala care se dezvolta. Cine se implica?

Acum cateva luni, s-a publicat un index, cine este pregatit pentru Inteligenta Artificiala. Romania este pe locul 55, daca nu ma insel, in termeni de a fi pregatita. Ei se uita la cateva domenii: capacitatea de guvernanta, viziunea, un sector educational bun, industria, chiar daca incipienta.

Pe primul loc, si nu m-a mirat, este Singapore. Pe urma, undeva departe sunt celelalte state.

Vorbim si despre o alta ordine mondiala, o recreare a marilor puteri in functie de alt criteriu, iata, Inteligenta Artificiala. Apare un nou clivaj intre state.

Creeaza un clivaj, pentru ca vorbim de o sursa de venit. Am fost la un eveniment acum cateva luni, in Berlin, si ideea era ce poate sa faca Europa in acest domeniu si concluzia era destul de deprimanta, pentru ca in domeniul IA, Europa sta foarte bine la strategie. Mi se pare ca si Romania, pe vremea lui Dancila, a facut o astfel de strategie.

Suna asa paradoxal.

Strategia e una, capacitatea e alta. Batalia, in momentul de fata, se poarta intre SUA si China in acest domeniu al Inteligentei Artificiale. Ei dezvolta si au doua modele diferite. China lucreaza la nivel de Guvern, care stabileste limitele la care companiile dezvolta toate aceste programe. In America, ai companiile mari - Google, IBM - dar care nu lucreaza cu Guvernul. Daca sunt granturi, se intampla.

Nu se transforma insa intr-un capital pentru stat.

Nu. Pentru companiile americane, sa ai o relatie foarte apropiata cu Guvernul e o chestie negativa pentru brand, nu ai siguranta ca datele tale nu ajung unde nu trebuie. In contextul acelei discutii de la Berlin, asta a fost concluzia, Europa nu e nicaieri, nu are capacitatea respectiva.

Acum am inteles ca noul presedinte al Comisiei Europene vrea sa stabileasca un fond suveran de vreo 100 de milioane de euro, care sa stimuleze genul asta de start-up-uri. Dar banii nu sunt totul, rusii au incercat de vreo doua ori sa replice Silicon Valley si de fiecare data au clacat. Banii nu sunt totul, e si o problema de capacitate.

Bun, si atunci Europa la ce e buna, ca sa poata contribui? E buna la sistemul de reglementari, a venit raspunsul. E o problema de dezvoltare de capacitate.

Sa ne gandim, de pilda, ca ai un Google romanesc sau un IBM romanesc. Pe care model mergi: modelul chinez sau modelul american? Daca mergi pe modelul chinez, dintr-o data, o astfel de institutie poate sa culeaga atat de multe date despre tine, pe care guvernul poate sa le foloseasca.

Asta e discutia: sa fim atenti pe ce cale mergem, pentru ca aceasta posibilitate a unui autoritarism digital da o putere enorma guvernului. In China, miza e si controlul social, politic.

De unde vine avantajul? In primul rand, e vorba despre volumul mare de date pe care le poti culege si procesa.

Am putea sti numarul exact al votantilor, e o ironie.

Al doilea lucru e viteza. Nu doar ca procesezi mult, dar procesezi rapid. Nu trebuie sa astept doua luni ca sa am transcrierile, in jumatate de ora s-a rezolvat. La un moment dat se ajunge la al treilea lucru, care e predictia, asta e stadiul aspirational, care mi se pare cel mai fascinant.

Darpa, care este agentia Departamentului de Aparare american, are multe proiecte si finanteaza idei din acestea iesite din comun. Internetul, in anii 1970, a venit printr-o astfel de finantare. Acum au lansat un proiect, care asta ar vrea sa obtina, sa proceseze multe date, nu neaparat conectate intre ele, dar unde algortimul sa poata sa faca conexiuni, astfel incat sa prezica, sa zicem, o criza sociala, o criza politica. Ei se lauda in momentul de fata ca ar putea sa faca treaba asta, sa prezica o criza in intrval de 3 - 5 zile.

Asta e insa fascinant: cum te adaptezi tu la realitatea care este modelata de predictii? Noi prezicem ce se va intampla, ne adaptam reflexiv la momentul respectiv.

Pe domeniul de politica externa devine foarte interesant: prezici o criza economica, te pregatesti pentru ea, o eviti. Dar sunt multe elemente contrafactuale aici - daca tu ai ocolit criza pentru ca ai prezis-o, dar ea nu s-a intamplat, in ce masura ai validitate?

In momentul de fata, aplicatiile sunt mult pe domeniul militar. Statele Unite conduc aici.

Vorbim de SUA, de China. E o alta ordine globala, in care Rusia nu prea pare ca joaca la nivelul asta?

Fac rusii chestii interesante, dar e foarte greu sa obtii informatii despre ce fac. Sunt cateva exemple pe ici, pe colo, am zis deja ca au incercat sa reproduca Silicon Valley si nu le-a iesit.

Ei sunt foarte interesati de acest domeniu, dar in termeni de capacitate nu sunt considerati de prim rang.

Nu imi dau seama daca e pentru ca ceilalti nu observa ce fac si la un moment dat te trezesti ca ei sunt avansati sau daca e faptul ca nu au capacitate sa lucreze pe acest domeniu.

China, intr-adevar, a accelerat acest lucru si incearca sa mareasca viteza.

Era, de pilda, o firma franceza care folosea o aplicatie pentru recrutare, primeau foarte multe CV-uri si au trecut peste asta, au zis: Nu mai trimiteti CV, trimiteti un clip de 15 minute, pe telefon, dar raspundeti la urmatoarele intrebari. Din cele 15 minute, extrag cam 30.000 de date bitsi. Algoritmul este sa identifice cine se apropie de candidatul lor ideal. Au o baza de referinta si apoi, in functie de acele date, fac selectia.

Un fel de profil dezirabil.

Problema e etica. Daca oamenii tai de succes sunt barbati albi, dintr-o data, algoritmul va elimina fetele.

Nu elimina si elementul de creativitate care, de fapt, face ca omeninerea sa se dezvolte in anumite feluri?

Asta se poate obtine.

Sa il incluzi in algoritm.

Sa gandeasca outside the box, asta poti sa faci.

Urmatoarea miscare, de pilda, in cazul ceasurilor inteligente, este sa iti detecteze emotia, ideea find ca acest fel de ceas poate sa sugereze, in cadrul unei conversatii, cum sa conduci discutia.

Am o colega care lucreaza pe zona de micro-expresii si a incercat sa aplice asta la Instagram, care e vizual.

In ce zone functioneaza IA si e folosita politic?

Sunt doua zone, una este pe dezinformare. Ceea ce face fabrica de trolli din Sankt Petesburg, de pilda, e mai usor de contracarat cu o masina din asta. Rusia iti inunda piata cu dezinfromare, de nu mai stii ce e adevarat si ce nu. Or, folosind aceasta masina - robot contra robot - recunosti si contracarezi dezinformarea.

Sunt domenii care nu pot sa faca fata la domeniul mare de dezinformare. Am citit un studiu, pe antisemitism - in 2016, au fost 382.000 de mesaje cu continut antisemit. Daca incerci sa le raportezi pe toate, dureaza cam trei ani.

Si apoi mai este zona de negocieri internationale. Imaginati-va ca stam la masa, reprezentam doua state si avem de negociat un acord comercial. Fiecare dintre noi are o echipa, care i-a pus in mapa informatiile si stim care e pozitia cu care mergem la negocieri, zona ideala in care ne putem pune de acord, zona mai grea si cea in care nu ne bagam, pentru ca e toxica pentru noi. Fiecare echipa face un raport si despre pozitia celorlalte echipe. Incepem negocierile si, la un moment dat, apare pe masa o idee care nu intra in rapoartele pregatite. O masinarie dotata cu IA poate sa proceseze pe loc si sa urmareasca dialogul si, din cand in cand, sa imi sugereze posibilitati.

Treaba nu e SF, e un prototip de masinarie din asta, facut de IBM, prezentat la Davos, in 2018.

Cum ar fi aratat lumea, putem face si un exercitiu de imaginatie, daca aveam masinarii inteligente la tratatele de pace la Versailles si Trianon.

Factorul uman la un moment dat intervine. Negocierile internationale sunt mai complicate, pentru ca acolo ai interesul national, interesul national e definit politic.

Computerul judeca rational, se aplica in sah foarte bine. Cand intervin lucruri definite politic si cu miza politica, factorul asta rational nu mai e asa bine capturat.

Testul pentru Inteligenta Artificiala in multe domenii va fi modul in care va reusi sa dovedeasca aceasta valoare adaugata.

Spaima e al treilea scenariu, ca aceasta masinarie va fi una golemica, se va intoarce contra creatorului.

Ne intoarcem la al treilea scenariu. Elon Musk, cand a infiintat aceasta fundatie a lui, a fost foarte critic. El e foarte constient si e unul dintre antreprenorii foarte implicati in tehnologie, un tehnofil. El a avertizat sistematic asupra lui "Schwarzenegger Terminatorul".

Pozitia lui e pragmatica: care sunt elementele care ma ajuta sa previn un astfel de scenariu, sa nu mai ia prin surpindere, cum m-a luat prin surprindere social media si de la Primavara araba am ajuns la Brexit si la alte nenorociri?

Una dintre intrebarile care mi se pun de catre studenti si mi se pare foarte interesanta e asta: Aceasta dezvoltare nu ne face cumva mai prosti? De pilda, ca sa scriu un articol am nevoie de un rezumat de idei, sa vad ce au mai scris altii. O masina poate sa imi faca treaba asta, si atunci eu nu mai fac pe cont propriu.

Anumite tari au infiintat deja un fel de institutie centrala care incearca sa impulsioneze domeniul asta de Inteligenta Artificiala - Finlanda, Estonia -, sa capitalizeze aceste eforturi intr-un mod cu viziune. Asta inseamna viziune, angajament politic, recrutare de talente.

Ideea e ca daca nu tu faci, ai putea ramane in urma si fortat sa folosesti regulilele altora, cum s-a intamplat, toti stau cu basca in mana la Facebook, pentru ca daca e o campanie impotriva lor, ei nu pot face nimic, se roaga de Facebook.

Ma gandesc la maparea electoratelor, mult mai bine decat o pot face institutele de sondare, care se lovesc si de alte mecanisme ale psihologiei sociale, incat sa livreze mesaje asteptate.

Avem sondajele. Asta e o intrebare etica. Era un caz, in Statele Unite, in care se vorbea despre cum sa foloseasca IA pentru a preveni manifestatiile anti-Trump. Daca eu prezic, e pentru a apara linistea publica sau vizez si alte efecte? De pilda, cum sa fac sa diluez miscarile tip Rezist?

Sunt niste institutii care trebuie sa gandeasca cum sunt integrate aplicatiile. Nu trebuie sa ne fie frica, sunt avantaje.

Am vorbit despre un sistem de educatie care sa iti permita sa ajungi la dezvoltarea programelor de IA. Romania nu arata bine in testarile PISA, care au creat valva si in alte state - in Germania, in Franta.

E o dezbatere care se practica si in SUA, si in Marea Britanie, toate lumea se plange de sistemul public de scolarizare.

Se vede din afara calitatea slaba a sistemului de educatie romanesc?

E o diferenta interesanta intre licee si universitati. Universitatile sunt cele care fac diferenta. Cu absolventii romani care aplica la Oxford nu as putea spune ca sistemul produce studenti de calitate slaba.

Temperatura ideală în casă: românii preferă să aibă între 22 și 24°C în locuințe STUDIU

Aproape jumătate dintre români susţin că temperatura ideală din locuinţă trebuie să fie cuprinsă între 22 şi 24°C şi chiar peste, în timp ce doar 3,8% susţin că se simt confortabil...

Google a concediat 28 dintre angajații care au protestat împotriva contractului cu guvernul israelian

Protestele angajaților la sediile Google din California și New York au avut consecințe grave. Demersul care avea ca scop anularea unui contract al companiei cu autoritățile din Israel a dus la...