Ziare.com

Cum poate banala agrafa de birou sa distruga lumea. Parabola care ne arata care este problema cu Inteligenta Artificiala

de Camelia Sisea
Luni, 31 Decembrie 2018, ora 12:00

   

Cum poate banala agrafa de birou sa distruga lumea. Parabola care ne arata care este problema cu Inteligenta Artificiala
Un experiment mintal deseori invocat in lumea Inteligentei Artificiale foloseste prozaica agrafa de birou pentru a demonstra cum un algoritm, adica un set de reguli, creat fara nicio intentie rauvoitoare, poate ajunge sa distruga omenirea.

Este propus urmatorul exercitiu de imaginatie, detaliat de Quartz: un grup de programatori realizeaza un algoritm inteligent cu un scop aparent nevinovat: sa adune cat mai multe agrafe de birou posibil. Este un algoritm de tip machine-learning, ceea ce inseamna ca invata din experienta si devine din ce in ce mai bun la realizarea activitatii pentru care a fost creat.

Va incepe probabil prin a cumpara agrafe din magazinele de papetarie, pana cand va epuiza stocurile. Intre timp, va fi realizat ca agrafele se pot rataci usor - le va cauta astfel pe sub birouri sau pe fundul sertarelor. La un moment dat, nu va mai gasi nicio agrafa. Va invata atunci sa le faca singur, mai intai din obiecte aflate la indemana, cum ar dintii furculitelor, si ar putea sa ajunga in cele din urma sa prefaca orice bucata de metal din lume in agrafe de birou, stergand omenirea de pe fata pamantului si transformandu-ne planeta, poate si o parte din spatiu, intr-o gigantica fabrica de agrafe de birou.

Acest scenariu poate caraghios in exagerarile sale, cunoscut sub denumirea de "Maximizator de agrafe de birou" (Paper Clip Maximizer), este menit sa demonstreze ce se poate intampla cand o astfel de tehnologie se dezvolta necontrolat: oamenii pot crea Inteligenta Artificiala care sa o imite si chiar sa o intreaca pe cea umana, insa marea provocare este aceea de a o inzestra si cu o motivatie de tip uman.

Cardul de masa Up Dejun este versiunea moderna si simplificata a tichetului de masa. Ai 0 lei costuri la emiterea cardurilor si economisesti pana la 37% fata de o crestere salariala in bani. Afla mai multe AICI!

Parabola ii este atribuita filozofului Nick Bostrom, profesor la Universitatea Oxford si autorul cartii "Superinteligenta", numit de The New Yorker "filozoful sfarsitului lumii" ca urmare a preocuparilor sale pentru urmarile situatiei in care un computer devine superinteligent.

"Este foarte posibil sa avem o superinteligenta al carei unic obiectiv este ceva complet arbitrar, precum fabricarea a cat mai multe agrafe de birou posibil si care se va opune cu toata forta sa oricarei incercari de a impiedica atingerea acestui obiectiv", a scris Bostrom in 2003.

Esecul de a inzestra aceasta superinteligenta cu etica si valorile umane poate avea drept consecinta "transformarea mai intai a intregului Pamant, apoi a unor zone din ce in ce mai vaste din spatiu in fabrici de agrafe de birou". Alegoric vorbind.

Nu se pune problema stoparii progresului pentru a preveni materializarea unor asemenea scenarii, dar este ridicata importanta unei reglementari adecvate.

Intr-o lume in care tehnologia avanseaza cu celeritate, tot mai multe voci atrag atentia ca este mai important ca oricand sa vorbim de responsabilitate algoritmica - conceptul potrivit caruia companiile trebuie sa isi asume responsabilitatea pentru rezultatele algoritmilor creati de ele.

Algoritmii sunt creati de oameni si, ca orice produs creat de oameni, pot prezenta erori, rezultate fie din neatentie - ca atunci cand o masina autonoma Uber a trecut pe rosu, fie din lipsa de impartialitate - si aici ne vine in minte exemplul in care software-ul de recunoastere faciala al Google, dezvoltat de o persoane reala, a etichetat persoane de culoare ca fiind gorile.

Resposabilitatea algoritmica presupune recunoasterea si rezolvarea unor astfel de probleme, prin masuri ca o mai mare transparenta, supervizare si o diversitate reala a echipelor care creeaza algoritmii. Si este important sa se actioneze acum, in faze incipiente, pentru ca mai tarziu, pe masura ce aceste tehnologii vor deveni mai avansate si mai raspandite, ar putea fi prea tarziu.


Urmareste Ziare.com si pe Facebook! Comenteaza si vezi in fluxul tau de noutati de pe Facebook cele mai noi si interesante articole de pe Ziare.com.

Sursa: Ziare.com

Articol citit de 27477 ori

Urmareste Ziare.com pe

Urmareste stirile Ziare.com pe Facebook
22 comentarii
Ordoneaza comentariile:Standard |Calitate |Numar Voturi |Recente

Stormhost, buna dimineataza !

Imi permit o precizare :)
Inteligenta Artificiala este atunci cand grebla invata sa te plezneasca peste dinti si fara sa calci pe ea ;))))))))

 

 

Poezii - SF ...Spalat creiere ...ziare.com

Adevarat PC ...mai bun decat campionul mondial de sah
...dar PC sa invete din greseli ...sa imbunatateasca singur proprii algoritmi ...un deziderat f.f.indepartat

baieti ...daca scrieti un articol IT ...apeleti totusi la un ing.IT
...parerea mea ...serviti kko

votati ca fraierii
...succes
...

 

 

Buna dimineata MacGigi!

Ceea ce, evident, nu se va intampla in veci, ai dreptate. Fiind dezvoltator AI, mă străduiesc să fac lumină pentru cei care nu cunosc domeniul.

 

 

Ideal ar fi sa fie angajati cativa dezvoltatori

din astia de software si sa fie platiti ca la noi cu 400 euro, cat in Vietnam. Iar analfabetii care nu stiu nici sa deschida un calculator sa ocupe functiile de sefi si sa castige de cateva ori mai mult. In plus sa isi aduca si rudele care le seamana.
Si nu in ultimul rand sa fie un salariu minim pentru toti, doar sunt tot oameni indiferent de educatie si evolutie si toata lumea e egala...

 

 

Iar?!

Mai oameni buni, faceti o mare confuzie: inteligenta nu e ca puterea fizica. E drept ca oamenii fac masini care pot cara mai mult decat ei cu bratele dar masinile ale sunt concepute de inteligenta umana. Inteligenta inseamna creativitate. O bucata amorfa din orice material cunoscut nu poate fi creativa. O masina, pentru a fabrica ceva, are nevoie de o idee, de un plan, de un program CREAT de om. O masina nu poate avea idei precum nu poate avea nici viziune inovatoare. Poate lucra mai mult, mai repede si mai bine decat un om dar pentru a face asta are nevoie de instructiuni si comenzi pe care nu si le poate da singura. Inteligenta asta artificiala de care se tot sperie unii e doar parghia lui Arhimede. Mai pe intelesul tuturor: grebla nu te plezneste peste nas pana nu calci pe ea. Altfel sta linistita la locul ei.

 

 

@Costique: Vorbeam despre realitate

Nu vreau sa intru in polemica dar da, avem(nu eu) acces la SIRI si la celelalte. Doar noi(oamenii) le-am creat, nu le-am primit din cer. Ai uitat sa precizezi cine creeaza "algoritmii". "Discutia" intre doua masini e o bazaconie amuzanta si nu, nu exista limbaj secret intre masini ci doar necunoscatori pentru care SF-ul e mai interesant decat realitatea. Daca vreo masina poate face rau unui om e doar pentru ca un alt om a programat-o pentru asta. AI nu poate avea intentii. Nici bune, nici rele. MLP nu creeaza intentii si genereaza actiuni DOAR in baza cererii programului iar masina nu-si poate scrie singura programul. Concluzia e urmatoarea: Daca vreodata se va intampla asta, lumea va fi distrusa nu de AI ci de oameni inarmati cu AI.

 

 

Vad ca vorbim de credinte...

...si e grav sa vad acest lucru sustinut de programatori.
Machine learning este un lucru clar si ce nu ati inteles este ca noi nu intelegem dece suntem cum suntem. Din acest motiv nu vom sti prea curand ce ar trebui sa facem sa obtinem o personalitate. Dar subiectul nu este obtinerea unei personalitati ci crearea unei AI capabile de realiza multe pentru un scop insuficient definit (de exemplu limitarea productiei la necesar). Daca faci asta si masina are destula putere sa se opuna celor care vor sa o impiedica, singurul final va fi ala descris. Caci masina aplica doar algoritmi. Nici macar mult AI nu-i trebuie.
Cat de proaste sunt AI...banuiesc ca nu aveti acces nici la Alexia, nici la Cortana , nici la Siri...si aia care au inchis cele doaua supercalculatoare cu AI care trebuiau sa discute au facut-o de prosti cand au inteles ca dupa cateva zeci de secunde masinile dezvoltau un nou limbaj de comunicare neinteligibil desteptilor de programatori care creasera acele AI...dar le stiti voi pe toate , ca ati citit in carti...Apropo, mi-ar place sa va citesc critica la primul roman scris de o AI sau la poeziile scrise de alta AI...ca sa nu mai vobbim de albumele cu muzica compuse de AI in mai multe tipuri de muzica inclusiv clasica...

 

 

Respect online, stormhost, MacGigi, Cosmin, programer2, Costique

Multumesc

 

 

...

limbajul ala de comunicare poate ca era pur si simplu o optimizare a chiar limbajului pe care-l asteptau programatorii!, dar folosind algoritmul disponibilizat chiar de catre programatori !

practic, robotii si-or fi armonizat 'comunicarea' cu 'algoritmul'. pare logic.

IA poate doar sa Copieze manifestari ale inteligentei umane.
Aici s-ar putea sa devina interesanta dinamica, pentru ca ea e ciclica. ce este a mai fost, ce-a fost va mai fi.
daca s-ar putea acoperi un Timp vast, o mie de ani, mai mult sau mai putin..., din 'ceea ce a fost' poate fi dedus 'ceea ce va fi', DOAR folosind inteligenta DEJA manifestata de catre om, cu o singura precizare: Inteligenta umana Copiata de catre IA sa se fi manifestat 'pe ultimul Nivel' !

De ce? Pentru ca Dinamica Fibonacci disponibilizeaza odata cu manifestarea unui nou Termen Fibonacci O NOUA VALENTA ! Altfel spus, inteligenta umana manifestata odata cu termenul F curent are cel putin o valenta in plus fata de inteligenta umana aferenta termenului F anterior.

Exista un Nivel al Dezvoltarii Fibonacci ( sa-i spunem: ultimul ) care disponibilizeaza Cunoastere despre chiar procesul Dezvoltarii Fibonacci !
Mai altfel spus, chiar Dezvoltarea Fibonacci naste Stiinta capabila sa puna pe masa Ecuatia Dezvoltarii Fibonacci, adica pur si simplu o Harta a Viitorului !

Acest nivel, adica Nivelul ultim, poarta cu sine si Inteligenta Omului, dar si o Copie a Inteligentei Omului, numita IA, care A DEVENIT, pe acest Nivel, capabila sa disponibilizeze SINGURA, fara a mai copia noi valente disponibilizate inteligentei umane, o Ecuatie a Dinamicii Fibonacci, adica o COPIE a Ecuatiei Dinamicii in Creatie ! Si mai altfel spus, acea NOUA VALENTA poate fi DEDUSA, folosind acelasi calapod, 'ce este a mai fost, ce-a fost va mai fi'.

Stiinta care va pune pe masa Ecuatia Dinamicii capabila sa genereze Dezvoltare Fibonacci se va numi Dinamica Fibonacci si va fi Stiinta acestui Secol!

Viitorul nu este necunoscut ! Despre cel mai indepartat Viitor exista Cunoastere: cel mai indepartat Viitor, adica Omega, este chiar Alfa, adica cel mai indepartat Trecut !

Prin urmare despre IA exista Cunoastere, stim la ce e buna si la ce anume e de folos: Nasterea unui Perpetuum Mobile. Adica a unei Ecuatii care sa copieze Dinamica Naturii, adica Dinamica Dezvoltarii Universului, adica Dinamica Fibonacci, pe care, ulterior, sa se Miste CIVILIZATIA.

Catre Infinit.Dar asta e o alta Poveste.( oare...?!)

 

 

,,,

habar n-am, dar ar trebui sa existe si algoritmi folositi in IA care identifica ...algoritmi si pe care, ulterior, ii introduce intr-un alt algoritm...etc
dar, una peste alta 'ce rezulta' e tot o Copie a Inteligentei Umane !

IA e seaca ! nici macar nu e o Inteligenta, Este doar o suma de manifestari ale Inteligentei umane.
IA nu e o Inteligenta, nu poate genera Noul ci doar ce-a mai fost, sau o alta haina, dar care imbraca tot ce-a mai fost !

 

 

inteligenta artificiala nu exsta

E o chestie de "Marketing". Exista programe foarte inteligent scrise incat sa simuleze inteligenta artificiala. Ca de exemplu: Casa inteligenta. Nu e casa inteligenta ci a conceput cineva un program care sa corespunda catorva posibile scenarii. Normal , cand vrei sa iti vinzi produsul spui: "casa inteligenta" , ca daca ai spune: "posibile scenarii prescrise" nu ar fi asa de tentant de cumparat.

Greseala e ca pasionatii de beletristica , care nu inteleg tehnica, aud termenul de "inteligenta" artificiala inteleg altceva si apoi incep si scriu beletristica ... ca daca , ca parca, ca poate, ca sigur vor fi mai inteligente masinariile decat oamenii.

E exact ca la magicienii , unii inteleg ca e un truc altii cred ca sunt puteri supranaturale.

Deci nu exista inteligenta la masini/programe exista doar executia unui program si atat.

 

 

Stormhost 11:51. Comentariul meu este o simpla

gluma :))) Cunosc bine domeniul AI. Cele mai distinse salutari :)

 

 

Esenta algoritmului IA

IA are o Tinta.
Tinta IA va fi atinsa introducind un Algoritm intr-un calculator Cuantic.
Algoritmul este : 'ce este a mai fost, ce-a fost va mai fi'
Tinta este : Perpetuum Mobile

pentru atingerea Tintei sint necesare dinamici care se manifesta pe Granita Universului.
Calculatorul cuantic disponibilizeaza dinamici manifestate pe Granita Creatiei!

Calculatorul Cuantic umple TOT TIMPUL suprimind TOT SPATIUL( mai putin Definitiile Spatiului si Timpului, evident ), aceasta fiind 'o fata' a Granitei Universului.

Cealalta 'fata' fiind : 'umpli TOT Spatiul suprimind TOT Timpul', asa manifestindu-se 'unda' UNICULUI FOTON din Univers!

Pentru ca Granita Universului este Unicul Foton care se manifesta in Univers, iar cele doua 'fete' ale sale sint : Corpuscul si Unda.

 

 

....ca tu esti mare iobag de lux.......sau mamulos p'acolo....

....las-o dreac cu spamu bre programmer7......
....cat despre sobiect....iar dati pussysme de-astea socialist....gen agrafa-armaghedon......

 

 

Gandesti ca o grebla. N-o sa fi nicioda in stare

inveti ceva.

 

 

Prima   1   2   Ultima
Platforma pentru solutionarea online a litigiilor