Ziare.com

Cum poate banala agrafa de birou sa distruga lumea. Parabola care ne arata care este problema cu Inteligenta Artificiala

de Camelia Sisea
Luni, 31 Decembrie 2018, ora 12:00

   

Cum poate banala agrafa de birou sa distruga lumea. Parabola care ne arata care este problema cu Inteligenta Artificiala
Un experiment mintal deseori invocat in lumea Inteligentei Artificiale foloseste prozaica agrafa de birou pentru a demonstra cum un algoritm, adica un set de reguli, creat fara nicio intentie rauvoitoare, poate ajunge sa distruga omenirea.

Este propus urmatorul exercitiu de imaginatie, detaliat de Quartz: un grup de programatori realizeaza un algoritm inteligent cu un scop aparent nevinovat: sa adune cat mai multe agrafe de birou posibil. Este un algoritm de tip machine-learning, ceea ce inseamna ca invata din experienta si devine din ce in ce mai bun la realizarea activitatii pentru care a fost creat.

Va incepe probabil prin a cumpara agrafe din magazinele de papetarie, pana cand va epuiza stocurile. Intre timp, va fi realizat ca agrafele se pot rataci usor - le va cauta astfel pe sub birouri sau pe fundul sertarelor. La un moment dat, nu va mai gasi nicio agrafa. Va invata atunci sa le faca singur, mai intai din obiecte aflate la indemana, cum ar dintii furculitelor, si ar putea sa ajunga in cele din urma sa prefaca orice bucata de metal din lume in agrafe de birou, stergand omenirea de pe fata pamantului si transformandu-ne planeta, poate si o parte din spatiu, intr-o gigantica fabrica de agrafe de birou.

Acest scenariu poate caraghios in exagerarile sale, cunoscut sub denumirea de "Maximizator de agrafe de birou" (Paper Clip Maximizer), este menit sa demonstreze ce se poate intampla cand o astfel de tehnologie se dezvolta necontrolat: oamenii pot crea Inteligenta Artificiala care sa o imite si chiar sa o intreaca pe cea umana, insa marea provocare este aceea de a o inzestra si cu o motivatie de tip uman.

Cardul de masa Up Dejun este versiunea moderna si simplificata a tichetului de masa. Ai 0 lei costuri la emiterea cardurilor si economisesti pana la 37% fata de o crestere salariala in bani. Afla mai multe AICI!

Parabola ii este atribuita filozofului Nick Bostrom, profesor la Universitatea Oxford si autorul cartii "Superinteligenta", numit de The New Yorker "filozoful sfarsitului lumii" ca urmare a preocuparilor sale pentru urmarile situatiei in care un computer devine superinteligent.

"Este foarte posibil sa avem o superinteligenta al carei unic obiectiv este ceva complet arbitrar, precum fabricarea a cat mai multe agrafe de birou posibil si care se va opune cu toata forta sa oricarei incercari de a impiedica atingerea acestui obiectiv", a scris Bostrom in 2003.

Esecul de a inzestra aceasta superinteligenta cu etica si valorile umane poate avea drept consecinta "transformarea mai intai a intregului Pamant, apoi a unor zone din ce in ce mai vaste din spatiu in fabrici de agrafe de birou". Alegoric vorbind.

Nu se pune problema stoparii progresului pentru a preveni materializarea unor asemenea scenarii, dar este ridicata importanta unei reglementari adecvate.

Intr-o lume in care tehnologia avanseaza cu celeritate, tot mai multe voci atrag atentia ca este mai important ca oricand sa vorbim de responsabilitate algoritmica - conceptul potrivit caruia companiile trebuie sa isi asume responsabilitatea pentru rezultatele algoritmilor creati de ele.

Algoritmii sunt creati de oameni si, ca orice produs creat de oameni, pot prezenta erori, rezultate fie din neatentie - ca atunci cand o masina autonoma Uber a trecut pe rosu, fie din lipsa de impartialitate - si aici ne vine in minte exemplul in care software-ul de recunoastere faciala al Google, dezvoltat de o persoane reala, a etichetat persoane de culoare ca fiind gorile.

Resposabilitatea algoritmica presupune recunoasterea si rezolvarea unor astfel de probleme, prin masuri ca o mai mare transparenta, supervizare si o diversitate reala a echipelor care creeaza algoritmii. Si este important sa se actioneze acum, in faze incipiente, pentru ca mai tarziu, pe masura ce aceste tehnologii vor deveni mai avansate si mai raspandite, ar putea fi prea tarziu.


Urmareste Ziare.com si pe Facebook! Comenteaza si vezi in fluxul tau de noutati de pe Facebook cele mai noi si interesante articole de pe Ziare.com.

Sursa: Ziare.com

Articol citit de 27477 ori

Urmareste Ziare.com pe

Urmareste stirile Ziare.com pe Facebook
22 comentarii
Ordoneaza comentariile:Standard |Calitate |Numar Voturi |Recente

cind o asterni in Cuib, IA...invie!:)))))

Poate IA sa fie privita altfel decit la Brat cu Civilizatia? Nu poate, pentru ca Civilizatia e chiar cea care a Nascut IA.
A nascut-o, dar de ce-o fi nascut-o?!
pentru ca a putut s-o faca, daia!
Civilizatia intotdeauna Naste chestii, intotdeauna o face corelat cu Potentialul Disponibilizat, si intotdeauna o face corelat cu Sirul Fibonacci.
Cind n-o mai face in progresie Fibonacci, dispare din peisaj! E cimitirul plin cu Civilizatii incapabile sa se Dezvolte corelat cu Sirul Fibonacci, mai exact FIX CA NATURA! In fapt, asta ar fi prima Civilizatie care reuseste sa-si perpetueze Manifestarea!
Bine..., a beneficiat, ca acu nu mai beneficiaza, ca s-a cocotat in capul tuturor celorlalte Civilizatii, adica e mai tare decit toate!, de Experienta celorlalte Civilizatii!,invatind din Miscarile lor, ...e foaaaarte deosebita! in 3 cuvinte!

Civilizatia a Nascut IA pentru ca are nevoie de ea! Tre sa si-o asimileze in Ecuatia de Miscare, asta e clar!, tot atit de clar fiind si faptul ca e vorba de O Ecuatie de Miscare, prin urmare e vorba de un Intreg, prin urmare Globalizarea va muri!, fluturele care se naste din ea fiind chiar Unificarea! Deci IA e de folos in Unificare, ea daia s-a nascut, ca sa tina in friie Dinamicile Civilizatiei ! Aici treaba e duala, ca va tine in frau si manifestarea Dinamicilor Civilizatiei, dar si Ecuatia de Miscare a Civilizatiei!

Deci IA este o poveste a, cu, si despre Civilizatie! prin urmare daca va ingramaditi sa folositi IA in folos propiu, chit ca e vorba de state, aici!, o faceti degeaba, ca IA apartine, fiind chiar Nascuta de ea, Civilizatiei! Implineste tinte marete!

Se pot manifesta mai multe IA pe Pamant? Cum sa se intimple, domne, asa grozavie!:))), bineinteles ca se va manifesta doar o IA, pentru ca intotdeauna o IA va fi mai capabila, iar aia care e mai capabila le papa pe toate celelalte!, prin urmare pe Pamant se va manifesta O SINGURA IA! Ceea ce rezulta si din faptul ca traseul Civilizatiei este...spre Unificare!, dar si din faptul ca Unicul Foton care se manifesta in Univers e...doar unul!:)))

Deci fara Civilizatie nu putem vorbi, cu sens, despre IA.
Dar Civilizatia a mai nascut ceva, oarescum concomitent, a nascut CC( computerul cuantic )
CC e ceva extrem de complex, pentru ca, de fapt, CC ce face?! el leaga Miscari posibile exclusiv pe Granita Universului cu Miscarile Civilizatiei, legatura facind-o IA
care e Granita Creatiei? Unicul Foton!care e si referinta Absoluta a Creatiei!
prin urmare nu cu nave spatiale atingi Granita Universului, ci...Miscindu-te ca Fotonul! Practic trebuie sa 'te faci'foton, ca sa atingi Granita Createi!
care e treaba cu Unicul Foton?! pai el poarta Viata, adica...e Viu
treaba complexa, dar are Doua Fete, TOT TIMPUL si TOT SPATIUL

stai sa vezi distractie cind IA isi ia viata de pe Granita Universului!:)))

breeee, IA se va dovedi vie, cind o asterni in Cuib, adica in CC

 

 

Stormhost, buna dimineataza !

Imi permit o precizare :)
Inteligenta Artificiala este atunci cand grebla invata sa te plezneasca peste dinti si fara sa calci pe ea ;))))))))

 

 

Poezii - SF ...Spalat creiere ...ziare.com

Adevarat PC ...mai bun decat campionul mondial de sah
...dar PC sa invete din greseli ...sa imbunatateasca singur proprii algoritmi ...un deziderat f.f.indepartat

baieti ...daca scrieti un articol IT ...apeleti totusi la un ing.IT
...parerea mea ...serviti kko

votati ca fraierii
...succes
...

 

 

Iar?!

Mai oameni buni, faceti o mare confuzie: inteligenta nu e ca puterea fizica. E drept ca oamenii fac masini care pot cara mai mult decat ei cu bratele dar masinile ale sunt concepute de inteligenta umana. Inteligenta inseamna creativitate. O bucata amorfa din orice material cunoscut nu poate fi creativa. O masina, pentru a fabrica ceva, are nevoie de o idee, de un plan, de un program CREAT de om. O masina nu poate avea idei precum nu poate avea nici viziune inovatoare. Poate lucra mai mult, mai repede si mai bine decat un om dar pentru a face asta are nevoie de instructiuni si comenzi pe care nu si le poate da singura. Inteligenta asta artificiala de care se tot sperie unii e doar parghia lui Arhimede. Mai pe intelesul tuturor: grebla nu te plezneste peste nas pana nu calci pe ea. Altfel sta linistita la locul ei.

 

 

Ideal ar fi sa fie angajati cativa dezvoltatori

din astia de software si sa fie platiti ca la noi cu 400 euro, cat in Vietnam. Iar analfabetii care nu stiu nici sa deschida un calculator sa ocupe functiile de sefi si sa castige de cateva ori mai mult. In plus sa isi aduca si rudele care le seamana.
Si nu in ultimul rand sa fie un salariu minim pentru toti, doar sunt tot oameni indiferent de educatie si evolutie si toata lumea e egala...

 

 

Buna dimineata MacGigi!

Ceea ce, evident, nu se va intampla in veci, ai dreptate. Fiind dezvoltator AI, mă străduiesc să fac lumină pentru cei care nu cunosc domeniul.

 

 

Vad ca vorbim de credinte...

...si e grav sa vad acest lucru sustinut de programatori.
Machine learning este un lucru clar si ce nu ati inteles este ca noi nu intelegem dece suntem cum suntem. Din acest motiv nu vom sti prea curand ce ar trebui sa facem sa obtinem o personalitate. Dar subiectul nu este obtinerea unei personalitati ci crearea unei AI capabile de realiza multe pentru un scop insuficient definit (de exemplu limitarea productiei la necesar). Daca faci asta si masina are destula putere sa se opuna celor care vor sa o impiedica, singurul final va fi ala descris. Caci masina aplica doar algoritmi. Nici macar mult AI nu-i trebuie.
Cat de proaste sunt AI...banuiesc ca nu aveti acces nici la Alexia, nici la Cortana , nici la Siri...si aia care au inchis cele doaua supercalculatoare cu AI care trebuiau sa discute au facut-o de prosti cand au inteles ca dupa cateva zeci de secunde masinile dezvoltau un nou limbaj de comunicare neinteligibil desteptilor de programatori care creasera acele AI...dar le stiti voi pe toate , ca ati citit in carti...Apropo, mi-ar place sa va citesc critica la primul roman scris de o AI sau la poeziile scrise de alta AI...ca sa nu mai vobbim de albumele cu muzica compuse de AI in mai multe tipuri de muzica inclusiv clasica...

 

 

@Costique: Vorbeam despre realitate

Nu vreau sa intru in polemica dar da, avem(nu eu) acces la SIRI si la celelalte. Doar noi(oamenii) le-am creat, nu le-am primit din cer. Ai uitat sa precizezi cine creeaza "algoritmii". "Discutia" intre doua masini e o bazaconie amuzanta si nu, nu exista limbaj secret intre masini ci doar necunoscatori pentru care SF-ul e mai interesant decat realitatea. Daca vreo masina poate face rau unui om e doar pentru ca un alt om a programat-o pentru asta. AI nu poate avea intentii. Nici bune, nici rele. MLP nu creeaza intentii si genereaza actiuni DOAR in baza cererii programului iar masina nu-si poate scrie singura programul. Concluzia e urmatoarea: Daca vreodata se va intampla asta, lumea va fi distrusa nu de AI ci de oameni inarmati cu AI.

 

 

...

limbajul ala de comunicare poate ca era pur si simplu o optimizare a chiar limbajului pe care-l asteptau programatorii!, dar folosind algoritmul disponibilizat chiar de catre programatori !

practic, robotii si-or fi armonizat 'comunicarea' cu 'algoritmul'. pare logic.

IA poate doar sa Copieze manifestari ale inteligentei umane.
Aici s-ar putea sa devina interesanta dinamica, pentru ca ea e ciclica. ce este a mai fost, ce-a fost va mai fi.
daca s-ar putea acoperi un Timp vast, o mie de ani, mai mult sau mai putin..., din 'ceea ce a fost' poate fi dedus 'ceea ce va fi', DOAR folosind inteligenta DEJA manifestata de catre om, cu o singura precizare: Inteligenta umana Copiata de catre IA sa se fi manifestat 'pe ultimul Nivel' !

De ce? Pentru ca Dinamica Fibonacci disponibilizeaza odata cu manifestarea unui nou Termen Fibonacci O NOUA VALENTA ! Altfel spus, inteligenta umana manifestata odata cu termenul F curent are cel putin o valenta in plus fata de inteligenta umana aferenta termenului F anterior.

Exista un Nivel al Dezvoltarii Fibonacci ( sa-i spunem: ultimul ) care disponibilizeaza Cunoastere despre chiar procesul Dezvoltarii Fibonacci !
Mai altfel spus, chiar Dezvoltarea Fibonacci naste Stiinta capabila sa puna pe masa Ecuatia Dezvoltarii Fibonacci, adica pur si simplu o Harta a Viitorului !

Acest nivel, adica Nivelul ultim, poarta cu sine si Inteligenta Omului, dar si o Copie a Inteligentei Omului, numita IA, care A DEVENIT, pe acest Nivel, capabila sa disponibilizeze SINGURA, fara a mai copia noi valente disponibilizate inteligentei umane, o Ecuatie a Dinamicii Fibonacci, adica o COPIE a Ecuatiei Dinamicii in Creatie ! Si mai altfel spus, acea NOUA VALENTA poate fi DEDUSA, folosind acelasi calapod, 'ce este a mai fost, ce-a fost va mai fi'.

Stiinta care va pune pe masa Ecuatia Dinamicii capabila sa genereze Dezvoltare Fibonacci se va numi Dinamica Fibonacci si va fi Stiinta acestui Secol!

Viitorul nu este necunoscut ! Despre cel mai indepartat Viitor exista Cunoastere: cel mai indepartat Viitor, adica Omega, este chiar Alfa, adica cel mai indepartat Trecut !

Prin urmare despre IA exista Cunoastere, stim la ce e buna si la ce anume e de folos: Nasterea unui Perpetuum Mobile. Adica a unei Ecuatii care sa copieze Dinamica Naturii, adica Dinamica Dezvoltarii Universului, adica Dinamica Fibonacci, pe care, ulterior, sa se Miste CIVILIZATIA.

Catre Infinit.Dar asta e o alta Poveste.( oare...?!)

 

 

Stormhost 11:51. Comentariul meu este o simpla

gluma :))) Cunosc bine domeniul AI. Cele mai distinse salutari :)

 

 

Gandesti ca o grebla. N-o sa fi nicioda in stare

inveti ceva.

 

 

,,,

habar n-am, dar ar trebui sa existe si algoritmi folositi in IA care identifica ...algoritmi si pe care, ulterior, ii introduce intr-un alt algoritm...etc
dar, una peste alta 'ce rezulta' e tot o Copie a Inteligentei Umane !

IA e seaca ! nici macar nu e o Inteligenta, Este doar o suma de manifestari ale Inteligentei umane.
IA nu e o Inteligenta, nu poate genera Noul ci doar ce-a mai fost, sau o alta haina, dar care imbraca tot ce-a mai fost !

 

 

Esenta algoritmului IA

IA are o Tinta.
Tinta IA va fi atinsa introducind un Algoritm intr-un calculator Cuantic.
Algoritmul este : 'ce este a mai fost, ce-a fost va mai fi'
Tinta este : Perpetuum Mobile

pentru atingerea Tintei sint necesare dinamici care se manifesta pe Granita Universului.
Calculatorul cuantic disponibilizeaza dinamici manifestate pe Granita Creatiei!

Calculatorul Cuantic umple TOT TIMPUL suprimind TOT SPATIUL( mai putin Definitiile Spatiului si Timpului, evident ), aceasta fiind 'o fata' a Granitei Universului.

Cealalta 'fata' fiind : 'umpli TOT Spatiul suprimind TOT Timpul', asa manifestindu-se 'unda' UNICULUI FOTON din Univers!

Pentru ca Granita Universului este Unicul Foton care se manifesta in Univers, iar cele doua 'fete' ale sale sint : Corpuscul si Unda.

 

 

Respect online, stormhost, MacGigi, Cosmin, programer2, Costique

Multumesc

 

 

Eu prefer "venitul minim garantat" pentru toata omenirea.

In tarile in care poti trai si fara sa muncesti, lumea inca doreste sa mearga la munca. Cu exceptia Romaniei, bineinteles. O fi bautura de vina. Sau Dragnea. Amindoua aburesc gindirea.

 

 

Prima   1   2   Ultima
Platforma pentru solutionarea online a litigiilor