Citate favorite (151) - Despre un mit special (1)
"Sau sa presupunem ca imprumutam limbajul biologiei (asa cum face atat de des IA)
si apoi declaram increzatori ca puterea de calcul nu involueaza, ci evolueaza. Daca
privim lucrurile in profunzime, acest argument e grevat din nou de o viziune inadecvata
si naiva asupra inteligentei. Problema - o flagranta omisiune - e ca NU avem dovezi
in lumea biologica, ca o entitate inteligenta a creat vreodata o versiune a ei mai
inteligenta decat ea insasi. Oamenii sunt inteligenti, dar, in toata istoria umanitatii,
nu am construit vreodata versiuni mai inteligente ale noastre.
"O preconditie pentru a construi un creier mai inteligent e sa intelegem cum de cel pe
care il avem este cognitiv, in sensul ca putem sa ne imaginam scenarii, sa avem ganduri
si sa facem conexiuni intre ele, sa gasim solutii si sa descoperim noi probleme.
Ni se intampla anumite lucruri, facem rationamente pe baza observatiilor noastre si
a lucrurilor pe care le stim deja, in minte ne apar brusc raspunsuri.
Tot acest ansamblu de magie biologica ramane opac, iar modul in care se face 'procesarea'
e inca un teritoriu aproape necartografiat. Si totusi, observam si investigam procesele
de gandire si functiile creierului nostru de milenii."
"De ce ar putea o masina cu inteligenta generala sa isi inteleaga brusc propriile capacitati
cognitive globale cand e clar ca noi nu le intelegem pe ale noastre? Si, chiar daca ar
face-o, cum ar putea folosi aceste cunostinte ca sa se faca pe sine mai inteligenta?"
"Nu e o chestiune de autoameliorare. Putem, de pilda sa devenim mai inteligenti citind
carti sau mergand la scoala. Daca ne educam, facem posibila dezvoltarea intelectuala
ulterioara si asa mai departe. Nimic din toate astea nu e raspunsul. O problema
majora a ipotezelor legate de sporirea inteligentei din cercurile care se ocupa cu
inteligenta artificiala este aceea a circularitatii: e nevoie de inteligenta (dupa cate
se pare, generala) pentru a spori inteligenta generala. O examinare mai atenta
scoate la iveala un mister, nu o progresie liniara".
"Aparitia IA parea inevitabila in comunicatele de presa si in discutiile despre viitor,
dar nu si atunci cand se lua in considerare munca efectiva din laboratoarele de
cercetare. Programarea unei masini cu adevarat inteligente se dovedea a fi dificila.
Foarte dificila".
"Totusi o dereglare a culturii raspandita in mare parte de mit (si de ascensiunea
omniprezentei tehnici de calcul) mentine vie posibilitatea ca, eliberandu-ne de
miturile tehnologiei moderne, sa stimulam progresul reinvestind in intuitia,
inovatiile si ideile omului.
... Si sunt optimist - mai ales pentru ca, dupa cum am vazut, pe baze pur stiintifice,
avem toate motivele sa respingem o evolutie liniara si inevitabila catre inteligenta
generala artificiala (si dincolo de ea).
Dezlegarea acesti nod gordian incepe cu renuntarea la mit in forma lui actuala,
care a infectat atat de puternic cultura, incat acum sunt necesare discutii lungi
despre nevoia de teorii noi in neurostiinte pentru a se produce o reconcentrare
a eforturilor, cand de fapt acest lucru ar trebui sa fie clar si sa nu aiba
nevoie de argumente".
Am mai adaugat cateva idei despre un subiect ce devine pe zi ce trece
nelinistitor de viu. Aud din ce in ce mai des despre IA. Insa spectrul
utilizarii ei pare limitat si cumva matura efectiv adevarata inteligenta
omeneasca. Asa mi se pare. Si se vor pierde multi ani pe parcursul carora
reala creativitate omeneasca ne-ar fi putut transfera pe alte traiectorii
ale evolutiei.
Stiti ce mi s-a intamplat intamplat acum doua zile?
Am primit pe mail o notificare ca doua din postarile mele din seria citatelor
favorite scrise in anul 2017 au fost retrase de la publicare. S-au transformat
in draft, pentru niste motive legate de noua politica a platformei, actualizata
in anul 2022. Ele se numeau: 'Apa si intelepciunea ei' si 'Datoria pentru vis'.
Inca nu am scormonit linkurile conexe sa vad ce si cum.
Mi s-a parut o coincidenta uimitoare aceasta situatie.
O abordare automata a ... orice, cine stie ce mai poate genera...
| 'Mitul inteligentei artificiale - De ce computerele nu pot gandi la fel ca noi' - Erik J. Larson |
"Sau sa presupunem ca imprumutam limbajul biologiei (asa cum face atat de des IA)
si apoi declaram increzatori ca puterea de calcul nu involueaza, ci evolueaza. Daca
privim lucrurile in profunzime, acest argument e grevat din nou de o viziune inadecvata
si naiva asupra inteligentei. Problema - o flagranta omisiune - e ca NU avem dovezi
in lumea biologica, ca o entitate inteligenta a creat vreodata o versiune a ei mai
inteligenta decat ea insasi. Oamenii sunt inteligenti, dar, in toata istoria umanitatii,
nu am construit vreodata versiuni mai inteligente ale noastre.
"O preconditie pentru a construi un creier mai inteligent e sa intelegem cum de cel pe
care il avem este cognitiv, in sensul ca putem sa ne imaginam scenarii, sa avem ganduri
si sa facem conexiuni intre ele, sa gasim solutii si sa descoperim noi probleme.
Ni se intampla anumite lucruri, facem rationamente pe baza observatiilor noastre si
a lucrurilor pe care le stim deja, in minte ne apar brusc raspunsuri.
Tot acest ansamblu de magie biologica ramane opac, iar modul in care se face 'procesarea'
e inca un teritoriu aproape necartografiat. Si totusi, observam si investigam procesele
de gandire si functiile creierului nostru de milenii."
"De ce ar putea o masina cu inteligenta generala sa isi inteleaga brusc propriile capacitati
cognitive globale cand e clar ca noi nu le intelegem pe ale noastre? Si, chiar daca ar
face-o, cum ar putea folosi aceste cunostinte ca sa se faca pe sine mai inteligenta?"
"Nu e o chestiune de autoameliorare. Putem, de pilda sa devenim mai inteligenti citind
carti sau mergand la scoala. Daca ne educam, facem posibila dezvoltarea intelectuala
ulterioara si asa mai departe. Nimic din toate astea nu e raspunsul. O problema
majora a ipotezelor legate de sporirea inteligentei din cercurile care se ocupa cu
inteligenta artificiala este aceea a circularitatii: e nevoie de inteligenta (dupa cate
se pare, generala) pentru a spori inteligenta generala. O examinare mai atenta
scoate la iveala un mister, nu o progresie liniara".
"Aparitia IA parea inevitabila in comunicatele de presa si in discutiile despre viitor,
dar nu si atunci cand se lua in considerare munca efectiva din laboratoarele de
cercetare. Programarea unei masini cu adevarat inteligente se dovedea a fi dificila.
Foarte dificila".
"Totusi o dereglare a culturii raspandita in mare parte de mit (si de ascensiunea
omniprezentei tehnici de calcul) mentine vie posibilitatea ca, eliberandu-ne de
miturile tehnologiei moderne, sa stimulam progresul reinvestind in intuitia,
inovatiile si ideile omului.
... Si sunt optimist - mai ales pentru ca, dupa cum am vazut, pe baze pur stiintifice,
avem toate motivele sa respingem o evolutie liniara si inevitabila catre inteligenta
generala artificiala (si dincolo de ea).
Dezlegarea acesti nod gordian incepe cu renuntarea la mit in forma lui actuala,
care a infectat atat de puternic cultura, incat acum sunt necesare discutii lungi
despre nevoia de teorii noi in neurostiinte pentru a se produce o reconcentrare
a eforturilor, cand de fapt acest lucru ar trebui sa fie clar si sa nu aiba
nevoie de argumente".
Am mai adaugat cateva idei despre un subiect ce devine pe zi ce trece
nelinistitor de viu. Aud din ce in ce mai des despre IA. Insa spectrul
utilizarii ei pare limitat si cumva matura efectiv adevarata inteligenta
omeneasca. Asa mi se pare. Si se vor pierde multi ani pe parcursul carora
reala creativitate omeneasca ne-ar fi putut transfera pe alte traiectorii
ale evolutiei.
Stiti ce mi s-a intamplat intamplat acum doua zile?
Am primit pe mail o notificare ca doua din postarile mele din seria citatelor
favorite scrise in anul 2017 au fost retrase de la publicare. S-au transformat
in draft, pentru niste motive legate de noua politica a platformei, actualizata
in anul 2022. Ele se numeau: 'Apa si intelepciunea ei' si 'Datoria pentru vis'.
Inca nu am scormonit linkurile conexe sa vad ce si cum.
Mi s-a parut o coincidenta uimitoare aceasta situatie.
O abordare automata a ... orice, cine stie ce mai poate genera...