Neuronul artificial

Un comitet cu vot ponderat

Curbele contorsionate din lecția precedentă încercau să rezolve totul pe o singură dimensiune și se stricau repede. În realitate, lumea nu este unidimensională: pentru a recunoaște o cifră, un chip sau un animal, avem la dispoziție zeci sau mii de indicii diferite.

Despre un desen putem măsura densitatea cernelii în diverse zone, lățimea totală, înălțimea, numărul de bucle închise sau simetria. Niciun indiciu nu este suficient de unul singur, dar împreună pictează o imagine clară. Cum le putem pune să colaboreze? Cel mai natural mod este un vot ponderat: fiecare mărime măsurată este multiplicată cu o importanță proprie, iar rezultatele se adună într-o sumă totală.

Aceste multiplicatoare de importanță se numesc ponderi. O pondere pozitivă mare înseamnă că acel indiciu pledează cu tărie pentru răspunsul „DA”. O pondere negativă înseamnă că indiciul pledează împotrivă („NU”). O pondere apropiată de zero înseamnă că trăsătura respectivă este ignorată. Peste toate acestea, adăugăm un număr fix numit deplasare (sau bias), care stabilește nivelul de bază de scepticism al neuronului: cât de exigent este înainte de a da un răspuns afirmativ.

Frontiera care taie spațiul

Suma ponderată rezultată este un singur număr. Pentru a lua o hotărâre tranșantă („este un 7” sau „nu este un 7”), comparăm această sumă cu zero: dacă rezultatul trece de zero, răspunsul este DA; dacă rămâne sub zero, răspunsul este NU.

Dacă ne imaginăm toate exemplele așezate pe o suprafață plană în funcție de cele două măsurători ale lor, linia de demarcație unde suma este exact zero formează o dreaptă. Această linie se numește frontieră de decizie. Ponderile decid înclinația dreptei, iar deplasarea o mută mai aproape sau mai departe de origine.

Observă diferența subtilă față de regula din lecția 11: acolo tăiam spațiul cu două praguri rigide paralele cu axele, formând un colț drept. Un neuron artificial poate trasa o dreaptă înclinată sub orice unghi! El poate astfel balansa indiciile: dacă un desen are puțin mai puțină cerneală sus, dar este mult mai îngust, neuronul le poate compensa elegant reciproc. Iar cel mai mare avantaj este că această formulă funcționează identic indiferent dacă avem două, douăzeci sau zece mii de măsurători de intrare.

De la treapta rigidă la panta suplă

O decizie rigidă de tipul „totul sau nimic” (0 sau 1 ca o treaptă abruptă) are un defect fatal: nu poate fi antrenată prin coborârea pantei! Pe treaptă, solul este perfect plat la stânga și la dreapta, iar la mijloc există o prăpastie verticală. Panta este fie zero, fie infinită — nu oferă niciun indiciu călătorului încotro să rotească butoanele.

Soluția genială este înlocuirea treptei cu o curbă lină în formă de S, numită funcție logistică (sau sigmoidă). Ieșirea neuronului încetează să mai fie un „da/nu” mecanic și devine un grad subtil de încredere între 0 și 1: o valoare de 0,98 înseamnă „foarte probabil da”, 0,10 înseamnă „foarte puțin probabil”, iar 0,50 înseamnă „complet nesigur”.

Această nuanță transformă totul: acum fiecare schimbare infimă a unei ponderi mișcă lin gradul de încredere, oferind o pantă continuă pe care coborârea o poate simți sub picioare. În plus, pe măsură ce neuronul devine foarte sigur pe un exemplu, panta se domolește, concentrându-și automat eforturile de învățare exact asupra exemplelor neclare de la graniță.

Butonul de antrenare din figura precedentă coboară panta exact ca în lecția a treisprezecea, pe ponderile neuronului. Cele două mărimi măsurate sunt aduse dinainte la aceeași scară, din motivul arătat acolo.

Coborârea se oprește pe trei greșeli, deși există o dreaptă care face două. Prelungirea antrenării nu schimbă nimic. Nu e o slăbiciune a metodei, ci urmarea a ceea ce i s-a cerut: ea coboară costul lin, nu numărul de greșeli. Poziția care dă costul cel mai mic nu e aceeași cu poziția care dă cele mai puține greșeli, deosebirea semnalată la sfârșitul lecției despre funcția de cost, aici cu cifre.

Zidul de netrecut al unui singur neuron

Pentru că frontiera unui singur neuron este întotdeauna o tăietură dreaptă, puterea lui se oprește în fața oricărui tipar care nu poate fi separat printr-o linie. Iar cel mai celebru exemplu are doar patru puncte!

Privește figura de mai sus: două puncte albastre pe o diagonală și două puncte verzi pe cealaltă diagonală. Oricum ai roti rigla și oriunde ai așeza-o, este imposibil să separi culorile cu o singură linie dreaptă! Această configurație este faimoasa operație logică sau-exclusiv (XOR), pe care am întâlnit-o în lecția 6 la adunarea biților.

În 1969, cercetătorii Marvin Minsky și Seymour Papert au demonstrat matematic că un singur neuron nu poate rezolva nici măcar problema XOR. Cartea lor a declanșat o iarnă a inteligenței artificiale: mulți au tras concluzia greșită că rețelele neuronale sunt o fundătură. În realitate, demonstrația arăta doar limitele unui neuron solitar — nu ale unei echipe de neuroni organizați pe straturi!

De unde vine numele: biologie versus matematică

Modelul a fost propus în 1943 de Warren McCulloch și Walter Pitts ca o schiță matematică simplificată a celulelor nervoase din creier. În 1958, Frank Rosenblatt i-a adăugat capacitatea de a-și regla ponderile din exemple și l-a botezat perceptron.

Este important să risipim orice confuzie: neuronul artificial este doar o metaforă inspiratoare, nu o copie fidelă a creierului biologic. Neuronii din capul nostru comunică prin impulsuri electro-chimice pulsatile, depind de ritmuri temporale fine și învață prin procese mult mai bogate decât coborârea matematică a unei pante numerice. A spune că rețelele artificiale „gândesc ca un creier” este o poezie, nu o descriere tehnică.

Dar iată frumusețea: un singur neuron trage o linie dreaptă. Ce se întâmplă însă dacă punem mai mulți neuroni să tragă fiecare linia lui, iar apoi dăm rezultatele lor unei noi generații de neuroni? În lecția următoare descoperim cum se construiesc straturile și cum o simplă combinare de linii drepte poate învăța orice formă din univers.