Drumul înapoi

O întrebare fără răspuns și salvarea prin probabilități

Procesul direct din lecția trecută este o stradă cu sens unic, ușor de parcurs: iei o fotografie, îi adaugi zgomot după o rețetă și obții un cadru mâncat de purici. Însă drumul invers ascunde o barieră uriașă. O aceeași imagine murdărită ar fi putut proveni dintr-o pisică, dintr-un castel sau dintr-un ceasornic, fiecare combinată cu un alt zgomot potrivit. Prin urmare, întrebarea tranșantă „care anume a fost imaginea inițială?” nu are un răspuns matematic unic.

Salvarea vine printr-o schimbare subtilă de perspectivă: în loc să căutăm un adevăr absolut ascuns în ceață, ne întrebăm: „dintre toate imaginile posibile din lume, care este media celor compatibile cu ceea ce se zărește acum?”. Fiecare variantă plauzibilă primește o pondere proporțională cu cât de bine se potrivește cu restul de semnal. Această medie ponderată se poate calcula — iar ea devine busola care ne călăuzește la fiecare pas al reconstrucției.

Un pas de întoarcere funcționează astfel: calculăm această imagine medie estimată, scădem din cadrul murdărit o parte din zgomotul care ne desparte de ea, iar apoi adăugăm înapoi un strop minuscul de zgomot proaspăt, dar ceva mai puțin decât am scos. Acest gest repetat se numește pas de eșantionare, iar întregul marș invers este difuzia inversă.

De ce am adăuga zgomot înapoi într-o imagine pe care tocmai încercăm s-o curățăm? Pare o risipă, dar este secretul vital al diversității! Fără această infuzie minusculă de hazard la fiecare pas, drumul ar aluneca mecanic spre aceeași medie matematică ștearsă — un gri uniform. Zgomotul proaspăt injectat este cel care scutură ușor sistemul, permițându-i să aleagă la fiecare rulare o compoziție nouă și distinctă.

Un laborator în miniatură: când formula se scrie exact

În viața de zi cu zi, mulțimea tuturor fotografiilor posibile este infinită și imposibil de închis într-o rețetă simplă — de aceea vom lăsa o rețea neuronală să aproximeze această medie. Dar pentru a vedea mecanismul în acțiune, putem construi un univers în miniatură, în care cunoaștem dinainte toate formele posibile: doar șase pictograme geometrice.

Privind o imagine invadată de purici, calculatorul calculează instantaneu cât de bine se potrivește ea cu fiecare dintre cele șase forme. Media căutată nu este altceva decât un amestec al celor șase desene, ponderat cu aceste scoruri de potrivire. Aici nu există nicio ghicire oarbă și nicio învățare automată: formula matematică este perfect exactă.

Priviți cu atenție panoul din dreapta („ce crede că era”). La începutul călătoriei, când zgomotul e dens, el nu arată o siluetă distinctă, ci o suprapunere fantomatică a tuturor celor șase: media lor colectivă, fiindcă nicio formă nu e favorizată. Pe măsură ce zgomotul scade, balanța se înclină vertiginos: ponderile se despart, iar media se limpezește spectaculos într-o singură formă bine definită.

Fenomenul amintește leit de developarea unei fotografii într-o cameră obscură: când scufunzi hârtia albă în soluție, nu apar întâi firele de păr sau textura pielii, ci marile contraste de masă. Contururile mari se ivesc primele, iar detaliile fine se așază cuminți abia la final.

Marea decizie: când se alege forma

O întrebare firească este: cât de devreme în acest proces se pecetluiește soarta imaginii? Se decide forma pe la jumătatea drumului sau chiar din primii pași? Măsurătoarea de mai jos rulează procesul de douăzeci de ori pornind din semințe diferite de zgomot și notează pasul exact dincolo de care forma favorită nu se mai schimbă niciodată.

Hotărârea se ia uimitor de repede, în vreme ce pentru ochiul nostru imaginea arată încă drept purici fără noimă! Deși privirea umană distinge doar un furnicar cenușiu, calculul matematic a ales deja definitiv câștigătorul. Restul drumului nu mai deliberează nimic: el desenează cu răbdare forma pe care hazardul inițial a stabilit-o de la bun început.

Copiere versus creație: de ce imperfecțiunea e o virtute

Aici iese la iveală motivul profund pentru care într-un sistem real preferăm o rețea neuronală aproximativă în locul unei formule matematice exacte.

Formula exactă pe care am folosit-o este captivă în micul ei univers: ea nu poate produce decât ceea ce se află deja în cele șase exemple. La sfârșit, imaginea obținută nu doar că seamănă cu una dintre forme, ci este copia identică a uneia dintre ele.

O rețea neuronală antrenată pe milioane de imagini nu va învăța niciodată o medie exactă. Ea reține o aproximare intuitivă, presărată cu mici devieri și sinteze. Datorită acestor imperfecțiuni, drumul invers nu reproduce o fotografie văzută la antrenare, ci creează o compoziție inedită, plauzibilă. Ceea ce ar părea o scăpare tehnică este tocmai scânteia creației: noutatea autentică se naște din aproximarea vie a trecutului.

Dacă am folosi o rețea uriașă pentru un set minuscul de date, ea ar tinde spre formula exactă și ar începe să debiteze copii fidele ale exemplelor — fenomenul de supraînvățare (overfitting) pe care l-am întâlnit în părțile anterioare.

Până acum ne-am sprijinit pe o formulă matematică rigidă. În lecția următoare vom înlocui această formulă cu o rețea neuronală veritabilă, pe care o vom antrena în timp real, chiar în această pagină, pe o mână de puncte 2D.