Învățarea din context

Ce se schimbă și ce nu: miracolul din fața ochilor

Textul pe care îl furnizăm unui asistent înainte ca el să înceapă să scrie se numește prompt. În el putem pune orice: o cerință directă, un rol pe care să-l adopte, o conversație anterioară sau — lucrul cel mai spectaculos — două sau trei exemple rezolvate despre cum dorim să arate răspunsul.

Când îi arătăm aceste exemple în prompt (tehnică numită few-shot prompting), comportamentul modelului se transformă ca prin farmec. El preia instantaneu stilul, formatul și logica sarcinii cerute, rezolvând următorul exercițiu exact după tiparul oferit. Și totuși, pe parcursul acestui proces, niciunul dintre miliardele de parametri ai rețelei nu a fost modificat nici măcar cu o zecimală! Purtarea aceasta uimitoare se numește învățare din context, deși numele este oarecum paradoxal: nu vorbim despre o învățare clasică prin schimbarea circuitelor, ci despre o adaptare din zbor.

Modelul seamănă cu un muzician de jazz genial care ascultă primele două măsuri dintr-o melodie nouă și se alătură imediat orchestrei, cântând impecabil în tonalitatea și ritmul piesei. El nu a mers acasă să exerseze luni de zile piesa respectivă; ceea ce posedă este o capacitate superioară de a recunoaște și prelua tipare în timp real.

O regulă nouă la fiecare șir: experimentul matematic

Pentru a vedea acest mecanism în stare pură, am pregătit un experiment matematic interactiv: antrenăm un mic transformator pe o sarcină unde regula se schimbă la fiecare încercare.

Fiecare problemă are o pantă secretă (o dreaptă matematică), aleasă la întâmplare. Modelul primește câteva puncte de pe acea dreaptă, afectate de un mic zgomot de măsurare, urmate de o coordonată nouă pentru care trebuie să ghicească valoarea corespunzătoare. Deoarece panta este mereu alta, rețeaua nu o poate stoca în memoria ei permanentă; este obligată să o deducă de fiecare dată exclusiv din punctele pe care i le oferim în context.

Linia albastră reprezintă predicția modelului. Fără niciun exemplu, linia este aproape orizontală: neavând niciun indiciu, cea mai sigură decizie este să rămână în jur de zero. Pe măsură ce apăsați butonul și adăugați exemple, linia albastră se rotește și se mulează tot mai fidel pe dreapta portocalie ascunsă.

Urmăriți suma ponderilor afișată în panou: ea rămâne strict neschimbată! Niciun număr din creierul matematic al rețelei nu a suferit vreo ajustare; tot ce s-a schimbat a fost informația așezată în fața privirii sale.

Cât de bine se descurcă

Graficul de mai jos măsoară eroarea medie pe sute de probleme noi, în funcție de numărul de exemple puse în prompt. Pentru comparație, am alăturat două repere statistice clasice:

Primul reper este metoda tradițională a celor mai mici pătrate (regresia liniară clasică). Al doilea reper este estimatorul optim, care știe dinainte limitele posibile ale pantelor.

Eroarea modelului coboară spectaculos cu fiecare nou exemplu arătat, deși ponderile sunt înghețate. Iată dovada de netăgăduit: modelul își îmbunătățește performanța în timp real doar pe baza textului din fereastra de lucru.

Ce a învățat antrenarea de fapt: algoritmul din ponderi

Priviți cu atenție primul rând al tabelului: când dispune de un singur punct de reper, metoda clasică a celor mai mici pătrate suferă o eroare uriașă, deoarece un singur punct apropiat de zero poate arunca panta calculată spre infinit. Modelul nostru neural, în schimb, nu își pierde cumpătul!

El acționează asemenea unui statistician experimentat: când datele sunt puține, rămâne precaut și se ancorează în medie; pe măsură ce adăugăm date solide, începe să aibă încredere în ele și le urmează direcția. Nimeni nu i-a programat aceste formule explicit. Comportamentul a izvorât spontan din sutele de mii de exerciții parcurse în timpul antrenării.

Aici se află una dintre cele mai profunde revelații ale inteligenței artificiale moderne: ponderile rețelei nu memorează o simplă enciclopedie de răspunsuri fixe, ci un algoritm intern de procesare și învățare. Ponderile întruchipează metoda și raționamentul general, în timp ce contextul aduce datele specifice ale problemei de moment. Aceasta este marea împărțire a muncii: ceea ce este universal și permanent trăiește în ponderi, iar ceea ce este particular și provizoriu trăiește în prompt.

De ce apare această proprietate: ecoul structurii umane

Niciun inginer nu a proiectat o piesă anume din transformator cu scopul de a face învățare în context. Această abilitate a apărut de la sine ca fiind cea mai eficientă strategie matematică de a prezice textele scrise de oameni.

Limbajul uman abundă în tipare structurate: tabele, traduceri puse față în față, cod sursă cu exemple, explicații urmate de rezumate. Dacă o rețea ar fi încercat să memoreze o regulă rigidă unică pentru toate situațiile, ar fi eșuat lamentabil pe o mare parte dintre texte. Algoritmul de optimizare a descoperit o cale mult mai suplă: a modelat circuitele de atenție astfel încât ele să citească tiparul local din primele rânduri și să îl extindă în mod firesc mai departe.

Aici se încheie marea noastră călătorie prin tărâmul limbajului: am pornit de la un singur bit binar, am văzut cum se nasc tranzistorii și porțile logice, am clădit procesoare și rețele neuronale, am înțeles atenția și antrenarea la scară, până când am ajuns la asistenții capabili să converseze și să învețe din context.

Însă universul mașinilor inteligente nu se oprește la cuvinte. În partea următoare a cursului părăsim universul textului și pătrundem în lumea formelor vizuale: vom descoperi cum, pornind de la un haos de zgomot static și puncte oarbe, o rețea poate sculpta treptat o imagine de o frumusețe uluitoare.