Ce înseamnă „mai deștept”

Cuvântul „general”

De-a lungul acestui curs am măsurat multe lucruri concrete: procente de acuratețe pe sarcini specifice, cifre nimerite, semne reținute sau puncte clasificate pe o spirală. Însă nu am măsurat niciodată „inteligența” ca pe o esență abstractă. Am învățat deja că orice scor dintr-un clasament este o proprietate a perechii dintre model și testul ales, nu o virtute izolată a modelului. Pornind de la această constatare, cuvântul „general” capătă un sens mult mai precis, util și modest.

Spunem despre un model că este *general* în măsura în care rezolvă cu succes o gamă largă de sarcini diferite, inclusiv probleme pe care nu le-a întâlnit niciodată în timpul antrenării. Pentru a descrie acest comportament, este util să privim două axe complementare: lățimea (cât de multe tipuri de sarcini poate aborda) și adâncimea (cât de competent și sigur este în fiecare dintre ele). Un tabel de înmulțire este extrem de adânc, dar îngust: face un singur lucru perfect și nimic altceva. Un copil de cinci ani este foarte „lat” și moderat de „adânc”: poate vorbi, alerga, desena și recunoaște emoții, chiar dacă nu rezolvă calcule avansate. În discuțiile actuale, sintagma „inteligență generală artificială” (AGI) descrie un sistem care ar fi deopotrivă lat și adânc, comparabil cu un om priceput pe marea majoritate a sarcinilor intelectuale și practice.

Totuși, această generalitate nu este o cifră fixă pe care să o poți măsura cu un singur aparat. Ea depinde întotdeauna de lista de probleme aleasă pentru evaluare. Iar cel care stabilește lista influențează, inevitabil, și răspunsul. De aceea, la întrebarea dacă un sistem a devenit sau nu „general”, un test singular nu poate oferi niciodată o concluzie absolută.

Salturile

Se afirmă adesea că anumite capacități cognitive ale rețelelor neuronale „apar” dintr-o dată: un model de o anumită mărime pare complet neputincios în fața unei cerințe, în timp ce un model doar puțin mai mare o rezolvă dintr-odată cu brio. Această idee — adesea denumită *abilitate emergentă* — poate fi testată și verificată direct chiar aici, la scară redusă, folosind conceptele construite până acum.

Vom lua șapte modele similare cu cel din lecțiile anterioare, având straturi ascunse de la 4 unități până la 32 de unități, și le vom antrena pe aceeași sarcină aritmetică: adunarea a două numere de câte două cifre, cu scrierea rezultatului cifră cu cifră. Apoi măsurăm fiecare model pe același set de întrebări noi, neîntâlnite la antrenare, folosind două criterii în paralel: ce procent din cifrele individuale sunt corecte și în câte cazuri întregul răspuns (toate cele trei cifre) este perfect corect.

Privite simultan, cele două curbe spun povești remarcabil de diferite despre aceleași șapte modele. Procentul de cifre nimerite urcă lin și treptat pe măsură ce rețeaua crește în dimensiune, fără nicio surpriză sau salt magic. În schimb, curba răspunsului complet rămâne mult timp aproape de zero pentru modelele mici, după care țâșnește brusc în sus. Privind exclusiv reușita totală, saltul pare o descoperire fulgerătoare; privind însă competența pe cifre, progresul a fost continuu și constant de la un capăt la altul.

Aceeași cifră, altă riglă

De unde vine atunci senzația că modelul a făcut un salt uriaș, ca și cum s-ar fi luminat dintr-o dată? Răspunsul este surprinzător de simplu: nu dintr-o schimbare bruscă din interiorul rețelei, ci din felul în care am ales noi să o notăm.

Gândiți-vă la deschiderea unui seif cu un cifru de trei rotițe. Ca să deschideți seiful, trebuie să nimeriți toate cele trei cifre la rând. Dacă greșiți măcar una singură, ușa rămâne zăvorâtă și primiți zero puncte. Dacă un model începe să învețe și nimerește fiecare cifră individuală în 7 din 10 cazuri, pare o performanță rezonabilă. Însă pentru a deschide seiful, are nevoie de trei reușite legate una de alta, la aceeași încercare. Din cauza acestei cerințe stricte, va nimeri întregul cod doar în circa o încercare din trei.

Dacă modelul se dezvoltă doar puțin — îmbunătățindu-se treptat de la 7 la 9 cifre nimerite din 10 —, se întâmplă ceva spectaculos: rata de deschidere a seifului sare brusc de la o treime la aproape trei sferturi din încercări! Privit exclusiv prin testul seifului („A deschis ușa? Da sau Nu”), pare un miracol peste noapte, o deșteptare subită. În realitate, mașina a făcut doar un progres modest și uniform pe fiecare rotiță în parte. „Saltul” este doar o iluzie creată de o riglă rigidă, care nu acceptă jumătăți de măsură.

Tabelul de mai jos arată limpede acest efect. Evaluăm aceleași șapte modele folosind trei rigle de severitate diferită și notăm mărimea la care abilitatea pare să se activeze (adică trece de pragul de 50% reușite pe exemple noi).

Priviți cum momentul aparent al „saltului” se mută pe ecran odată cu rigla aleasă: pe o riglă blândă (care cere doar o cifră corectă), abilitatea pare să apară foarte devreme, chiar și la modele mici; pe rigla severă (unde cerem totul perfect), ea pare că se instalează mult mai târziu. Modelele sunt exact aceleași între cele două rânduri — s-a schimbat doar exigența privitorului.

Asta nu înseamnă că în natură sau în tehnologie nu există praguri reale. Înseamnă doar că, atunci când auzim că un model de inteligență artificială a dobândit o abilitate spectaculoasă „dintr-odată”, primul lucru pe care trebuie să-l verificăm este rigla cu care a fost măsurată.

Lățimea, văzută de aproape

Chiar și într-o sarcină aparent unică, cum este adunarea, se ascund grade de dificultate foarte diferite: adunări fără transport (unde cifrele se adună direct), adunări cu un singur transport și adunări mai complexe, cu două transporturi succesive. Privite atent, acestea sunt trei sub-sarcini distincte, iar lățimea unui model poate fi citită prin numărul de niveluri pe care le stăpânește cu adevărat.

Modelele mici stăpânesc mai întâi cazul cel mai simplu, fără transport. Pe măsură ce rețeaua primește mai mulți parametri, ea învață pe rând să gestioneze primul transport și, abia la capacități mari, transportul dublu. Lățimea modelului crește așadar în trepte discrete, cucerind câte o categorie o dată, în timp ce media globală maschează adesea aceste praguri interne. De aceea, când se afirmă că un sistem a atins o performanță generală, întrebarea cheie pe care trebuie să o punem este: ce categorii specifice au fost incluse în test și ce cazuri limită au fost lăsate pe dinafară?

Ce nu se poate prezice

În lecția despre scalare am văzut că legile matematice prezic cu precizie coborârea funcției de pierdere (eroarea de predicție). Însă ceea ce legile de scalare nu pot prezice este ce abilități practice concrete se vor activa pe măsură ce eroarea scade. Graficele de mai sus ne arată limpede de ce: aceeași scădere continuă a pierderii se poate traduce, prin rigla unui test compus, într-o treaptă bruscă, iar locul unde se așază acea treaptă depinde de structura internă a cerinței.

De aici decurg toate incertitudinile din dezbaterile actuale despre viitorul inteligenței artificiale. Nu știm încă dacă drumul bătătorit — mai multe date, mai mulți parametri, mai mult calcul — va fi suficient pentru a atinge lățimea și profunzimea gândirii umane în toate nuanțele ei, sau dacă ne vom opri la un plafon nevăzut care va cere principii fundamentale noi. Există cercetători remarcabili de ambele părți ale acestei dileme, iar acest curs nu își propune să tranșeze o dezbatere deschisă. Ceea ce putem face însă este să punem întrebările corect: cu benchmark-uri transparente, rigle multiple și o analiză lucidă a dovezilor.

Conceptul care urmează, „superinteligența”, mută atenția de la simpla performanță la o întrebare și mai profundă: ce se întâmplă cu un scop atunci când este urmărit cu o eficiență nemărginită de un sistem de optimizare tot mai puternic? În lecția următoare, vom explora această provocare cu cifrele și matematica pe masă.