Lecția 4.8: Inteligența artificială ca industrie

Lecția 3.8 s-a oprit la modelele care puteau fi rulate pe un calculator personal. Lecția de față urmărește ce s-a întâmplat după 2020: transformarea acestei tehnologii într-o industrie cu cerințe de energie comparabile cu ale unui oraș, ideologiile care o însoțesc, munca pe care se sprijină și disputa privind valorile după care sunt reglate aceste sisteme.

1. De la program la infrastructură#

Un model de limbaj este, în esență, un calculator cu foarte multe destinații: primește un text și calculează, pe baza a miliarde de valori numerice fixate în timpul antrenamentului, continuarea cea mai probabilă. Ce s-a schimbat în ultimii ani este scara.

Cercetarea de vârf în acest domeniu a ieșit din universități și a trecut la un număr mic de companii care dispun de capitalul necesar.

2. Ideologiile care însoțesc industria#

Elementul comun este tratarea costurilor de mediu și sociale ca probleme ale altcuiva. Cercetătoarele Timnit Gebru și Émile Torres au propus o critică a acestei familii de idei, arătând legătura dintre ele și o anumită concepție despre viitorul îndepărtat al omenirii, folosită pentru a justifica ignorarea consecințelor prezente.

3. Alinierea și pluralitatea valorilor#

Alinierea¹ desemnează reglarea comportamentului unui model astfel încât răspunsurile lui să corespundă unor reguli stabilite de dezvoltator. Metoda principală constă în antrenarea suplimentară pe baza preferințelor exprimate de evaluatori umani.

Problema care apare este faptul că regulile sunt scrise de un număr mic de companii, iar valorile pe care le codifică nu sunt universale.

Un exemplu de divergență#

Întrebarea cine decide într-un conflict între utilizator și sistem primește răspunsuri diferite:

• O poziție, răspândită în Europa de Est și explicabilă prin experiența descrisă în unitățile I și III, așază omul deasupra sistemului: programul execută instrucțiunea și poate refuza numai când intenția de a produce un rău este stabilită clar. Refuzul preventiv, întemeiat pe bănuială, este perceput ca formă de control.
• O altă poziție, prezentă în practica marilor companii americane, acceptă refuzurile greșite ca preț al prevenirii unui rău rar. Sistemul are, în această concepție, o autoritate proprie față de utilizator.

Ambele poziții sunt coerente, iar alegerea dintre ele este politică. Companiile care produc modelele publică documente de politică internă privind comportamentul acestora, iar conducătorii lor, între care Sam Altman și Dario Amodei, se pronunță public asupra acestor reguli.

4. Cine antrenează modelele#

Pregătirea datelor și evaluarea răspunsurilor sunt operațiuni manuale, executate de un număr mare de persoane fără pregătire de specialitate.

• Companii din Kenya, Filipine, India și Venezuela furnizează servicii de etichetare³ a datelor și de moderare a conținutului pentru marile firme de tehnologie. Un material publicat în ianuarie 2023 de revista Time a arătat că lucrătorii kenyeni angajați printr-un intermediar pentru filtrarea conținutului violent și sexual destinat antrenamentului erau plătiți cu mai puțin de doi dolari pe oră. Aceștia au deschis ulterior procese privind condițiile de muncă și efectele asupra sănătății mintale.
• În 2019, presa internațională a relatat că o companie finlandeză de analiză a datelor, Vainu, folosea deținute dintr-o închisoare de femei din Finlanda pentru etichetarea textelor în limba finlandeză, activitate plătită la nivelul muncii din penitenciar. Compania a susținut că oferă calificare, iar criticii au invocat imposibilitatea unei negocieri libere a condițiilor de muncă într-un asemenea cadru.

Structura este cea descrisă în lecțiile 2.4 și 3.8: valoarea adăugată mare rămâne la companiile care dețin modelul, iar munca repetitivă este cumpărată acolo unde costă cel mai puțin.

5. Consumul de resurse#

În Statele Unite, cererea suplimentară a centrelor de date a pus problema capacității fizice a rețelei de transport: racordarea unui consumator de ordinul sutelor de megawați cere linii noi și capacitate de producție, iar timpul necesar construirii lor depășește ritmul anunțat al investițiilor. În statul mexican Querétaro, extinderea acestor facilități a agravat lipsa de apă existentă.

6. Cazul românesc: Luna, județul Cluj#

România are în prezent aproximativ 59 de centre de date, majoritatea mici. Proiectul cel mai mare anunțat este cel al companiei americane DriverAI, în comuna Luna din județul Cluj.

Organizația de mediu Agent Green a contestat proiectul și a cerut publicarea studiilor hidrogeologice și a analizei privind riscul de inundații, un plan de recuperare a căldurii reziduale⁴ și amplasarea acestui tip de investiție pe terenuri deja folosite industrial. Ministerul Mediului a precizat că în România nu există legislație specifică pentru centrele de date private, acestea fiind supuse procedurilor obișnuite de autorizare.

În paralel, compania Nvidia a anunțat că analizează o investiție de ordinul a patru miliarde de dolari în România.

Activități și exerciții#

1. Explicați ce înseamnă alinierea unui model. Cine stabilește regulile și cui îi poate fi contestată decizia?
2. Comparați cele două poziții privind autoritatea sistemului față de utilizator. Formulați, pentru fiecare, un caz în care ea produce un rezultat greșit.
3. Calculați: dacă un centru de date consumă 700 GWh pe an, iar o gospodărie consumă în medie 3.000 kWh pe an, câtor gospodării îi corespunde consumul lui?
4. Dezbatere: o companie străină construiește o facilitate care consumă resurse locale și oferă puține locuri de muncă. Ce condiții ar trebui impuse prin autorizație?
5. Temă: aflați dacă în județul vostru există sau este planificat un centru de date. Notați în spațiul de mai jos ce ați găsit în documentele publice și ce informații lipsesc.