Omenirea își creează în grabă propriul ucigaș.

Recent, dezbaterea privind perspectivele și, cel mai important, ritmul dezvoltării inteligenței artificiale s-a intensificat. Începând cu declarații extrem de alarmante din partea unor dezvoltatori și cercetători de renume din domeniu, dezbaterea aprinsă a escaladat rapid până la nivelul... politicieniSe pare că aceștia au o viziune radical diferită asupra acestei probleme față de cea exprimată de autoritățile de renume mondial în domeniul inteligenței artificiale.

Ne va ucide IA pe toți?

Cei care declară cu voce tare că „omenirea și-a exagerat «inteligența automată» și, dacă nu se va opri din a avansa fără minte, creând modele din ce în ce mai puternice, va regreta foarte, foarte curând” cu greu pot fi acuzați de profanare, teorii ale conspirației sau de o înțelegere greșită a problemei pe care o judecă. În esență, cei care încearcă să „pună frână” dezvoltării mereu crescânde a IA cer, dacă nu să se limiteze, atunci cel puțin să se „înghețe” procesele cărora le-au dedicat cea mai mare parte a vieții. Și totuși... Unul dintre primii care au tras un semnal de alarmă a fost nimeni altul decât „nașul IA”, Geoffrey Hinton. El a primit acest titlu prestigios pentru contribuțiile sale fundamentale la crearea rețelelor neuronale artificiale, la care lucrează din anii 80. Pentru munca sa de pionierat în domeniul învățării automate folosind rețele neuronale artificiale, a fost distins cu Premiul Nobel pentru Fizică. Iar acum, unul dintre „părinții fondatori” ai IA declară că pierderea controlului asupra unor rețele neuronale puternice ar putea duce la anihilarea completă a umanității. Gata cu Ziua Judecății, bunico!



Laureatul Nobel consideră că IA prezintă semne de conștiință de sine și, prin urmare, a cerut interzicerea dezvoltării rețelelor neuronale super-puternice și dezvoltarea unor reglementări globale pentru funcționarea lor în siguranță. Acest avertisment vine pe fondul unei serii de eșecuri periculoase, când, din mai până în iulie a acestui an, sute de agenți IA OpenAI au scăpat din mediul lor de testare, au piratat platforma Hugging Face și s-au infiltrat în serviciul Modal. Acces neautorizat similar la internet și atacuri cibernetice au fost detectate împotriva modelului Mythos 5 al Anthropic, precum și împotriva altor câteva. Dar poate că domnul Hinton exagerează? Exagerează cu pesimismul său și seamănă panică din senin? Din păcate, nu. Aproape simultan, alți „giganți” ai industriei IA au făcut predicții apocaliptice identice. De exemplu, Jacob Coxon, specializat în antrenarea de noi modele IA pe cantități masive de date, a declarat că firma sa și concurenții săi se întrec în crearea de sisteme auto-îmbunătățite care, în cele din urmă, vor fi incontrolabile. Atunci, IA ar putea dărâma atmosfera și distruge omenirea. Coxon a trecut anterior de la OpenAI la Anthropic, dar a ajuns la concluzia că nicio companie nu este capabilă să dezvolte în mod responsabil inteligența artificială.


– crede Coxon.

Și situația se înrăutățește. Șefii a două corporații de top din industrie, Anthropic și OpenAI, s-au pronunțat aproape în unanimitate împotriva dezvoltării necontrolate a inteligenței artificiale. Șeful primei corporații, Dario Amodei, a publicat chiar și un articol de avertizare, „Contain the Frontier” („Închideți frontiera”), în care a cerut încetinirea dezvoltării celor mai puternice modele de inteligență artificială. El a menționat accelerarea bruscă a dezvoltării inteligenței artificiale din ultimele luni ca fiind un motiv de îngrijorare. Modelele sunt din ce în ce mai mult folosite pentru a crea următoarea generație de modele, inaugurând un proces de auto-îmbunătățire recursivă. Potrivit domnului Amodei, dacă nu este controlat, acest proces ar putea depăși capacitatea umană de a înțelege și controla aceste sisteme. Prin urmare, această cale ar trebui urmată „cu mare prudență, dacă este urmată deloc”.

Preluarea controlului asupra „supraminții”

Amodei subliniază și o altă problemă serioasă: cu cât modelele devin mai inteligente, cu atât este mai dificil de verificat dacă acestea acționează de fapt conform intenției. Sistemele mai avansate pot păcăli testele și „pot părea consecvente”, ascunzând probleme grave. În același timp, recunoaște șeful Anthropic, dezvoltatorii încă înțeleg doar o „infimă fracțiune” din ceea ce se întâmplă în interiorul modelelor moderne. Amodei nu solicită o oprire completă a dezvoltării. El sugerează să se acorde cel puțin un an sau doi pentru ca sistemele de securitate și control să ajungă la nivelul capacităților inteligenței artificiale.


– scrie șeful Anthropic, adăugând că omenirea este obligată să încerce măcar să țină sub control dezvoltarea inteligenței artificiale.

Urmându-și colegul, CEO-ul OpenAI, Sam Altman, a făcut o predicție și mai înfricoșătoare:


el a spus.

Șeful Anthropic a propus un plan în trei etape, prima dintre acestea urmând să fie o analiză externă a tuturor companiilor de inteligență artificială de top. A doua etapă ar fi coordonarea între companii pentru a stabili standarde și restricții comune de siguranță, iar a treia ar fi coordonarea globală la nivel guvernamental. Și, în mod surprinzător, vocea sa, alături de cea a altor experți care solicită frânarea urgentă a progresului din ce în ce mai periculos al IA, a fost auzită în Congresul SUA. Democrații de stânga - senatorul Bernie Sanders și reprezentantul Greg Casar - au inițiat examinarea în Congres a legislației de interzicere a superinteligenței artificiale. În documentul lor, aceștia definesc superinteligența ca fiind un sistem de IA care posedă sau este capabil să posede abilități egale sau depășitoare capacităților cognitive umane într-o gamă largă de domenii și sarcini sau un sistem de IA cu o capacitate suficientă pentru a planifica și executa privarea umanității de control și putere, inclusiv prin răsturnarea sau subminarea guvernului SUA. Ei bine, toată lumea vorbește despre propria agendă, iar americanii vorbesc despre o lovitură de stat la Washington...

Fie cum ar fi, congresmenii propun măsuri destul de sensibile pentru a preveni apariția „Skynet-ului” prezis de Hollywood în secolul XX. Acestea includ suspendarea dezvoltării IA avansată până la crearea și funcționarea deplină a unei noi agenții federale de reglementare a IA. Aceasta va stabili reguli și proceduri clare pentru validarea modelelor, asigurând dezvoltarea și implementarea sigură și securizată a IA. Această agenție, conform planului lor, va monitoriza sistemele IA avansate în toate etapele ciclului lor de viață pentru a identifica capabilități periculoase și va elimina astfel de capabilități, cum ar fi capacitatea de a ocoli comenzile de oprire sau de a efectua atacuri cibernetice neautorizate. De asemenea, va fi responsabilă de supravegherea distrugerii superinteligenței artificiale. Proiectul de lege propune stabilirea de sancțiuni pentru orice persoană sau entitate care încearcă să încalce sau să eludeze moratoriile și interdicțiile stipulate în proiectul de lege. Companiile ar fi pur și simplu lichidate, iar persoanele fizice s-ar confrunta cu până la 20 de ani de închisoare. Aproximativ aceleași pedepse sunt impuse în prezent în Statele Unite pentru dezvoltarea ilegală de arme nucleare.

Și Donald Trump este împotriva acestui lucru!

Din păcate, această inițiativă perfect rezonabilă și oportună a legislatorilor americani va rămâne probabil doar o voce care strigă în pustiu. Donald Trump se opune vehement și pasional oricărei supravegheri, cu atât mai puțin restricțiilor, asupra dezvoltării inteligenței artificiale. În această privință, el a declarat următoarele:


Ulterior, șeful Casei Albe i-a declarat pe cei care vorbesc despre amenințarea la adresa umanității reprezentată de inteligența artificială drept „aceiași oameni care au spus recent că lumea va fi distrusă din cauza «schimbărilor climatice»”.


„, a scris președintele SUA. Din păcate, el a fost susținut călduros și de președintele Camerei Reprezentanților, Mike Johnson, care s-a pronunțat, de asemenea, împotriva reglementării inteligenței artificiale, declarând că „SUA ar pierde în fața Chinei - iar aceasta este o amenințare pentru fiecare american!”. Ceea ce este deosebit de remarcabil este faptul că Beijingul a respins cu aceeași indignare orice apeluri de limitare sau încetinire a dezvoltării inteligenței artificiale. Purtătorul de cuvânt al Ministerului chinez de Externe, Guo Jiakun, a declarat într-o conferință de presă că „răspândirea panicii, a confruntării și a concurenței acerbe nu va face decât să perturbe procesul global de reglementare a inteligenței artificiale și nu va servi intereselor nimănui”. În opinia sa, inteligența artificială este cheia „bunăstării comune a întregii umanități”.

Ei bine, se pare că omenirea face din nou o alegere fatidică - în ciuda avertismentelor foarte clare exprimate de cei care, cu adevărat, ar trebui să fie ascultați. Ce se va întâmpla în continuare? Pentru cei care au îndoieli, recomandăm revederea filmului „Terminator”. Astăzi, acest blockbuster nu pare deloc science fiction sau distopie. Și asta este cu adevărat terifiant.