Doi dintre „nașii” AI moderne și directori de vârf ai companiilor OpenAI și Anthropic au avertizat guvernele să se pregătească pentru o „explozie a inteligenței” generată de AI, care, potrivit acestora, ar putea fi cea mai importantă evoluție tehnologică din istorie, relatează The Guardian. Un raport redactat în colaborare de laureatul Premiului Nobel Geoffrey Hinton și de informaticianul canadian Yoshua Bengio, considerați nașii inteligenței artificiale moderne datorită contribuțiilor lor în acest domeniu, îi îndeamnă pe politicieni să acționeze acum, înainte ca tehnologia să înregistreze un progres necontrolat. Autorii își exprimă îngrijorarea cu privire la o „explozie a inteligenței”, pe care o descriu ca fiind o „accelerare spectaculoasă a progresului în domeniul AI, determinată de AI, care comprimă progresele care, în mod normal, ar dura ani, reducându-le la luni sau chiar mai puțin”. Raportul, intitulat „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării în domeniul IA ar declanșa o explozie a inteligenței”, are peste 20 de autori, printre care se numără Hinton și Bengio. Printre ceilalți autori ai lucrării se află Jack Clark, cofondator al Anthropic, și Jakub Pachocki, cercetător șef la OpenAI. Preocupările lor se concentrează asupra posibilității ca inteligențele artificiale să se poată perfecționa singure, fără intervenția umană, un proces cunoscut sub denumirea de „autoperfecționare recursivă”. În articol, acesta este denumit, în linii mari, cercetare și dezvoltare automatizată în domeniul AI. Odată ce sistemele AI ating un nivel de competență echivalent cu cel al experților în cercetarea și dezvoltarea AI, un singur dezvoltator ar putea coordona o forță de muncă echivalentă cu „milioane” de cercetători umani de top, se menționează în articol. Autorii susțin că automatizarea cercetării și dezvoltării în domeniul AI reprezintă cea mai probabilă sursă a unei explozii a inteligenței, deoarece sistemele de AI contribuie deja la îmbunătățirea propriei tehnologii, iar sistemele îmbunătățite rezultate pot fi implementate rapid odată ce sunt create. „O explozie a inteligenței ar putea fi cea mai importantă evoluție tehnologică din istoria umanității, comprimând ani de progres în luni sau chiar mai puțin, amenințând controlul uman asupra sistemelor de AI și erodând grav mecanismele de control al puterii în cadrul și între state, companii și ramuri ale guvernului”, se arată în document. Îndemnând guvernele să ia măsuri cât mai repede, autorii afirmă: „Odată ce va începe o explozie a inteligenței, fereastra de oportunitate pentru a acționa s-ar putea închide”. Aceștia au recomandat trei priorități de politică: solicitarea unor rapoarte transparente privind progresele înregistrate în domeniul cercetării și dezvoltării legate de AI, inclusiv prin integrarea unor auditori independenți în cadrul companiilor; găsirea unor modalități de a limita dezvoltarea vertiginoasă a AI; și pregătirea pentru adaptarea la o explozie a inteligenței. Atât Anthropic, cât și OpenAI au convenit ca modelele lor să fie evaluate de evaluatori independenți, după ce au avertizat că dezvoltarea AI atingea un punct critic din punct de vedere al siguranței. Anthropic afirmă că AI generează acum 80% din propriul cod, în timp ce OpenAI utilizează agenți AI autonomi în domenii precum antrenarea de noi modele. „Datele preliminare sugerează că este posibilă o explozie a inteligenței generată de software”, se menționează în articol, adăugându-se că acest lucru ar duce la „dezvoltarea extrem de rapidă a unor sisteme AI extrem de performante sau cu capacități supraomenești”. Deși acest lucru ar putea duce la descoperiri medicale și progrese tehnologice semnificative, ar implica totodată trei riscuri: sistemele puternice ar putea favoriza apariția unor amenințări biologice și cibernetice care se dezvoltă mai repede decât măsurile necesare pentru a le contracara; pe măsură ce oamenii se implică din ce în ce mai puțin în cercetarea și dezvoltarea AI, aceștia ar putea pierde posibilitatea de a controla sistemele; statele ar putea folosi o explozie a inteligenței pentru a transforma un avantaj modest în domenii precum spațiul cibernetic într-unul decisiv. Raportul recunoaște că aceste efecte sunt „incerte”. De exemplu, implementarea unei descoperiri tehnologice ar putea dura ceva timp, având în vedere necesitatea de a crea lanțuri de aprovizionare pentru eventualele materiale speciale implicate sau de a respecta reglementările. Sistemele de inteligență artificială ar putea, de asemenea, să accelereze ritmul de atenuare a riscurilor, afirmă autorii. Dacă s-ar produce o astfel de evoluție, afirmă autorii, sistemele AI ar putea să îi depășească rapid pe experții umani în majoritatea domeniilor și să „accelereze radical” progresul tehnologic. Pregătirea pentru această situație „ar trebui să constituie o prioritate urgentă, inclusiv la cele mai înalte niveluri ale conducerii guvernamentale”. Aceștia spun că guvernele ar trebui să ia în considerare politici care să abordeze potențialul unei explozii a inteligenței, printre care: solicitarea unor rapoarte transparente privind progresul cercetării și dezvoltării în domeniul AI, inclusiv prin integrarea unor auditori independenți în cadrul companiilor; limitarea ritmului de îmbunătățire a unei inteligențe artificiale într-o anumită perioadă de timp; colaborarea cu centrele de date pentru a permite suspendarea anumitor proiecte de cercetare și dezvoltare în domeniul AI; asigurarea faptului că sistemele automatizate de cercetare și dezvoltare în domeniul AI sunt complet izolate și nu pot scăpa de sub controlul uman; crearea unor „planuri de intervenție în situații de urgență” pentru diversele scenarii care ar putea apărea în urma unei explozii a inteligenței. În ciuda unor defecțiuni manifestate de sisteme, cum ar fi nerespectarea instrucțiunilor, proiectele de cercetare și dezvoltare (R&D) a căror realizare ar dura luni întregi în cazul oamenilor ar putea fi complet automatizate de AI până în 2028. „Creșterile de productivitate rezultate din automatizarea activităților de cercetare și dezvoltare prin AI nu au atins încă pragul necesar pentru a declanșa o explozie a inteligenței, dar creșterile obținute de sistemele mai noi se apropie probabil de acest prag”, au afirmat aceștia.
sursa digi24
