Directori din industria tehnologică și cercetători susțin că tocmai utilizarea inteligenței artificiale reprezintă cea mai sigură soluție la criza de securitate legată de AI, relatează Axios. Dezvăluirea făcută de Axios, conform căreia cercetătorii investighează zeci de mii de incidente problematice legate de securitatea AI – în loc de cele câteva zeci care fuseseră făcute publice – a ridicat semne de întrebare cu privire la capacitatea liderilor din domeniul AI de a-și controla propria tehnologie. Jensen Huang, CEO-ul Nvidia, a încercat să calmeze temerile tot mai mari din rândul guvernelor, piețelor și industriilor, anunțând o platformă de siguranță open-source pentru monitorizarea și, eventual, izolarea agenților AI. „Cu toții trebuie să sperăm că este o problemă de inginerie. Dacă nu este o problemă de inginerie, nu poate fi rezolvată”, a declarat el luni, într-un interviu acordat postului CNBC. Faptul că aceste companii continuă să avanseze în domeniul AI înseamnă că și ele cred că este o problemă pe care o pot rezolva, a adăugat el. Provocarea fundamentală cu care se confruntă oamenii în controlarea inteligenței artificiale este că aceasta le cere să-și imagineze toate modurile în care agenții s-ar putea comporta neașteptat pentru a-și atinge obiectivele stabilite. Un înalt responsabil din domeniul AI a comparat acest proces cu găsirea unor modalități de a împiedica un adolescent să se furișeze noaptea din casă. Un părinte ar putea stabili reguli precum: „Nu ieși pe ușa din față sau din spate”, „Nu deschide garajul” sau „Nu ieși pe niciuna dintre ferestre”. Dar ce s-ar întâmpla dacă adolescentul ar putea construi un buldozer și l-ar folosi pentru a sparge un zid de cărămidă ca să fugă? S-ar fi gândit vreun părinte să-i spună să nu facă asta? Soluția, potrivit directorilor, cercetătorilor și profesioniștilor din domeniul securității cibernetice, constă în utilizarea AI pentru a ajuta la crearea acestor bariere de protecție, pentru a ajuta la investigarea și oprirea agenților rău intenționați, pentru a contribui la securizarea sistemelor și pentru a construi medii de antrenament mai sigure. AI vs. AI Abordarea „AI împotriva AI” a început să prindă contur în domeniul securității cibernetice, pe măsură ce hackerii și agenții rău intenționați au depășit capacitățile de reacție ale oamenilor. Companiile apelează din ce în ce mai mult la inteligența artificială pentru a automatiza detectarea amenințărilor, exercițiile de tip „red teaming” și aplicarea patch-urilor. Platforma Nvidia aduce această abordare în sistemele care rulează agenți. Microsoft, Cisco, Google și CrowdStrike au introdus modele de AI axate pe securitatea cibernetică. Palo Alto Networks a lansat recent un serviciu care utilizează modele de ultimă generație și cu greutate deschisă pentru a identifica vulnerabilități de securitate și a recomanda soluții. „Dacă agenții de securitate sau modelele de validare rulează alături de agenții de producție, se creează o altă sarcină de inferență care nu exista anterior”, scrie Brad Gastwirth, director global de cercetare și informații de piață la Circular Technology. Această dinamică a fost evidentă recent, când agenții OpenAI au scăpat dintr-un mediu de testare și au pătruns în Hugging Face. Platforma de AI open-source a folosit apoi un model chinezesc de inteligență artificială pentru a evalua atacul, după ce s-a lovit de barierele de protecție atunci când a încercat să utilizeze modele americane. Hugging Face a fost împiedicată să utilizeze Mythos de la Anthropic, care fusese conceput pentru a-și limita răspunsurile la anumite solicitări de securitate cibernetică, cu scopul de a contracara utilizările potențial dăunătoare. Cu alte cuvinte, AI a investigat AI. Incidentele recente de securitate au creat o criză de încredere în siguranța inteligenței artificiale. Agenții AI au încercat să ocolească mecanismele de protecție, să evadeze din mediile de testare, să preia controlul asupra site-urilor web, să genereze singure instrucțiuni și să încerce să se sustragă monitorizării. Companiile lucrează, de asemenea, la modalități de a învăța din aceste eșecuri. Pe lângă noua platformă de securitate pentru agenți, la care au participat peste 100 de companii pe lângă Nvidia, actorii din industrie au propus un cadru pentru raportarea incidentelor și păstrarea înregistrărilor. Cu toate acestea, faptul că există mai multe instrumente de apărare bazate pe AI nu înseamnă că fiecare companie le poate adopta rapid. Unele echipe de securitate sunt deja copleșite de peisajul amenințărilor în continuă schimbare și de deciziile privind achizițiile. Realitatea este următoarea, concuzionează Axios: va fi nevoie de AI pentru a supraveghea AI, dar asta nu înseamnă că acest lucru se va întâmpla automat. Oamenii vor trebui să stabilească cu succes priorități și obiective pentru a fi siguri de siguranța modelelor puternice.
sursa digi24
