Acum două zile, o companie a lansat publicului cel mai puternic model de inteligență artificială lansat vreodată.
Vineri seară, guvernul Statelor Unite a ordonat închiderea acestuia. La nivel mondial. Fiecare utilizator, fiecare țară, dispăruse până dimineața.
Declanșatorul nu a fost un atac. Un rival i-a arătat guvernului o modalitate de a ocoli una dintre încuietorile de siguranță. A fost suficient.
Compania este Anthropic. Modelele sunt Fable 5 și Mythos 5, cele mai capabile sisteme pe care le-a construit vreodată, funcționează abia 72 de ore. Vineri seara, la 5:21, secretarul Comerțului, Howard Lutnick, i-a trimis CEO-ului o scrisoare prin care plasa ambele sub control al exporturilor, invocând securitatea națională. Ordinul, la prima vedere, interzicea doar cetățenii străini. Dar Anthropic nu poate separa utilizatorii străini de toți ceilalți în timp real, așa că, pentru a se conforma, a trebuit să-i oprească pe toți. Cea mai avansată inteligență artificială de pe Pământ s-a închis pentru întreaga planetă din cauza unei propoziții dintr-o scrisoare.
Iată declanșatorul și este partea care ar trebui să te oprească.
Conform relatării Anthropic, guvernul a analizat o singură demonstrație în care modelul a fost rugat să citească o bază de cod și să îi remedieze defectele, iar aceasta a scos la iveală un număr mic de vulnerabilități minore, cunoscute anterior. Aceasta este capacitatea în cauză. Găsirea de erori în cod. Același tip de capacitate pe care, acum două săptămâni, un cercetător a folosit-o pentru a depista o breșă veche de patru ani în Zcash înainte ca aceasta să poată fi drenată. Lucrul care face din model un apărător de clasă mondială este exact lucrul care l-a determinat să fie numit risc de securitate națională.
Iar replica Anthropic este clară. Se spune că sarcina identică rulează pe GPT-5.5 de la OpenAI, care nu se află sub niciun astfel de control, și că apărătorii folosesc deja această tehnică în fiecare zi. Modelul unei companii este retras la nivel mondial. Modelul unui rival, care face același lucru, rămâne online. Securitatea națională este motivul invocat. Accidentul competitiv este rezultatul obținut.
Acest lucru nu a apărut de nicăieri. Aceeași administrație a petrecut primăvara încercând să eticheteze Anthropic drept un risc pentru lanțul de aprovizionare, după ce compania a refuzat să permită utilizarea modelelor sale pentru supraveghere internă în masă și arme autonome. Un judecător a blocat acest lucru. Cele două părți abia începuseră să se dezghețe. Anthropic depusese cererea de a intra pe bursă la o evaluare de 965 de miliarde de dolari. Pe 2 iunie, președintele a semnat un ordin care acorda guvernului acces timpuriu la modelele de frontieră. Apoi, un rival a demonstrat o evadare din închisoare, iar cel mai puternic model din lume a fost oprit la trei zile după lansare.
Dacă faci un pas înapoi, modelul este cel care se repetă. O dovadă zero-knowledge a ascuns o eroare de patru ani. Un audit curat a ascuns o poartă de răscumpărare. Un zid de siguranță pe care compania l-a construit pentru a părea responsabilă a devenit pârghia precisă pe care statul a folosit-o pentru a acționa comutatorul. Cel mai sigur laborator din domeniul inteligenței artificiale a construit un model prea puternic pentru a fi lansat complet, a avertizat lumea că este periculos, a depus cererea de a intra pe bursă la o valoare de 965 de miliarde de dolari și l-a închis de propriul guvern din cauza unui truc de detectare a erorilor pe care un concurent îl poate folosi fără a-l atinge.
Anthropic numește acest lucru o neînțelegere și spune că lucrează pentru a restabili accesul. Începând de vineri seară, cea mai puternică inteligență artificială publică de pe Pământ este un ecran negru, iar comutatorul de dezactivare s-a dovedit a aparține statului.
sursa: X
Radu Zlati 
Lasă un comentariu