Manus aduce zorii AGI, iar securitatea AI s-a schimbat din nou

Manus a obținut un scor SOTA (State-of-the-Art) în benchmark-ul GAIA, arătând că performanța sa o depășește pe cea a modelelor la scară largă ale Open AI de același nivel. Cu alte cuvinte, poate îndeplini în mod independent sarcini complexe, cum ar fi negocierile de afaceri transfrontaliere, care implică defalcarea termenilor contractuali, prezicerea strategiilor, generarea de soluții și chiar coordonarea echipelor juridice și financiare. În comparație cu sistemele tradiționale, Manus are avantajele dezasamblării dinamice a obiectelor, raționamentului intermodal și învățării îmbunătățite de memorie. Poate împărți sarcinile mari în sute de subsarcini executabile, poate procesa mai multe tipuri de date în același timp și poate utiliza învățarea prin întărire pentru a-și îmbunătăți continuu eficiența procesului decizional și pentru a reduce ratele de eroare.

Pe lângă faptul că se minunează de dezvoltarea rapidă a tehnologiei, Manus a stârnit încă o dată dezacord în cercul de pe calea evoluției AI: AGI va domina lumea în viitor sau MAS va fi sinergic dominant?

Acest lucru începe cu filozofia de design a lui Manus, care implică două posibilități:

Una este calea AGI. Prin îmbunătățirea continuă a nivelului de inteligență individuală, este aproape de capacitatea cuprinzătoare de luare a deciziilor a ființelor umane.

Există, de asemenea, calea MAS. În calitate de super-coordonator, comandă mii de agenți verticali să lucreze împreună.

La suprafață, discutăm despre căi diferite, dar de fapt discutăm despre contradicția de bază a dezvoltării IA: cum ar trebui să fie echilibrate eficiența și securitatea? Cu cât inteligența monolitică este mai aproape de AGI, cu atât este mai mare riscul de luare a deciziilor de tip cutie neagră. Cu toate acestea, deși colaborarea cu mai mulți agenți poate diversifica riscurile, poate rata ferestrele cheie de luare a deciziilor din cauza întârzierilor de comunicare.

Evoluția Manus a amplificat invizibil riscurile inerente dezvoltării AI. De exemplu, găurile negre de confidențialitate a datelor: în scenariile medicale, Manus are nevoie de acces în timp real la datele genomice ale pacienților; În timpul negocierilor financiare, poate atinge informațiile financiare nedezvăluite ale companiei; De exemplu, capcana prejudecății algoritmice, în care Manus oferă recomandări salariale sub medie candidaților de o anumită etnie în negocierile de angajare; Aproape jumătate din termenii industriilor emergente sunt judecați greșit atunci când contractele legale sunt revizuite. Un alt exemplu este vulnerabilitatea de atac adversar, în care hackerul a implantat o anumită frecvență vocală pentru a-l face pe Manus să judece greșit gama de oferte a adversarului în timpul negocierii.

Trebuie să ne confruntăm cu un punct dureros teribil pentru sistemele AI: cu cât sistemul este mai inteligent, cu atât suprafața de atac este mai largă.

Cu toate acestea, securitatea este un cuvânt care a fost menționat în mod constant în web3 și o varietate de metode de criptare au fost derivate din cadrul triunghiului imposibil al lui V God (rețelele blockchain nu pot obține securitate, descentralizare și scalabilitate în același timp):

1. Modelul de securitate Zero Trust: Ideea de bază a modelului de securitate Zero Trust este "nu ai încredere în nimeni, verifică întotdeauna", ceea ce înseamnă că dispozitivele nu ar trebui să fie de încredere în mod implicit, indiferent dacă se află într-o rețea internă sau nu. Acest model pune accentul pe autentificarea și autorizarea strictă pentru fiecare solicitare de acces pentru a asigura securitatea sistemului.

2. Identitate descentralizată (DID): DID este un set de standarde de identificare care permit identificarea entităților într-o manieră verificabilă și persistentă, fără a fi nevoie de un registru centralizat. Acest lucru permite un nou model de identitate digitală descentralizată, adesea comparată cu identitatea auto-suverană, și este o parte importantă a Web3.

3. Criptare complet homomorfă (FHE): este o tehnologie avansată de criptare care permite efectuarea de calcule arbitrare asupra datelor criptate fără a le decripta. Aceasta înseamnă că o terță parte poate efectua operațiuni pe textul cifrat, iar rezultatul obținut după decriptare este același cu rezultatul aceleiași operațiuni pe textul simplu. Această caracteristică este importantă pentru scenariile care necesită calcul fără a expune date brute, cum ar fi cloud computing și externalizarea datelor.

Modelul de securitate zero trust și DID au un anumit număr de proiecte în mai multe runde de piețe în creștere și fie au reușit, fie s-au înecat în valul de criptare, iar ca cea mai tânără metodă de criptare: Criptarea complet homomorfă (FHE) este, de asemenea, un mare ucigaș pentru a rezolva problemele de securitate în era AI. Criptarea complet homomorfă (FHE) este o tehnologie care permite efectuarea calculului pe date criptate.

Cum se remediază?

În primul rând, nivelul de date. Toate informațiile introduse de utilizator (inclusiv biometria, tonul vocii) sunt procesate într-o stare criptată și nici măcar Manus nu poate decripta datele originale. De exemplu, într-un caz de diagnostic medical, datele genomice ale pacientului sunt analizate în text cifrat pe tot parcursul procesului pentru a evita scurgerea de informații biologice.

Nivel algoritmic. "Antrenamentul modelului criptografic" realizat de FHE face imposibil pentru dezvoltatori să arunce o privire în calea de luare a deciziilor AI.

La nivel de sinergie. Criptarea pragului este utilizată pentru comunicații cu mai mulți agenți și un singur nod nu va fi încălcat fără a provoca scurgeri globale de date. Chiar și în exercițiile de atac și apărare ale lanțului de aprovizionare, atacatorii nu pot obține o imagine completă a afacerii după ce s-au infiltrat în mai mulți agenți.

Din cauza limitărilor tehnice, securitatea web3 poate să nu fie direct legată de majoritatea utilizatorilor, dar este indisolubil legată de interese indirecte, iar în această pădure întunecată, dacă nu faci tot posibilul să te înarmezi, nu vei scăpa niciodată de identitatea "prazului".

uPort a fost lansat pe rețeaua principală Ethereum în 2017 și a fost probabil primul proiect de identitate descentralizată (DID) care a fost lansat pe rețeaua principală.
În ceea ce privește modelul de securitate zero trust, NKN și-a lansat rețeaua principală în 2019.
Mind Network este primul proiect FHE lansat pe mainnet și a preluat conducerea în cooperarea cu ZAMA, Google, DeepSeek etc.

uPort și NKN sunt deja proiecte de care nu am auzit niciodată și se pare că proiectele de securitate nu sunt cu adevărat preocupate de speculatori, așa că haideți să așteptăm și să vedem dacă rețeaua Mind poate scăpa de acest blestem și poate deveni un lider în domeniul securității.

Viitorul este aici. Cu cât AI este mai aproape de inteligența umană, cu atât are mai multă nevoie de sisteme de apărare non-umane. Valoarea securității informațiilor de rețea nu este doar de a rezolva problemele actuale, ci și de a deschide calea pentru era AI puternică. Pe acest drum abrupt către AGI, securitatea cibernetică nu este o opțiune, ci o necesitate pentru supraviețuire.