Manus tuo AGI:n aamunkoiton, ja tekoälyn tietoturva on jälleen muuttunut

Manus saavutti GAIA-vertailussa SOTA (State-of-the-Art) -pistemäärän, mikä osoittaa, että sen suorituskyky ylittää Open AI:n samantasoisten suuren mittakaavan mallien suorituskyvyn. Toisin sanoen se voi itsenäisesti suorittaa monimutkaisia tehtäviä, kuten rajat ylittäviä liikeneuvotteluja, joihin kuuluu sopimusehtojen purkaminen, strategioiden ennustaminen, ratkaisujen luominen ja jopa laki- ja rahoitustiimien koordinointi. Perinteisiin järjestelmiin verrattuna Manuksen etuna on dynaaminen objektien purkaminen, cross-modaalinen päättely ja muistilla tehostettu oppiminen. Se voi jakaa suuret tehtävät satoihin suoritettaviin osatehtäviin, käsitellä monentyyppisiä tietoja samanaikaisesti ja käyttää vahvistusoppimista parantaakseen jatkuvasti päätöksenteon tehokkuutta ja vähentääkseen virheprosentteja.

Teknologian nopean kehityksen ihmettelyn lisäksi Manus on jälleen kerran herättänyt erimielisyyksiä tekoälyn evoluution tiellä: hallitseeko AGI maailmaa tulevaisuudessa vai onko MAS synergistisesti hallitseva?

Tämä alkaa Manuksen suunnittelufilosofiasta, joka sisältää kaksi mahdollisuutta:

Yksi on AGI-polku. Yksilön älykkyyden tasoa jatkuvasti parantamalla se on lähellä ihmisen kokonaisvaltaista päätöksentekokykyä.

On myös MAS-polku. Superkoordinaattorina voit komentaa tuhansia vertikaalisia agentteja työskentelemään yhdessä.

Päällisin puolin keskustelemme eri poluista, mutta todellisuudessa keskustelemme tekoälyn kehittämisen taustalla olevasta ristiriidasta: miten tehokkuus ja turvallisuus pitäisi tasapainottaa? Mitä lähempänä monoliittinen älykkyys on AGI:tä, sitä suurempi on mustan laatikon päätöksenteon riski. Vaikka usean agentin yhteistyö voi hajauttaa riskejä, se saattaa kuitenkin jäädä paitsi keskeisistä päätöksentekoikkunoista viestintäviiveiden vuoksi.

Manuksen kehitys on näkymättömästi suurentanut tekoälyn kehityksen luontaisia riskejä. Esimerkiksi tietosuojan mustat aukot: lääketieteellisissä skenaarioissa Manus tarvitsee reaaliaikaisen pääsyn potilaan genomitietoihin; Taloudellisten neuvottelujen aikana se voi koskea yhtiön julkistamattomia taloudellisia tietoja; Esimerkiksi algoritminen harhaansa, jossa Manus antaa keskimääräistä alhaisempia palkkasuosituksia tietyn etnisen alkuperän hakijoille rekrytointineuvotteluissa; Lähes puolet nousevien teollisuudenalojen ehdoista arvioidaan väärin, kun laillisia sopimuksia tarkistetaan. Toinen esimerkki on vastakkaisen hyökkäyksen haavoittuvuus, jossa hakkeri istutti tietyn äänitaajuuden, jotta Manus arvioisi väärin vastustajan tarjousalueen neuvottelujen aikana.

Meidän on kohdattava tekoälyjärjestelmien kauhea kipupiste: mitä älykkäämpi järjestelmä, sitä leveämpi hyökkäyspinta.

Turvallisuus on kuitenkin sana, joka on jatkuvasti mainittu web3:ssa, ja erilaisia salausmenetelmiä on johdettu V-jumalan mahdottoman kolmion kehyksestä (lohkoketjuverkot eivät pysty saavuttamaan turvallisuutta, hajauttamista ja skaalautuvuutta samanaikaisesti):

1. Zero Trust -suojausmalli: Zero Trust -suojausmallin ydinajatus on "älä luota kehenkään, tarkista aina", mikä tarkoittaa, että laitteisiin ei tule oletusarvoisesti luottaa riippumatta siitä, ovatko ne sisäisessä verkossa vai eivät. Tämä malli korostaa tiukkaa todennusta ja valtuutusta jokaiselle käyttöoikeuspyynnölle järjestelmän turvallisuuden varmistamiseksi.

2. Hajautettu identiteetti (DID): DID on joukko tunnistestandardeja, joiden avulla yksiköt voidaan tunnistaa todennettavissa olevalla ja pysyvällä tavalla ilman keskitettyä rekisteriä. Tämä mahdollistaa uuden hajautetun digitaalisen identiteetin mallin, jota usein verrataan itsemääräävään identiteettiin, ja se on tärkeä osa Web3:a.

3. Täysin homomorfinen salaus (FHE): on edistynyt salaustekniikka, joka mahdollistaa mielivaltaisen laskennan salatuille tiedoille purkamatta niiden salausta. Tämä tarkoittaa, että kolmas osapuoli voi suorittaa toimintoja salatekstille, ja salauksen purkamisen jälkeen saatu tulos on sama kuin saman toiminnon tulos selkotekstissä. Tämä ominaisuus on tärkeä skenaarioissa, jotka edellyttävät laskentaa paljastamatta raakadataa, kuten pilvipalveluissa ja tietojen ulkoistamisessa.

Zero trust -tietoturvamallilla ja DID:llä on tietty määrä projekteja useilla härkämarkkinoiden kierroksilla, ja ne ovat joko onnistuneet tai hukkuneet salauksen aaltoon, ja nuorimpana salausmenetelmänä: Täysin homomorfinen salaus (FHE) on myös suuri tappaja tekoälyn aikakauden tietoturvaongelmien ratkaisemisessa. Täysin homomorfinen salaus (FHE) on tekniikka, joka mahdollistaa laskennan salatulle tiedolle.

Kuinka korjata se?

Ensinnäkin datataso. Kaikki käyttäjän syöttämät tiedot (mukaan lukien biometriset tiedot, äänensävy) käsitellään salatussa tilassa, eikä edes Manus itse voi purkaa alkuperäisten tietojen salausta. Esimerkiksi lääketieteellisessä diagnoositapauksessa potilaan genomitiedot analysoidaan salatekstinä koko prosessin ajan, jotta vältetään biologisen tiedon vuotaminen.

Algoritminen taso. FHE:n toteuttama "salausmallikoulutus" tekee kehittäjien mahdottomaksi kurkistaa tekoälyn päätöksentekopolulle.

Synergian tasolla. Kynnyssalausta käytetään useiden agenttien viestinnässä, eikä yhtä solmua rikota aiheuttamatta maailmanlaajuista tietovuotoa. Edes toimitusketjun hyökkäys- ja puolustusharjoituksissa hyökkääjät eivät voi saada täydellistä kuvaa liiketoiminnasta soluttauduttuaan useisiin agentteihin.

Teknisten rajoitusten vuoksi web3-turvallisuus ei välttämättä liity suoraan useimpiin käyttäjiin, mutta se liittyy erottamattomasti epäsuoriin etuihin, ja tässä pimeässä metsässä, jos et tee parhaasi aseistautuaksesi, et koskaan pääse pakoon "purjojen" identiteettiä.

uPort lanseerattiin Ethereumin pääverkossa vuonna 2017, ja se oli luultavasti ensimmäinen hajautetun identiteetin (DID) projekti, joka julkaistiin pääverkossa.
Nollaluottamusmallin osalta NKN julkaisi pääverkkonsa vuonna 2019.
Mind Network on ensimmäinen pääverkossa käynnistetty FHE-projekti, ja se on ottanut johtoaseman yhteistyössä ZAMA:n, Googlen, DeepSeekin jne.

uPort ja NKN ovat jo projekteja, joista en ole koskaan kuullutkaan, ja näyttää siltä, että keinottelijat eivät todellakaan koske tietoturvaprojekteja, joten odotellaan ja katsotaan, voiko Mind network paeta tätä kirousta ja tulla johtavaksi turvallisuusalalla.

Tulevaisuus on täällä. Mitä lähempänä tekoäly on ihmisen älykkyyttä, sitä enemmän se tarvitsee ei-inhimillisiä puolustusjärjestelmiä. Verkkotietoturvan arvo ei ole vain nykyisten ongelmien ratkaiseminen, vaan myös vahvan tekoälyn aikakauden tasoittaminen. Tällä jyrkällä tiellä AGI:hen kyberturvallisuus ei ole vaihtoehto, vaan välttämättömyys selviytymiselle.