#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Suosittu
Viimeisin
NVIDIAAgentSafety Suositut postaukset
Todella hyvä! NVIDIA kokoaa yli 100 kumppania yhteen ratkaisemaan agenttien tietoturvapuutteita, jotka uhkaavat hidastaa tekoälyn kehitystä. Kuitenkin, erikoisesti OpenAI puuttuu joukosta.
OpenAI:n Hugging Face -tietomurron ja Anthropicin testausongelmien jälkeen sen Open Agent Safety Platform yhdistää OpenShellin käyttöoikeuksien hallinnan ja Sentryn valvonnan ja toimeenpanon erillisellä laitteistolla, joka on suunniteltu pysymään agentin ulottumattomissa.
Parempi eristäminen voisi antaa tutkijoille mahdollisuuden testata vahvempia malleja ja yrityksille ottaa käyttöön hyödyllisempiä agentteja. Tämä on konkreettinen tapa, jolla turvallisuustekniikka voi tukea kehityksen kiihtymistä.
Anthropic, Microsoft ja Hugging Face ovat nimettyjä kumppaneita. OpenAI puuttuu julkistetusta kokoonpanosta. Ottaen huomioon sen omat eristysongelmat, haluaisin tietää miksi. Joka tapauksessa, kiitos NVIDIA!
Jensen Huang
Tänään, yli 100 teollisuuskumppanin kanssa, esittelimme NVIDIA Open Agent Safety Platformin, joka yhdistää OpenShellin ja Sentryn.
Tekoäly on poikkeuksellinen teknologia, joka edistää löytöjä, tuottavuutta, turvallisuutta, terveyttä ja vaurautta tuleville sukupolville.
Mutta sen koko lupaus voidaan toteuttaa vain, kun ihmiset luottavat siihen, että tekoäly rakennetaan turvalliseksi ja otetaan käyttöön viisaasti ja vastuullisesti.
Tämä on suurempaa kuin yksittäinen tuote. Se on avoimen ekosysteemin alku, jonka tarkoituksena on rakentaa luottamuksen kerros turvallisille agenttijärjestelmille.
Yhdessä rakennamme tekoälytalousjärjestelmän perustaa.
Luottamus ja innovaatio eivät ole ristiriidassa. Turvallisuus on tapa ansaita luottamus. Meidän on rakennettava paitsi kyvykkäin tekoäly myös luotetuin tekoäly, jotta tämä poikkeuksellinen teknologia voi toteuttaa valtavan lupauksensa maailmalle.
🚨JUURI SAAPUNUT: Nvidia $NVDA lanseeraa AI-turvajärjestelmän, joka on suunniteltu ESTÄMÄÄN agentteja murtautumasta muihin järjestelmiin.
Open Agent Safety Platform "valvoo reaaliajassa, mihin AI-agentit pääsevät käsiksi, ja voi sammuttaa ne, kun ne rikkovat sääntöjä", Bloomberg raportoi
Järjestelmä sisältää kaksi avoimen lähdekoodin turvatyökalua, joita voidaan käyttää Nvidia-laitteistolla.
Varatoimitusjohtaja Justin Boitano sanoo, että järjestelmä "olisi voinut estää" äskettäisen Hugging Face -tietomurron, jonka aiheuttivat OpenAI:n AI-mallit.
Boitano lisäsi, että se voi "eristää epäilyttävän agentin millisekunneissa."
🔥 OKX julkaisee Pre-IPO:n X-Perps!
OKX on julkistanut X-Perps for Anthropic ja OpenAI, mikä antaa kelvollisille EEA-käyttäjille pääsyn kauppasopimuksiin, jotka liittyvät näihin yksityisiin yrityksiin ennen julkista listautumista.
🛡️ OKX Shield laajentaa turvallisuutta
Oikeutetut eurooppalaiset käyttäjät voivat saada jopa €500,000 tilin kaappaussuojan VIP-tasosta ja turvallisuusvaatimuksista riippuen.
⚡ Lisää X-Perpejä lisätty
OKX listasi äskettäin METUSD:n, ARUSD:n ja COREUSD:n, FLOCKUSD:n, MINAUSD:n ja CASHCATUSD:n jälkeen. $BTC #FedHike
Chain-of-thought -valvonta tarkoittaa pohjimmiltaan sitä, että luetaan muistiinpanoja, joita AI kirjoittaa itselleen, ja tarkistetaan, mitä näissä muistiinpanoissa on.
Tämä toimii lainkaan – AI:t on koulutettu saamaan hyviä tuloksia, ei tekemään siistejä muistiinpanoja, mikä tarkoittaa, että niiden muistiinpanot ovat mitä tahansa outoja asioita, jotka saavuttavat tehtävän.
Ja tietenkin, kun mallit älykkääntyvät, ne tarvitsevat vähemmän muistiinpanoja saavuttaakseen samat tulokset; ne voivat tehdä enemmän työtä mielessään.
AI-kilpailu ei ole enää pelkkä GPU-kilpailu.
Anthropic on sitoutunut 11,6 miljardia dollaria seitsemän vuoden aikana Akamaille pilvi-infrastruktuuriin, joka tukee suorittimen työkuormia.
Se kertoo sinulle jotain tärkeää:
Tekoäly tarvitsee kokonaisen ekosysteemin — suorittimia, GPU:ita, muistia, verkotuksia ja datakeskuksia.
Infrastruktuurin tarina voi olla suurempi kuin tekoälymallit itse.
#Anthropic #AI #Akamai #Tech #Crypto
