🤖 AI rulează pe GPU-uri, NU pe procesoare. Sarcinile de lucru moderne de inteligență artificială – gândiți-vă la LLM-uri, inferență în timp real – au nevoie de paralelism masiv. GPU-urile precum H100 de la NVIDIA fac acest lucru frumos. Dar iată adevărul crud: odată ce datele tale ajung în memoria GPU, acestea sunt COMPLET expuse. TEE-urile GPU schimbă jocul. 🧵

1/ 🧵 Gândiți-vă la TEE-urile GPU ca la seifuri antiglonț în interiorul plăcii grafice. Acestea păstrează execuția AI privată, verificabilă și inviolabilă, chiar dacă sistemul de operare gazdă este compromis. Cea mai bună parte? Cheltuieli generale de performanță aproape zero (<2% la modelele mari). 😱

2/ 🧵 Cum funcționează GPU TEE? 🔒 Rădăcina de încredere hardware arsă în fiecare cip 🔒 Pornire securizată cu firmware semnat 🔒 Comunicare criptată CPU-GPU 🔒 Atestare de la distanță pentru a dovedi integritatea 🔒 Vizibilitate zero pentru sistemul de operare gazdă sau hipervizor Lanț de încredere deplin de la siliciu la software.

3/ 🧵 Phala a lansat primele benchmark-uri GPU TEE din lume în septembrie anul trecut. Rezultatele: 👊 Pierdere medie de performanță de <9% 👊 Modele mai mari = cheltuieli generale aproape de zero 👊 Pornire cu 20-25% mai lungă (merită pentru securitate) 👊 Transferul PCIe este singurul blocaj real

4/ 🧵 Discuție reală: acest lucru rezolvă probleme MASIVE în AI: 🏥 IA din domeniul sănătății pe clustere partajate (datele pacienților rămân criptate) 🏦 Modele financiare care nu pot divulga strategii de tranzacționare 🔬 Învățare federativă fără expunerea seturilor de date brute ⚖️ Conformitate cu reglementările prin proiectare

1,17 K

Conținutul de pe această pagină este furnizat de terți. Dacă nu se menționează altfel, OKX nu este autorul articolului citat și nu revendică niciun drept intelectual pentru materiale. Conținutul este furnizat doar pentru informare și nu reprezintă opinia OKX. Nu este furnizat pentru a fi o susținere de nicio natură și nu trebuie să fie considerat un sfat de investiție sau o solicitare de a cumpăra sau vinde active digitale. În măsura în care AI-ul de generare este utilizat pentru a furniza rezumate sau alte informații, astfel de conținut generat de AI poate să fie inexact sau neconsecvent. Citiți articolul asociat pentru mai multe detalii și informații. OKX nu răspunde pentru conținutul găzduit pe pagini terțe. Deținerile de active digitale, inclusiv criptomonedele stabile și NFT-urile, prezintă un grad ridicat de risc și pot fluctua semnificativ. Trebuie să analizați cu atenție dacă tranzacționarea sau deținerea de active digitale este adecvată pentru dumneavoastră prin prisma situației dumneavoastră financiare.