🤖 ИИ работает на GPU, а не на CPU. Современные рабочие нагрузки ИИ — подумайте о LLM, реальном времени вывода — требуют огромного параллелизма. GPU, такие как H100 от NVIDIA, делают это прекрасно. Но вот суровая правда: как только ваши данные попадают в память GPU, они полностью открыты. TEE на GPU меняют правила игры. 🧵

1/🧵 Представьте себе GPU TEE как пуленепробиваемые хранилища внутри вашей видеокарты. Они сохраняют выполнение вашего ИИ приватным, проверяемым и защищенным от подделки — даже если хост-ОС скомпрометирована. Лучшая часть? Почти нулевая потеря производительности (<2% на больших моделях). 😱

2/🧵 Как работает GPU TEE? 🔒 Аппаратный корень доверия, встроенный в каждый чип 🔒 Безопасная загрузка с подписанным прошивкой 🔒 Зашифрованная связь между CPU и GPU 🔒 Удаленная аттестация для подтверждения целостности 🔒 Нулевая видимость для хост-ОС или гипервизора Полная цепочка доверия от кремния до программного обеспечения.

3/🧵 Phala представила первые в мире бенчмарки GPU TEE в сентябре прошлого года. Результаты: 👊 <9% средняя потеря производительности 👊 Большие модели = почти нулевые накладные расходы 👊 На 20-25% дольше время запуска (это стоит того ради безопасности) 👊 Передача PCIe является единственным реальным узким местом

4/🧵 Серьезно: это решает ОГРОМНЫЕ проблемы в ИИ: 🏥 ИИ в здравоохранении на общих кластерах (данные пациентов остаются зашифрованными) 🏦 Финансовые модели, которые не могут раскрыть торговые стратегии 🔬 Федеративное обучение без раскрытия сырых наборов данных ⚖️ Соответствие нормативным требованиям по умолчанию

1,17 тыс.

Содержание этой страницы предоставляется третьими сторонами. OKX не является автором цитируемых статей и не имеет на них авторских прав, если не указано иное. Материалы предоставляются исключительно в информационных целях и не отражают мнения OKX. Материалы не являются инвестиционным советом и призывом к покупке или продаже цифровых активов. Раздел использует ИИ для создания обзоров и кратких содержаний предоставленных материалов. Обратите внимание, что информация, сгенерированная ИИ, может быть неточной и непоследовательной. Для получения полной информации изучите соответствующую оригинальную статью. OKX не несет ответственности за материалы, содержащиеся на сторонних сайтах. Цифровые активы, в том числе стейблкоины и NFT, подвержены высокому риску, а их стоимость может сильно колебаться. Перед торговлей и покупкой цифровых активов оцените ваше финансовое состояние и принимайте только взвешенные решения.