Если вы пропустили часы работы @NousResearch, вот краткое содержание того, что вы пропустили 🤖
Psyche демократизирует обучение ИИ на @solana
Обзор проекта Psyche: Psyche стремится обеспечить совместное, открытое обучение крупных базовых моделей ИИ, уменьшая зависимость от закрытых лабораторий и используя алгоритмы для минимизации накладных расходов на связь в распределенном обучении на GPU.
Текущая модель обучения: В настоящее время они обучают плотную LLM в стиле DeepSeek с 40 миллиардами параметров, которая предназначена для того, чтобы быть мощной и при этом запускаться локально.
Децентрализованная координация: Координация обучения происходит через сеть Solana, чтобы обеспечить децентрализацию и избежать единой точки отказа.
Проблемы сетевого взаимодействия и решения: Была создана пиринговая сеть обмена сообщениями с использованием IRO для обработки передачи данных между узлами, что решает ограничения объема данных Solana.
Переход на Python Backend (Torch Titan): Кодовая база Psyche "Pythonified", абстрагируя бэкенд тренера для поддержки тренеров на основе Python (интегрируя форк Torch Titan), что ожидается даст прирост производительности примерно в 2 раза.
Возможности тонкой настройки: Psyche вскоре будет поддерживать полную тонкую настройку, включая продвинутые методы, разработанные в Nous, с планами по тонкой настройке предстоящей модели Nous в сети.
Аудиты казначея: Код казначея на базе Solana, управляющий распределением вознаграждений поставщикам вычислений, успешно прошел два независимых аудита.
Будущие исследования (Psyche 2.0): Будущие исследования включают изучение тензорного параллелизма (TP), параллелизма по конвейеру (PP) и экспертного параллелизма (EP) через интернет, чтобы сделать Psyche платформой для разработки продвинутых алгоритмов ИИ.
Вклад сообщества: Разработчики могут вносить вклад в открытую кодовую базу Psyche, создавать новые среды для кодовой базы обучения с подкреплением Atropos и поддерживать децентрализованную сеть вывода, используя API Nous.
Долгосрочное видение: Конечная цель - демократизировать обучение моделей ИИ, позволяя каждому вносить вычисления в глобальную сеть, подобно "folding at home" или "SETI at home", чтобы создать лучший в мире открытый ИИ.
@aeyakovenko @0xMert_ Мне нужно прорекламировать вам Nous 🤖
683
4
Содержание этой страницы предоставляется третьими сторонами. OKX не является автором цитируемых статей и не имеет на них авторских прав, если не указано иное. Материалы предоставляются исключительно в информационных целях и не отражают мнения OKX. Материалы не являются инвестиционным советом и призывом к покупке или продаже цифровых активов. Раздел использует ИИ для создания обзоров и кратких содержаний предоставленных материалов. Обратите внимание, что информация, сгенерированная ИИ, может быть неточной и непоследовательной. Для получения полной информации изучите соответствующую оригинальную статью. OKX не несет ответственности за материалы, содержащиеся на сторонних сайтах. Цифровые активы, в том числе стейблкоины и NFT, подвержены высокому риску, а их стоимость может сильно колебаться. Перед торговлей и покупкой цифровых активов оцените ваше финансовое состояние и принимайте только взвешенные решения.