Якщо ви пропустили @NousResearch години роботи, ось TLDR про те, що ви пропустили 🤖 Psyche демократизує навчання ШІ на @solana Огляд проекту Psyche: Psyche має на меті забезпечити спільне навчання з відкритим вихідним кодом великих базових моделей штучного інтелекту, зменшуючи залежність від закритих лабораторій і використовуючи алгоритми для мінімізації накладних витрат на зв'язок у розподіленому навчанні GPU. Поточне навчання моделі: В даний час вони тренують щільний LLM в стилі DeepSeek з 40 мільярдами параметрів, розроблений таким чином, щоб бути потужним, але придатним для локального використання. Децентралізована координація: координація тренувань відбувається через мережу Solana, щоб забезпечити децентралізацію та уникнути окремих точок відмови. Проблеми та рішення в мережі: Однорангова мережа пліток, яка використовує IRO, була створена для обробки передачі даних між вузлами, усуваючи обмеження обсягу даних Solana. Перехід на Python Backend (Torch Titan): кодова база Psyche «Pythonicon» шляхом абстрагування бекенду трейнера для підтримки трейнерів на основі Python (інтеграція форку Torch Titan), що, як очікується, забезпечить ~2-кратне прискорення. Можливості тонкого налаштування: Psyche незабаром буде підтримувати повне тонке налаштування, включаючи передові методи, розроблені в Nous, з планами тонкого налаштування майбутньої моделі Nous в мережі. Аудит скарбника: Кодекс скарбника на основі Solana, який керує розподілом винагород серед постачальників обчислень, успішно пройшов два незалежні аудити. Майбутні дослідження (Psyche 2.0): Майбутні дослідження включають вивчення тензорного паралелізму (TP), паралелізму конвеєрів (PP) та експертного паралелізму (EP) в Інтернеті, щоб зробити Psyche платформою для розробки передових алгоритмів штучного інтелекту. Внески спільноти: Розробники можуть внести свій вклад у кодову базу Psyche з відкритим вихідним кодом, створювати нові середовища для кодової бази навчання з підкріпленням Atropos і підтримувати децентралізовану мережу висновків за допомогою API Nous. Довгострокове бачення: Кінцева мета полягає в демократизації навчання моделей штучного інтелекту, що дозволить будь-кому вносити обчислення в глобальну мережу, подібну до «складання вдома» або «SETI вдома», для створення найкращого у світі відкритого штучного інтелекту. Відео:

@aeyakovenko @0xMert_ мені потрібно обрушити на тебе Нуса 🤖