Se ti sei perso gli orari di apertura dell'ufficio di @NousResearch, ecco un TLDR su cosa hai perso 🤖 Psyche sta democratizzando l'addestramento dell'IA su @solana Panoramica del Progetto Psyche: Psyche mira a consentire l'addestramento collaborativo e open-source di grandi modelli di IA di base, riducendo la dipendenza da laboratori chiusi e utilizzando algoritmi per minimizzare l'overhead di comunicazione nell'addestramento distribuito su GPU. Addestramento del Modello Attuale: Attualmente stanno addestrando un LLM denso in stile DeepSeek con 40 miliardi di parametri, progettato per essere potente ma eseguibile localmente. Coordinazione Decentralizzata: La coordinazione dell'addestramento avviene sulla rete Solana per garantire decentralizzazione ed evitare punti di guasto singoli. Sfide e Soluzioni di Networking: È stata costruita una rete di gossip peer-to-peer utilizzando IRO per gestire la trasmissione dei dati tra i nodi, affrontando le limitazioni di volume di dati di Solana. Passaggio al Backend Python (Torch Titan): Il codice di Psyche sta venendo "Pythonificato" astrando il backend dell'allenatore per supportare allenatori basati su Python (integrando un fork di Torch Titan), previsto per fornire un aumento di velocità di ~2x. Capacità di Fine-tuning: Psyche supporterà presto il fine-tuning completo, inclusi metodi avanzati sviluppati presso Nous, con piani per affinare un modello Nous in arrivo sulla rete. Audit del Tesoriere: Il codice del tesoriere basato su Solana, che gestisce la distribuzione delle ricompense ai fornitori di calcolo, ha superato con successo due audit indipendenti. Ricerca Futura (Psyche 2.0): La ricerca futura include l'esplorazione del Parallelismo Tensoriale (TP), del Parallelismo a Pipeline (PP) e del Parallelismo degli Esperti (EP) su Internet per rendere Psyche una piattaforma per lo sviluppo di algoritmi avanzati di IA. Contributi della Comunità: Gli sviluppatori possono contribuire al codice open-source di Psyche, creare nuovi ambienti per il codice di apprendimento per rinforzo Atropos e supportare la rete di inferenza decentralizzata utilizzando l'API di Nous. Visione a Lungo Termine: L'obiettivo finale è democratizzare l'addestramento dei modelli di IA, consentendo a chiunque di contribuire con calcolo a una rete globale, simile a "folding at home" o "SETI at home," per creare la migliore IA open al mondo. Video:

@aeyakovenko @0xMert_ Ho bisogno di shillarti Nous 🤖