Se você perdeu o horário de expediente @NousResearch, aqui está um TLDR sobre o que você perdeu 🤖 Psyche está democratizando o treinamento de IA em @solana Visão geral do projeto Psyche: O Psyche visa permitir o treinamento colaborativo e de código aberto de grandes modelos de IA de base, reduzindo a dependência de laboratórios fechados e usando algoritmos para minimizar a sobrecarga de comunicação no treinamento de GPU distribuído. Treinamento de modelo atual: Atualmente, eles estão treinando um LLM denso no estilo DeepSeek de 40 bilhões de parâmetros, projetado para ser poderoso, mas executável localmente. Coordenação descentralizada: A coordenação do treinamento ocorre na rede Solana para garantir a descentralização e evitar pontos únicos de falha. Desafios e soluções de rede: Uma rede de fofocas ponto a ponto usando IRO foi construída para lidar com a transmissão de dados entre nós, abordando as limitações de volume de dados da Solana. Mudança para o back-end Python (Torch Titan): A base de código do Psyche está sendo "Pythonificada" abstraindo o back-end do treinador para suportar treinadores baseados em Python (integrando um fork do Torch Titan), que deve fornecer uma aceleração de ~ 2x. Recursos de ajuste fino: O Psyche em breve oferecerá suporte ao ajuste fino completo, incluindo métodos avançados desenvolvidos no Nous, com planos de ajustar um próximo modelo Nous na rede. Auditorias de tesoureiro: O código de tesoureiro baseado em Solana, gerenciando a distribuição de recompensas para provedores de computação, passou com sucesso em duas auditorias independentes. Pesquisa futura (Psyche 2.0): Pesquisas futuras incluem a exploração de paralelismo tensorial (TP), paralelismo de pipeline (PP) e paralelismo especializado (EP) na Internet para tornar o Psyche uma plataforma para o desenvolvimento de algoritmos avançados de IA. Contribuições da comunidade: Os desenvolvedores podem contribuir para a base de código de código aberto do Psyche, criar novos ambientes para a base de código de aprendizado por reforço Atropos e oferecer suporte à rede de inferência descentralizada usando a API Nous. Visão de longo prazo: O objetivo final é democratizar o treinamento de modelos de IA, permitindo que qualquer pessoa contribua com computação para uma rede global, semelhante a "dobrar em casa" ou "SETI em casa", para criar a melhor IA aberta do mundo. Vídeo:

@aeyakovenko @0xMert_ eu preciso te enganar, Nous 🤖