Si te perdiste las horas de oficina de @NousResearch, aquí tienes un resumen de lo que te perdiste 🤖 Psyche está democratizando el entrenamiento de IA en @solana Descripción del Proyecto Psyche: Psyche tiene como objetivo permitir el entrenamiento colaborativo y de código abierto de grandes modelos de IA, reduciendo la dependencia de laboratorios cerrados y utilizando algoritmos para minimizar la sobrecarga de comunicación en el entrenamiento distribuido con GPU. Entrenamiento del Modelo Actual: Actualmente están entrenando un LLM denso estilo DeepSeek de 40 mil millones de parámetros, diseñado para ser potente pero ejecutable localmente. Coordinación Descentralizada: La coordinación del entrenamiento se lleva a cabo a través de la red Solana para garantizar la descentralización y evitar puntos únicos de fallo. Desafíos de Redes y Soluciones: Se construyó una red de gossip peer-to-peer utilizando IRO para manejar la transmisión de datos entre nodos, abordando las limitaciones de volumen de datos de Solana. Cambio a Backend en Python (Torch Titan): La base de código de Psyche está siendo "Pythonificada" al abstraer el backend del entrenador para soportar entrenadores basados en Python (integrando un fork de Torch Titan), se espera que proporcione una aceleración de ~2x. Capacidades de Ajuste Fino: Psyche pronto soportará ajuste fino completo, incluyendo métodos avanzados desarrollados en Nous, con planes de ajustar un próximo modelo de Nous en la red. Auditorías del Tesorero: El código del tesorero basado en Solana, que gestiona la distribución de recompensas a los proveedores de computación, ha pasado con éxito dos auditorías independientes. Investigación Futura (Psyche 2.0): La investigación futura incluye explorar el Paralelismo Tensorial (TP), el Paralelismo de Pipeline (PP) y el Paralelismo de Expertos (EP) a través de internet para hacer de Psyche una plataforma para desarrollar algoritmos avanzados de IA. Contribuciones de la Comunidad: Los desarrolladores pueden contribuir a la base de código de Psyche de código abierto, crear nuevos entornos para la base de código de aprendizaje por refuerzo Atropos y apoyar la red de inferencia descentralizada utilizando la API de Nous. Visión a Largo Plazo: El objetivo final es democratizar el entrenamiento de modelos de IA, permitiendo que cualquiera contribuya con computación a una red global, similar a "folding at home" o "SETI at home," para crear la mejor IA abierta del mundo. Video:
Las horas de oficina de Psyche comienzan en 20 minutos en nuestro Discord - ¡Nos vemos allí!
@aeyakovenko @0xMert_ Necesito promocionarles Nous 🤖
Mostrar original
709
4
El contenido de esta página lo proporcionan terceros. A menos que se indique lo contrario, OKX no es el autor de los artículos citados y no reclama ningún derecho de autor sobre los materiales. El contenido se proporciona únicamente con fines informativos y no representa las opiniones de OKX. No pretende ser un respaldo de ningún tipo y no debe ser considerado como un consejo de inversión o una solicitud para comprar o vender activos digitales. En la medida en que la IA generativa se utiliza para proporcionar resúmenes u otra información, dicho contenido generado por IA puede ser inexacto o incoherente. Lee el artículo vinculado para obtener más detalles e información. OKX no es responsable del contenido alojado en sitios de terceros. El holding de activos digitales, incluyendo stablecoins y NFT, implican un alto grado de riesgo y pueden fluctuar en gran medida. Debes considerar cuidadosamente si el trading o holding de activos digitales es adecuado para ti a la luz de tu situación financiera.