Jos et päässyt @NousResearch virka-aikaan, tässä on TLDR siitä, mitä menetit 🤖 Psyche demokratisoi tekoälykoulutusta @solana Psyche-projektin yleiskatsaus: Psyche pyrkii mahdollistamaan suurten tekoälymallien yhteistyöhön perustuvan, avoimen lähdekoodin koulutuksen, vähentämään riippuvuutta suljetuista laboratorioista ja käyttämään algoritmeja minimoimaan viestintäkustannukset hajautetussa GPU-koulutuksessa. Nykyinen mallikoulutus: He kouluttavat tällä hetkellä 40 miljardin parametrin DeepSeek-tyylistä tiheää LLM:ää, joka on suunniteltu tehokkaaksi mutta paikallisesti ajettavaksi. Hajautettu koordinointi: Koulutuksen koordinointi tapahtuu Solana-verkon kautta hajauttamisen varmistamiseksi ja yksittäisten vikapisteiden välttämiseksi. Verkostoitumishaasteet ja -ratkaisut: IRO:ta käyttävä vertaisjuoruverkko rakennettiin käsittelemään tiedonsiirtoa solmujen välillä, mikä vastasi Solanan datamäärän rajoituksiin. Vaihda Python-taustajärjestelmään (Torch Titan): Psychen koodikantaa "Pythonifioidaan" abstraktoimalla kouluttajan taustajärjestelmä tukemaan Python-pohjaisia kouluttajia (integroimalla Torch Titanin haarukka), jonka odotetaan tarjoavan ~2-kertaisen nopeuden. Hienosäätöominaisuudet: Psyche tukee pian täydellistä hienosäätöä, mukaan lukien Nousissa kehitetyt edistyneet menetelmät, ja suunnitelmissa on hienosäätää tulevaa Nous-mallia verkossa. Rahastonhoitajan auditoinnit: Solanassa toimiva rahastonhoitajakoodi, joka hallinnoi palkkioiden jakamista laskentapalveluntarjoajille, on läpäissyt kaksi riippumatonta auditointia. Tuleva tutkimus (Psyche 2.0): Tulevaan tutkimukseen kuuluu tensorin rinnakkaisuuden (TP), putkilinjan rinnakkaisuuden (PP) ja asiantuntijarinnakkaisuuden (EP) tutkiminen Internetin kautta, jotta Psychestä tulisi alusta kehittyneiden tekoälyalgoritmien kehittämiseen. Yhteisön panokset: Kehittäjät voivat osallistua avoimen lähdekoodin Psyche-koodikantaan, luoda uusia ympäristöjä Atropos-vahvistusoppimiskoodikannalle ja tukea hajautettua päättelyverkkoa Nous API:n avulla. Pitkän aikavälin visio: Perimmäisenä tavoitteena on demokratisoida tekoälymallien koulutus, jonka avulla kuka tahansa voi osallistua laskentaan maailmanlaajuiseen verkkoon, kuten "taittaminen kotona" tai "SETI kotona", luodakseen maailman parhaan avoimen tekoälyn. Video:

@aeyakovenko @0xMert_ minun täytyy shillata sinua Nous 🤖