entendre beaucoup d’idées fausses sur le rôle de l’herbe dans l’entraînement de l’IA. Le protocole est conçu pour récupérer des connaissances en temps réel sur le Web à grande échelle, principalement dans le but d’informer un modèle en temps réel des nouveaux développements. De nouvelles informations apparaissent sur Internet, Grass « apprend » ces informations et les fournit au modèle pendant qu’il effectue une tâche. Peu importe que ces nouvelles connaissances aient été créées par un humain ou un robot, ce sont les informations sémantiques qui comptent. nous parlons depuis longtemps maintenant de la façon dont les limites d’échelle ont été saturées pour les modèles basés sur du texte (d’où le RL rabbit hole / importance synthetic data, c’est-à-dire la distillation), mais les modèles multimodaux sont encore loin, loin, loin d’atteindre une saturation similaire. Aujourd’hui, vous ne trouvez pas quelqu’un qui peut générer 10 millions d’heures de données vidéo « synthétiques » de manière économique et utilisable. TLDR - Le temps réel est l’endroit où le réseau accumulera le plus de valeur à long terme, mais à l’heure actuelle, les capacités multimodales sont pour la plupart inégalées et il serait très stupide de ne pas l’utiliser.