$LA Lagrange fait beaucoup de choses intéressantes ces jours-ci. Vous devez être au courant de la sortie de Gemma3 par Google… Gemma3 est le modèle d'IA de nouvelle génération créé par Google, qui fonctionne de manière plus intelligente avec moins de paramètres (unités de calcul semblables à des neurones). Il est rapide et précis, mais assez différent de la structure GPT existante. Par exemple : - GQA (Grouped Query Attention) : au lieu de résoudre plusieurs fois le même problème, il partage les réponses. -> Efficacité de calcul ↑ - Attention locale + globale : les mots proches sont locaux, ceux éloignés sont globaux, ce qui permet de se concentrer. -> Calculs inutiles ↓ - RoPE (Rotary Positional Encoding) : représente l'ordre des mots par des valeurs de rotation simples au lieu de matrices complexes. -> Efficacité de traitement des longs contextes ↑ - RMSNorm, GeGLU : modifie les règles et les modes de réaction du cerveau pour organiser la pensée. -> Stabilité et précision ↑ Mais...
Afficher l’original
4,61 k
45
Le contenu de cette page est fourni par des tiers. Sauf indication contraire, OKX n’est pas l’auteur du ou des articles cités et ne revendique aucun droit d’auteur sur le contenu. Le contenu est fourni à titre d’information uniquement et ne représente pas les opinions d’OKX. Il ne s’agit pas d’une approbation de quelque nature que ce soit et ne doit pas être considéré comme un conseil en investissement ou une sollicitation d’achat ou de vente d’actifs numériques. Dans la mesure où l’IA générative est utilisée pour fournir des résumés ou d’autres informations, ce contenu généré par IA peut être inexact ou incohérent. Veuillez lire l’article associé pour obtenir davantage de détails et d’informations. OKX n’est pas responsable du contenu hébergé sur des sites tiers. La détention d’actifs numériques, y compris les stablecoins et les NFT, implique un niveau de risque élevé et leur valeur peut considérablement fluctuer. Examinez soigneusement votre situation financière pour déterminer si le trading ou la détention d’actifs numériques vous convient.