Eve @technodoubt

Petite veille techno : DiffusionGemma 26B DiffusionGemma 26B est sorti le 10 juin 2026. Ce modèle s’inscrit dans la continuité du papier Large Language Diffusion Models, publié sur arXiv le 14 février 2025. À mon sens, c’est l’un des papiers à connaître lorsqu’on parle de modèles de diffusion appliqués aux LLM. Ce papier introduisait LLaDA, un modèle de langage de 8 milliards de paramètres entraîné de zéro avec un objectif de diffusion. Son ambition était de montrer qu’un LLM n’était pas obligé de générer du texte strictement de gauche à droite, un token après l’autre. Pourquoi DiffusionGemma est-il intéressant ? Parce qu’il change la manière dont le texte est généré. Un LLM classique comme Gemma 4 est autorégressif : il produit un token, puis le suivant, puis le suivant. DiffusionGemma travaille plutôt sur un bloc de 256 tokens, appelé canvas. Il commence avec des tokens aléatoires, puis affine progressivement l’ensemble du bloc jusqu’à obtenir une réponse cohérente. Cette approche permet au GPU de traiter plusieurs positions en parallèle. Google annonce ainsi jusqu’à 1 000 tokens par seconde sur une NVIDIA H100 et plus de 700 tokens par seconde sur une RTX 5090, soit jusqu’à quatre fois la vitesse d’un modèle autorégressif comparable dans un scénario mono-utilisateur. Le modèle peut également réévaluer les différents tokens du bloc pendant le débruitage. Il est donc particulièrement intéressant pour des tâches comme : - la complétion de code ; - la modification d’un passage au milieu d’un texte ; - la génération de données structurées ; - les agents interactifs ; - les applications locales nécessitant une faible latence. Est-ce le premier modèle de ce genre ? Non. Des travaux sur la diffusion appliquée au texte existaient déjà, notamment Diffusion-LM, SEDD et surtout LLaDA 8B. LLaDA avait déjà démontré en 2025 qu’un grand modèle de langage entraîné par diffusion pouvait suivre des instructions, apprendre en contexte et obtenir des performances compétitives face à certains modèles autorégressifs de taille comparable. Ce qui distingue DiffusionGemma, c’est surtout son niveau d’industrialisation. Il est développé par Google DeepMind, basé sur l’architecture de Gemma 4, publié avec ses poids sous licence Apache 2.0 et pris en charge dès sa sortie par des outils comme Hugging Face Transformers, vLLM et Unsloth. Il est également multimodal : il accepte du texte, des images et des vidéos en entrée, puis génère du texte. Peut-il tourner localement ? Oui, avec une configuration adaptée. DiffusionGemma possède environ 25,2 milliards de paramètres au total, mais seulement 3,8 milliards de paramètres sont actifs à chaque passage grâce à son architecture Mixture of Experts. Dans une version quantifiée, Google indique qu’il peut tenir dans environ 18 Go de VRAM. Il peut donc fonctionner sur des cartes graphiques grand public haut de gamme, comme les RTX 4090 ou RTX 5090. Comme Gemma 4 26B-A4B, il propose aussi une fenêtre de contexte pouvant atteindre 256 000 tokens. Qu’en est-il des performances par rapport à Gemma 4 ? C’est ici que se trouve le principal compromis : DiffusionGemma est beaucoup plus rapide, mais généralement moins performant que Gemma 4 26B-A4B sur les benchmarks de qualité. Quelques résultats officiels : - MMLU Pro : 77,6 % contre 82,6 % pour Gemma 4 ; - LiveCodeBench v6 : 69,1 % contre 77,1 % ; - MMMU Pro en vision : 54,3 % contre 73,8 % ; - contexte long à 128 000 tokens : 32 % contre 44,1 %. L’écart est particulièrement visible sur le raisonnement mathématique complexe, la vision et les tâches nécessitant une forte précision. La question à suivre désormais est simple : les prochaines générations réussiront-elles à conserver cette vitesse tout en rattrapant la qualité des modèles autorégressifs ? Source : deepmind.google/models/gemma/d… arxiv.org/abs/2502.09992 ai.google.dev/gemma/docs/dif…

Première fois pour moi de poster🫠. Let's connect guys

Vous savez si IA est assez doué pour remplacer un dev completement alors elle peut faire de meme avec n importe quel metier. Je crois que vous ne realisez pas encore.

Yann Decoopman @YannDecoopman

4 weeks ago

Un jour de plus à ne pas appeler les devs qui nous ont dit y'a 6 mois qu'on "verrait bien la folie sur le marché quand tous les gens qui bossent avec l'IA nous appelleront pour fixer leurs problèmes de codes"

15 5 158 31K 9

Microsoft AI Skills Fest donne des vouchers de certifications. Pour ceux qui veulent se former à l’IA, Azure ou Copilot; en suivant certaines playlists éligibles sur Microsoft AI Skills Navigator, il est possible de réclamer un voucher pour passer une certification Microsoft Un bon plan surtout si vous visez des certifs comme AI-900, AI-102, AZ-900 ou AZ-204. Voici le lien : aiskillsnavigator.microsoft.com/events/AISF2026

Le vrai coût de l’ia générative, on l’a vu venir. Copilot qui passe à la facturation au jeton, ce n’est pas juste un changement de pricing : c’est le rappel que ces outils ne sont pas de simples SaaS de productivité. Ce sont des infrastructures lourdes, chères à faire tourner. Bonne nouvelle : ça force le marché à regarder les coûts réels en face. Mauvaise nouvelle : c’est probablement aussi ce qui fera éclater une partie de la bulle IA.

@MathieuL1 Windows a un énorme problème avec le consentement. Combien de fois j'ai désactive windows update, combien de fois j ai dû chercher le paramètre '' ne pas partager mes informations ''

Les cookies c est des petits fichiers (identifiants) qu on va introduire pendant votre navigation qui servent entre outre à dire ´´ c est encore lui ´ et qui donc permet de connaître et suivre vos activités et préférences

𝕮14⁶₆⁷⭐️⭐️ @Killuavie___D

a month ago

Moi qui accepte les cookies sur chaque site sans savoir ce qu'ils signifient …💀

35 60 273 19K 19

''Le statut social d'un jeune homme fraîchement diplômé, fils d'une famille de classe moyenne ou inférieure, n'est guère différent de celui d'un chien errant dans la rue...'' je crois que j aime le peuple turc👏

ÜMİTE GUILLIMAN @sonwarlock

3 months ago

Olayı hala özgüven sanıyorlar amk Olay kızın giyimi değil, fiziği ve güzelliği ama Benim bu fizikte ve güzellikte kız arkadaşım da oldu, hayatımın en berbat ilişki dönemlerinden biriydi. Çok iyi görünen biriyle ilişkinizin olması, bunun harika veya katlanılabilir bir ilişki

711 2K 31K 3.7M 10K

How work x?

AWS pricing is intentionally designed so you need a master's degree in finance just to discover you are paying $400 a month for an idle load balancer.

Utilisez github copilot. Accès à GPT codex et aucune limite de tokens par sessions la facturation est faible ( 10 $/mois pour 300 requêtes premium) Ps 1 requête premium c est une requête utilisant un model premium et peu importe le nombre de token que ça prendra pour coder

Aurea @AureaLibe

3 months ago

Claude Code est devenu inutilisable. En plus d’avoir des modèles devenus complètement idiots, l’infrastructure est catastrophique. Tous les jours des timeouts et des 500. Anthropic fait vraiment n’importe quoi. Ils feraient mieux d’arrêter de sortir des fonctionnalités à

121 36 528 170K 53

Telling a new hire the code is self-documenting is just a polite way of saying the original author quit two years ago and we are too scared to touch it.

Ouii🥲

Sheriff @CoinSherif

3 months ago

If you want 2.5k followers? 🪴 Reply Yes ✌️✅ We'll follow everyone 👊🌴

557 56 283 11K 3

Profitons du nouveau tweeter pour dire aux japonais qu on en a marre des Isekai de merde 😑😑😑😑😑

Force à ceux qui ont pris l abonnement annuel

Kasper @0xKasper_

3 months ago

Anthropic qui nerf son dernier modèle de 2/3 pour te faire croire que le gap sera monstrueux sur le prochain tout en gardant le prix à 200$/mois, ça commence sérieusement à me gaver. J'espère qu'aucune boîte d'IA n'aura un monopole parce que l'enfer déjà rien que maintenant.

8 2 71 10K 6

We spent two hours in a meeting playing planning poker to estimate a feature. It will still take exactly three weeks, just like every other feature we have ever built.