Ton style d’interaction avec l’IA révèle ce que tu penses savoir. Quelqu’un demande à une IA cinq options et choisit la première. Quelqu’un d’autre lui demande d’explorer une direction et lit réellement ce qui…
Tu n’entraînes pas le modèle. Le modèle t’entraîne. C’est la dynamique dont personne ne parle. Chaque interaction avec un système d’IA change ta façon de penser. Le système donne des outputs. Tu les interprètes….
La peur se trompe. L’IA ne remplacera pas les experts. Elle exposera les non-experts. Quand un outil devient assez puissant, la médiocrité est révélée. Un expert avec l’IA se déplace plus vite et plus…
La métaphore du centaure des expériences d’échecs de Kasparov avait raison pour les mauvaises raisons. Quand les ordinateurs ont battu les meilleurs joueurs humains, Kasparov a réalisé quelque chose d’inattendu : un humain décent…
Tu n’utilises pas un partenaire. Tu travailles avec un. Nous avons mal pensé l’IA. La métaphore par défaut ce sont les outils—calculatrices, moteurs de recherche, boosters de productivité. Les outils servent. Tu les commandes,…
Si tu es une petite équipe essayant d’aligner un modèle de langage, RLHF est probablement excessif. DPO fait le même travail avec moins d’infrastructure, moins de calcul et moins de pièces mobiles. Voici pourquoi….
RLHF fonctionne en alignant les résultats du modèle sur les préférences humaines. Mais l’alignement des préférences est une optimisation de surface. Ce dont nous avons besoin est un alignement au niveau de l’architecture —…
Les architectures Transformer utilisent l’attention sélective : concentre le calcul sur les jetons pertinents, filtre le bruit. Cela fonctionne, mais c’est limité. L’attention sélective est réactive. Elle répond à ce qui est dans l’entrée…
La correction d’erreur dans les systèmes neuraux nécessite deux choses : détecter quand la sortie diverge de l’intention et s’ajuster au contexte. Les modèles d’apprentissage automatique ont du mal avec les cas limites parce…
Les modèles de langage souffrent d’une pathologie fondamentale : ils se sur-engagent dans les motifs appris lors de l’entraînement, puis appliquent ces motifs quel que soit le contexte. C’est le cœur technique du surapprentissage,…