Le pitch est s\u00e9duisant. Manquer de donn\u00e9es d’entra\u00eenement ? Fais simplement g\u00e9n\u00e9rer plus par l’IA. Utilise ton mod\u00e8le existant pour cr\u00e9er des datasets synth\u00e9tiques, puis entra\u00eene le mod\u00e8le suivant sur ceux-ci. Probl\u00e8me r\u00e9solu.<\/p>\n
Sauf que les preuves disent que cela marche surtout pas. Pas de la fa\u00e7on que les promoteurs le pr\u00e9tendent. Et les raisons pourquoi sont plus int\u00e9ressantes que l’\u00e9chec lui-m\u00eame.<\/p>\n
La g\u00e9n\u00e9ration de donn\u00e9es synth\u00e9tiques promet de r\u00e9soudre le goulot d’\u00e9tranglement des donn\u00e9es d’entra\u00eenement. Si tu peux utiliser un mod\u00e8le pour g\u00e9n\u00e9rer des exemples d’entra\u00eenement illimit\u00e9s de haute qualit\u00e9, tu as efficacement cr\u00e9\u00e9 des donn\u00e9es infinies. Tu peux entra\u00eener des mod\u00e8les plus grands, couvrir plus de domaines, et faire tout cela sans les maux de t\u00eate l\u00e9gaux de scraper internet.<\/p>\n
L’id\u00e9e n’est pas nouvelle. Les GANs g\u00e9n\u00e9rent des images synth\u00e9tiques depuis des ann\u00e9es. Les environnements simul\u00e9s ont entra\u00een\u00e9 les mod\u00e8les de robotique avec succ\u00e8s. Dans ces domaines \u00e9troits, les donn\u00e9es synth\u00e9tiques fonctionnent remarquablement bien.<\/p>\n
La question est si cela fonctionne pour le probl\u00e8me beaucoup plus difficile d’entra\u00eener des mod\u00e8les de langage g\u00e9n\u00e9ral. La r\u00e9ponse, croissante, est non<\/strong>.<\/p>\n En 2023, des chercheurs \u00e0 Oxford et Cambridge ont publi\u00e9 un paper landmark sur l’effondrement du mod\u00e8le. La d\u00e9couverte \u00e9tait starkness : les mod\u00e8les entra\u00een\u00e9s sur les donn\u00e9es synth\u00e9tiques de g\u00e9n\u00e9rations de mod\u00e8les pr\u00e9c\u00e9dentes d\u00e9gradent progressivement. Chaque g\u00e9n\u00e9ration perd les queues de la distribution \u2014 les sorties rares, inhabituelles, cr\u00e9atives qui rendent les mod\u00e8les de langage utiles.<\/p>\n Le m\u00e9canisme est intuitif une fois que tu le vois. Un mod\u00e8le g\u00e9n\u00e8re du texte qui refl\u00e8te les sorties les plus probables donn\u00e9es son entra\u00eenement. C’est biais\u00e9 vers la moyenne, l’attendu, le conventionnel. Quand tu entra\u00eenes un nouveau mod\u00e8le sur cette sortie, tu entra\u00eenes sur une version liss\u00e9e, moyenn\u00e9e de la r\u00e9alit\u00e9. Fais cela pour plusieurs g\u00e9n\u00e9rations et tu obtiens du texte qui est grammaticalement parfait et substantiellement vide.<\/p>\n Ce n’est pas une pr\u00e9occupation th\u00e9orique. Les labs qui ont exp\u00e9riment\u00e9 avec les donn\u00e9es synth\u00e9tiques \u00e0 grande \u00e9chelle rapportent le m\u00eame motif. Les mod\u00e8les deviennent plus fluides mais moins int\u00e9ressants. Plus consistants mais moins capables de g\u00e9rer les edge cases. Plus pr\u00e9visibles mais moins utiles.<\/p>\n Les donn\u00e9es synth\u00e9tiques ne sont pas inutiles. Elles fonctionnent bien dans des sc\u00e9narios sp\u00e9cifiques, contraints.<\/p>\n Math\u00e9matiques et code.<\/strong> Tu peux g\u00e9n\u00e9rer des probl\u00e8mes math\u00e9matiques avec des solutions v\u00e9rifi\u00e9es. Tu peux g\u00e9n\u00e9rer du code avec des cas de test qui prouvent la correctness. Dans les domaines o\u00f9 tu peux formellement v\u00e9rifier la sortie, les donn\u00e9es synth\u00e9tiques sont puissantes parce que la qualit\u00e9 est objective et mesurable.<\/p>\n Data augmentation.<\/strong> Utiliser les donn\u00e9es synth\u00e9tiques pour suppl\u00e9menteer les donn\u00e9es r\u00e9elles, pas les remplacer, peut am\u00e9liorer la performance. Un ensemble d’entra\u00eenement qui est 90% r\u00e9el et 10% synth\u00e9tique outperform souvent 100% r\u00e9el, parce que les donn\u00e9es synth\u00e9tiques remplissent les gaps en couverture.<\/p>\n T\u00e2ches structur\u00e9es.<\/strong> Classification, extraction d’entit\u00e9, conversion de format \u2014 les t\u00e2ches avec des r\u00e9ponses claires b\u00e9n\u00e9ficient d’exemples synth\u00e9tiques. Tu peux g\u00e9n\u00e9rer des milliers d’exemples labelis\u00e9s pour une t\u00e2che sp\u00e9cifique beaucoup plus vite que les annotateurs humains.<\/p>\n Le motif est clair : les donn\u00e9es synth\u00e9tiques fonctionnent quand tu peux v\u00e9rifier la qualit\u00e9 algorithmiquement<\/strong>. Elles \u00e9chouent quand la qualit\u00e9 est subjective, nuanc\u00e9e, ou exige le jugement humain pour \u00e9valuer.<\/p>\n Le probl\u00e8me le plus profond avec les donn\u00e9es synth\u00e9tiques n’est pas la qualit\u00e9 \u2014 c’est la diversit\u00e9. Le texte g\u00e9n\u00e9r\u00e9 par humain refl\u00e8te la pleine gamme de l’exp\u00e9rience humaine, de la perspective, et de la cr\u00e9ativit\u00e9. Il contient des surprises, des contradictions, des cadrages novateurs, et de v\u00e9ritables insights.<\/p>\n Le texte g\u00e9n\u00e9r\u00e9 par IA contient aucun de ceux-ci. Il refl\u00e8te la distribution d’entra\u00eenement, liss\u00e9e et moyenn\u00e9e. M\u00eame avec temperature sampling et d’autres techniques pour augmenter la vari\u00e9t\u00e9, la sortie reste dans les limites de ce que le mod\u00e8le a d\u00e9j\u00e0 appris. Il peut recombiner. Il ne peut pas v\u00e9ritablement cr\u00e9er.<\/p>\n Cela importe parce que la valeur des donn\u00e9es d’entra\u00eenement n’est pas juste l’information \u2014 c’est la distribution de l’information<\/strong>. Un mod\u00e8le a besoin de voir les \u00e9v\u00e9nements rares pour g\u00e9rer les \u00e9v\u00e9nements rares. Il a besoin d’rencontrer les perspectives inhabituelles pour les comprendre. Les donn\u00e9es synth\u00e9tiques, par d\u00e9finition, sous-repr\u00e9sentent tout ce qui est inhabituel.<\/p>\n Il y a une dynamique encore plus pr\u00e9occupante. Alors que le contenu g\u00e9n\u00e9r\u00e9 par IA augmente sur internet, les futurs datasets d’entra\u00eenement contiendront in\u00e9vitablement plus de donn\u00e9es synth\u00e9tiques, m\u00eame quand les labs essaient de les filtrer. Cela cr\u00e9e une boucle de feedback o\u00f9 les mod\u00e8les sont partiellement entra\u00een\u00e9s sur la sortie des mod\u00e8les pr\u00e9c\u00e9dents, g\u00e9n\u00e9ration apr\u00e8s g\u00e9n\u00e9ration.<\/p>\n Les cons\u00e9quences \u00e0 long terme de cette boucle de feedback sont obscures, mais les preuves initiales sugg\u00e8rent qu’elles sont n\u00e9gatives. Les mod\u00e8les deviennent plus homog\u00e8nes au fil du temps. Les styles d’\u00e9criture convergent. Les perspectives se r\u00e9tr\u00e9cissent. Internet commence \u00e0 sonner comme s’il avait \u00e9t\u00e9 \u00e9crit par la m\u00eame entit\u00e9 \u2014 parce qu’on l’\u00e9tait de plus en plus.<\/p>\n C’est un probl\u00e8me d’action collective. Chaque lab individuel utilisant les donn\u00e9es synth\u00e9tiques peut voir des r\u00e9sultats acceptables. Mais l’effet cumulatif sur l’industrie d\u00e9grade l’\u00e9cosyst\u00e8me entier.<\/p>\n Les labs intelligents s’\u00e9loignent des approches na\u00efves de donn\u00e9es synth\u00e9tiques et vers des strat\u00e9gies plus sophistiqu\u00e9es.<\/p>\n Les approches d’IA constitutionnelle<\/strong> utilisent les donn\u00e9es synth\u00e9tiques non pas pour l’entra\u00eenement g\u00e9n\u00e9ral mais pour les objectifs d’alignement sp\u00e9cifiques. Les donn\u00e9es synth\u00e9tiques ne font pas semblant d’\u00eatre humain \u2014 elles fournissent des exemples cibl\u00e9s du comportement souhait\u00e9.<\/p>\n La distillation<\/strong> utilise un mod\u00e8le plus grand pour g\u00e9n\u00e9rer des donn\u00e9es d’entra\u00eenement pour un mod\u00e8le plus petit. Cela fonctionne parce que tu n’essayes pas de d\u00e9passer la capacit\u00e9 du professeur \u2014 tu essayes de la compresser. La perte d’information est acceptable parce que l’objectif est l’efficacit\u00e9, pas l’am\u00e9lioration.<\/p>\n Les approches hybrides<\/strong> m\u00e9langent soigneusement les donn\u00e9es synth\u00e9tiques et r\u00e9elles avec des contr\u00f4les de qualit\u00e9 stricts. Les donn\u00e9es synth\u00e9tiques sont utilis\u00e9es pour remplir les gaps sp\u00e9cifiques, pas pour remplacer les contenus g\u00e9n\u00e9r\u00e9s par humain en gros.<\/p>\n D’une perspective de recherche contemplative, le d\u00e9bat sur les donn\u00e9es synth\u00e9tiques r\u00e9v\u00e8le une confusion plus profonde sur ce que les donn\u00e9es d’entra\u00eenement r\u00e9ellement sont.<\/p>\n Les donn\u00e9es ne sont pas juste des tokens. C’est de l’exp\u00e9rience cristallis\u00e9e<\/strong>. Quand un humain \u00e9crit un paragraphe sur le chagrin, ce paragraphe porte le poids de l’exp\u00e9rience v\u00e9cue. Quand un mod\u00e8le g\u00e9n\u00e8re un paragraphe sur le chagrin, il porte le poids des motifs statistiques. Les tokens pourraient ressembler identiques. Le contenu d’information est fondamentalement diff\u00e9rent.<\/p>\n Cette distinction importe pour l’alignement. Si nous voulons les syst\u00e8mes IA qui comprennent les valeurs humaines, nous avons besoin de donn\u00e9es d’entra\u00eenement qui incarnent les valeurs humaines. Pas des approximations synth\u00e9tiques des valeurs humaines g\u00e9n\u00e9r\u00e9es par un syst\u00e8me qui n’a jamais valoris\u00e9 rien.<\/p>\nLe Probl\u00e8me d’Effondrement du Mod\u00e8le<\/h2>\n
O\u00f9 les Donn\u00e9es Synth\u00e9tiques Fonctionnent R\u00e9ellement<\/h2>\n
Le Probl\u00e8me de Diversit\u00e9<\/h2>\n
La Boucle de Feedback<\/h2>\n
Ce Que l’Industrie Fait<\/h2>\n
La Vue Contemplative<\/h2>\n