La plupart des fiches mod\u00e8le sont inutiles. Elles listent des d\u00e9tails d’architecture que personne n’a besoin et omettent l’information que tout le monde veut : en quoi ce mod\u00e8le est-il bon, en quoi est-il mauvais, et sur quelles donn\u00e9es a-t-il \u00e9t\u00e9 entra\u00een\u00e9 ? La bonne documentation est la diff\u00e9rence entre un mod\u00e8le que les gens adoptent et un qu’ils scrollent.<\/p>\n
Quand quelqu’un trouve ton mod\u00e8le sur le Hub, il a quatre questions. D’abord : ce mod\u00e8le fait-il ce dont j’ai besoin ?<\/strong> Une description claire et d’un paragraphe des cas d’usage pr\u00e9vus du mod\u00e8le r\u00e9pond \u00e0 cela imm\u00e9diatement. \u00ab Un mod\u00e8le de 7B instruction-tuned optimis\u00e9 pour l’examen de code et la documentation technique \u00bb est infiniment plus utile que \u00ab Un grand mod\u00e8le de langage entra\u00een\u00e9 avec RLHF. \u00bb<\/p>\n Deuxi\u00e8mement : \u00e0 quel point est-il bon ?<\/strong> Les scores de benchmark aident, mais seulement avec du contexte. Montrer les scores \u00e0 c\u00f4t\u00e9 des mod\u00e8les comparables dit aux utilisateurs o\u00f9 ce mod\u00e8le se situe dans le paysage. Encore mieux : inclure des exemples qualitatifs de sorties typiques montrant \u00e0 la fois les forces et les faiblesses.<\/p>\n Troisi\u00e8mement : comment l’ex\u00e9cuter ?<\/strong> Un snippet de code fonctionnant qui passe de z\u00e9ro \u00e0 l’inf\u00e9rence en cinq lignes. Pas un lien vers la documentation g\u00e9n\u00e9rale \u2014 le code r\u00e9el, test\u00e9 et pr\u00eat \u00e0 copier. Incluez le mod\u00e8le de chat, tout token sp\u00e9cial, et les param\u00e8tres de g\u00e9n\u00e9ration recommand\u00e9s.<\/p>\n Quatri\u00e8mement : quelles sont les limitations ?<\/strong> Chaque mod\u00e8le en a. Documenter les modes d’\u00e9chec connus, les domaines faibles, et les biais est la section \u00e0 plus haute valeur d’une fiche mod\u00e8le. Les utilisateurs qui d\u00e9couvrent les limitations par la documentation font confiance au mod\u00e8le plus que les utilisateurs qui les d\u00e9couvrent par les d\u00e9faillances en production.<\/p>\n La transparence des donn\u00e9es d’entra\u00eenement est la section la plus controvers\u00e9e d’une fiche mod\u00e8le. De nombreux cr\u00e9ateurs de mod\u00e8les sont d\u00e9lib\u00e9r\u00e9ment vagues sur leurs donn\u00e9es d’entra\u00eenement, soit pour prot\u00e9ger les avantages comp\u00e9titifs, soit pour \u00e9viter l’examen juridique sur l’approvisionnement en donn\u00e9es.<\/p>\n La divulgation minimale acceptable : les cat\u00e9gories de donn\u00e9es et les proportions approximatives<\/strong>. \u00ab Entra\u00een\u00e9 sur du texte web (40%), du code (30%), des articles acad\u00e9miques (20%), et des donn\u00e9es d’instruction cur\u00e9es (10%) \u00bb dit aux utilisateurs assez pour comprendre la distribution de connaissances du mod\u00e8le sans r\u00e9v\u00e9ler les ensembles de donn\u00e9es propri\u00e9taires.<\/p>\n Pour les mod\u00e8les affines, les attentes sont plus \u00e9lev\u00e9es. Si tu as affin\u00e9 sur un ensemble de donn\u00e9es sp\u00e9cifique, nomme-le. Si tu as cr\u00e9\u00e9 des donn\u00e9es d’entra\u00eenement synth\u00e9tiques, d\u00e9cris le processus de g\u00e9n\u00e9ration. Si tu as utilis\u00e9 l’annotation humaine, d\u00e9cris les directives d’annotation et les donn\u00e9es d\u00e9mographiques des annotateurs. Cette information affecte directement si le mod\u00e8le est appropri\u00e9 pour un cas d’usage donn\u00e9.<\/p>\n La norme \u00e9mergente pour la divulgation responsable inclut la provenance<\/strong> des donn\u00e9es (d’o\u00f9 elle vient), le pr\u00e9traitement<\/strong> (comment elle a \u00e9t\u00e9 nettoy\u00e9e), et les lacunes connues<\/strong> (ce qui est sous-repr\u00e9sent\u00e9). Ce niveau de d\u00e9tail est rare aujourd’hui mais de plus en plus attendu \u00e0 mesure que les r\u00e9glementations comme la loi europ\u00e9enne sur l’IA mandatent la transparence.<\/p>\n Apr\u00e8s avoir examin\u00e9 des centaines de fiches mod\u00e8le, un motif clair \u00e9merge pour ce qui fonctionne :<\/p>\n R\u00e9sum\u00e9<\/strong> \u2014 Deux phrases. Ce que le mod\u00e8le est et en quoi c’est. Pas de jargon.<\/p>\n Quick Start<\/strong> \u2014 Snippet de code fonctionnant. Copie, colle, ex\u00e9cute. Inclus les versions exactes de paquet test\u00e9es.<\/p>\n Cas d’usage pr\u00e9vus<\/strong> \u2014 Exemples sp\u00e9cifiques de t\u00e2ches que le mod\u00e8le g\u00e8re bien. \u00ab Classification d’e-mail client, \u00bb pas \u00ab t\u00e2ches g\u00e9n\u00e9rales de NLP. \u00bb<\/p>\n Limitations connues<\/strong> \u2014 Exemples sp\u00e9cifiques de t\u00e2ches o\u00f9 le mod\u00e8le peine. Cette section devrait \u00eatre au moins aussi longue que la section des cas d’usage pr\u00e9vus.<\/p>\n Benchmarks<\/strong> \u2014 Benchmarks standards avec scores, compar\u00e9 aux mod\u00e8les similaires. Incluez la m\u00e9thodologie d’\u00e9valuation et toute mise en garde.<\/p>\n D\u00e9tails d’entra\u00eenement<\/strong> \u2014 Mod\u00e8le de base, description des donn\u00e9es d’entra\u00eenement, hyperparam\u00e8tres, calcul utilis\u00e9. Autant de d\u00e9tails que tu es \u00e0 l’aise de partager.<\/p>\n Licence<\/strong> \u2014 \u00c9nonc\u00e9 clair de la licence avec un lien vers le texte complet. Si le mod\u00e8le h\u00e9rite des restrictions d’un mod\u00e8le de base, \u00e9nonce cela explicitement.<\/p>\n Citation<\/strong> \u2014 Comment citer le mod\u00e8le dans le travail acad\u00e9mique, le cas \u00e9ch\u00e9ant.<\/p>\n La fiche mod\u00e8le vide<\/strong> est l’\u00e9chec le plus courant. Un mod\u00e8le sans documentation est un mod\u00e8le que seulement le cr\u00e9ateur peut utiliser efficacement. Le Hub est rempli de mod\u00e8les potentiellement excellents que personne n’adopte parce que personne ne sait ce qu’ils font.<\/p>\n La fiche mod\u00e8le marketing<\/strong> survend les capacit\u00e9s et omet les limitations. Cela conduit \u00e0 la d\u00e9ception des utilisateurs et \u00e0 l’\u00e9rosion de la confiance. Si ton mod\u00e8le est un 7B qui est bon au codage mais m\u00e9diocre \u00e0 l’\u00e9criture cr\u00e9ative, dis-le. Les utilisateurs respectent l’honn\u00eatet\u00e9 et punissent le battage.<\/p>\n La fiche mod\u00e8le acad\u00e9mique<\/strong> noie les utilisateurs dans les d\u00e9tails d’entra\u00eenement tout en omettant les informations pratiques. Personne n’a besoin de conna\u00eetre les \u00e9tapes de warmup du programmateur de taux d’apprentissage. Tout le monde doit conna\u00eetre les param\u00e8tres d’inf\u00e9rence recommand\u00e9s.<\/p>\n La fiche mod\u00e8le copier-coller<\/strong> copie la documentation du mod\u00e8le de base sans mise \u00e0 jour pour les modifications d’affinage. Si tu as affin\u00e9 Llama pour l’AQ m\u00e9dicale, la fiche mod\u00e8le devrait d\u00e9crire les capacit\u00e9s d’AQ m\u00e9dicales, pas l’architecture g\u00e9n\u00e9rale de Llama.<\/p>\n Dans un monde avec des milliers de mod\u00e8les sur le Hub, la documentation est un diff\u00e9renciateur. Les mod\u00e8les avec une documentation claire et approfondie obtiennent plus de t\u00e9l\u00e9chargements, plus de citations, et plus d’attention communautaire. Le temps investi dans une bonne fiche mod\u00e8le se rembourse en adoption.<\/p>\n Les meilleures fiches mod\u00e8le racontent une histoire : voici ce que nous avons construit, voici pourquoi, voici en quoi c’est bon, voici o\u00f9 c’est court, et voici comment l’utiliser. Cette histoire est ce qui convertit un navigateur en utilisateur.<\/p>\nLa question des donn\u00e9es d’entra\u00eenement<\/h2>\n
Mod\u00e8le pour une bonne fiche mod\u00e8le<\/h2>\n
\u00c9checs courants de la fiche mod\u00e8le<\/h2>\n
La documentation comme avantage concurrentiel<\/h2>\n