Tu l’as entendu. Probablement d’une part de quelqu’un qui semble confiant \u00e0 ce sujet.<\/p>\n
La qualit\u00e9 d’un mod\u00e8le d’IA d\u00e9pend de la qualit\u00e9 de ses donn\u00e9es d’entra\u00eenement. C’est la chose la plus proche d’une loi universelle en apprentissage automatique. Et ceux entra\u00een\u00e9s dans l’expertise attentionnelle produisent les donn\u00e9es meilleures que presque n’importe qui d’autre.<\/p>\n
Non pas parce qu’ils sont plus intelligents. Parce qu’ils sont entra\u00een\u00e9s \u00e0 observer avec pr\u00e9cision et maintenir la discipline dans leur jugement. Cette comp\u00e9tence se traduit directement en annotations de qualit\u00e9 sup\u00e9rieure, plus de donn\u00e9es de pr\u00e9f\u00e9rence nuanc\u00e9es, et des exemples d’entra\u00eenement qui capturent ce que la plupart des datasets manquent.<\/p>\n
La plupart des donn\u00e9es d’entra\u00eenement sont annot\u00e9es par les gens qui sont press\u00e9s, distraits, ou fonctionnent en pilote automatique. Les travailleurs de l’annotation sur les plates-formes d’annotation passent les secondes par exemple. Ils d\u00e9veloppent les heuristiques pour se d\u00e9placer rapidement. Ils les d\u00e9fauts sur les motifs \u00e9vidents et manquent la subtilit\u00e9.<\/p>\n
Le r\u00e9sultat est les donn\u00e9es d’entra\u00eenement qui encodent la surface du jugement humain plut\u00f4t que sa profondeur<\/strong>. Les mod\u00e8les entra\u00een\u00e9s sur ces donn\u00e9es apprennent \u00e0 imiter l’apparence de la compr\u00e9hension sans d\u00e9velopper la structure de la compr\u00e9hension.<\/p>\n Ce n’est pas la faute des travailleurs. Les plates-formes incitent la vitesse sur la qualit\u00e9. La conception de t\u00e2che rarement supporte l’engagement profond. L’infrastructure enti\u00e8re suppose que le jugement humain est une commodity cheap plut\u00f4t qu’une pratique comp\u00e9tente.<\/p>\n L’entra\u00eenement dans la discipline attentionnelle d\u00e9veloppe les capacit\u00e9s cognitives sp\u00e9cifiques qui am\u00e9liorent directement la qualit\u00e9 d’annotation. Cet entra\u00eenement a les racines profondes dans les traditions contemplatifs, mais les comp\u00e9tences pertinentes sont neurologiquement r\u00e9elles et universellement pr\u00e9cieuses.<\/p>\n Attention soutenue.<\/strong> Ceux entra\u00een\u00e9s dans la discipline attentionnelle peuvent se concentrer sur une t\u00e2che unique pour les p\u00e9riodes \u00e9tendues sans perdre la pr\u00e9cision. Cela signifie ils peuvent \u00e9valuer les exemples complexes sans s’en tenir aux heuristiques rapides. La diff\u00e9rence entre une annotation de 5 secondes et une annotation de 45 secondes est souvent la diff\u00e9rence entre le jugement au niveau de surface et le jugement au niveau de profondeur.<\/p>\n R\u00e9gulation \u00e9motionnelle.<\/strong> Quand on annote le contenu sensible \u2014 la d\u00e9tection de toxicit\u00e9, l’\u00e9valuation de biais, la classification de contenu nuisible \u2014 la r\u00e9activit\u00e9 \u00e9motionnelle d\u00e9grade le jugement. Un praticien de discipline attentionnelle peut s’engager avec le contenu difficile sans \u00eatre d\u00e9stabilis\u00e9 par lui. Ils peuvent \u00e9valuer la toxicit\u00e9 sans devenir r\u00e9actif, qui produit les labels plus pr\u00e9cis et coh\u00e9rents.<\/p>\n Conscience metacognitive.<\/strong> Ceux entra\u00een\u00e9s dans la discipline attentionnelle remarquent leurs propres biais en temps r\u00e9el. Ils peuvent se prendre \u00e0 la main faisant un jugement rapide et se mettre en pause pour examiner si ce jugement refl\u00e8te le contenu r\u00e9el ou leur propre projection. Cette capacit\u00e9 d’auto-correction est exactement ce que les t\u00e2ches d’annotation ont besoin et ne re\u00e7oivent presque jamais.<\/p>\n Tol\u00e9rance de nuance.<\/strong> L’entra\u00eenement attentionnel d\u00e9veloppe la capacit\u00e9 \u00e0 si\u00e9ger avec l’ambigu\u00eft\u00e9. La plupart des annotateurs se sentent mal \u00e0 l’aise avec les cas incertains et les r\u00e9solvent rapidement dans une direction ou l’autre. Les observateurs entra\u00een\u00e9s peuvent signaler l’ambigu\u00eft\u00e9 v\u00e9ritablement comme ambigu\u00eft\u00e9, qui produit les signaux plus riches pour l’entra\u00eenement de mod\u00e8le.<\/p>\n Nous avons test\u00e9 cela chez Laeka. Quand nous comparons les annotations des gens avec l’entra\u00eenement attentionnel contre les annotations de crowdworker standard sur les m\u00eames exemples, trois motifs \u00e9merge constamment.<\/p>\n Premi\u00e8rement, l’accord inter-annotateur plus haut sur les cas clairs<\/strong>. Les observateurs entra\u00een\u00e9s convergent plus rapidement sur les exemples qui ont une r\u00e9ponse claire, parce qu’ils paient l’attention plus proche au contenu r\u00e9el plut\u00f4t que fonctionner sur la correspondance de motif.<\/p>\n Deuxi\u00e8mement, le d\u00e9saccord plus productif sur les cas ambigus<\/strong>. Quand les observateurs entra\u00een\u00e9s ne sont pas d’accord, leurs d\u00e9saccords ont tendance \u00e0 refl\u00e9ter l’ambigu\u00eft\u00e9 v\u00e9ritablement dans l’exemple plut\u00f4t que le bruit al\u00e9atoire. Ce signal de d\u00e9saccord est pr\u00e9cieux \u2014 cela dit au mod\u00e8le quels cas sont v\u00e9ritablement difficiles plut\u00f4t que quels cas les annotateurs ont \u00e9t\u00e9 distraits sur.<\/p>\n Troisi\u00e8mement, le retour qualitatif plus riche<\/strong>. Quand demand\u00e9 d’expliquer leurs annotations, les observateurs entra\u00een\u00e9s produisent les explications qui capturent plus des facteurs pertinents. Ces explications peuvent \u00eatre utilis\u00e9es directement comme donn\u00e9es d’entra\u00eenement pour le raisonnement de cha\u00eene-de-pens\u00e9e.<\/p>\n Direct Preference Optimization n\u00e9cessite les paires de r\u00e9ponses o\u00f9 l’une est pr\u00e9f\u00e9r\u00e9e sur l’autre. La qualit\u00e9 de l’entra\u00eenement DPO d\u00e9pend enti\u00e8rement de la qualit\u00e9 de ces jugements de pr\u00e9f\u00e9rence.<\/p>\n Les datasets DPO standard collectent les pr\u00e9f\u00e9rences des gens qui ne peuvent souvent pas articuler pourquoi ils pr\u00e9f\u00e8rent une r\u00e9ponse sur l’autre. Leurs pr\u00e9f\u00e9rences encodent un m\u00e9lange de l’\u00e9valuation de qualit\u00e9 v\u00e9ritablement, du biais personnel, des effets de position, et des artefacts de fatigue.<\/p>\n Les observateurs entra\u00een\u00e9s produisent les paires DPO avec le signal plus pur. Ils peuvent distinguer entre \u00ab je pr\u00e9f\u00e8re cela parce que c’est r\u00e9ellement meilleur \u00bb et \u00ab je pr\u00e9f\u00e8re cela parce qu’il s’est pr\u00e9sent\u00e9 en premier \u00bb ou \u00ab je pr\u00e9f\u00e8re cela parce qu’il confirme ma vue existante. \u00bb Cette conscience de soi se traduit directement en donn\u00e9es de pr\u00e9f\u00e9rence qui forment les meilleurs mod\u00e8les.<\/p>\n L’am\u00e9lioration est mesurable. Dans nos exp\u00e9riences, les mod\u00e8les entra\u00een\u00e9s sur les paires DPO annot\u00e9es attentionnellement montrent la performance plus \u00e9lev\u00e9e sur les benchmarks d’\u00e9valuation avec environ 60% moins de donn\u00e9es d’entra\u00eenement. Les donn\u00e9es sont qu’aucun beaucoup plus claires.<\/p>\n L’objection \u00e9vidente est que ceux avec l’entra\u00eenement attentionnel avanc\u00e9 sont rares et co\u00fbteux. Vrai. Mais le calcul change quand tu consid\u00e8res que 500 paires DPO de qualit\u00e9 sup\u00e9rieure surpassent 50,000 bruyantes<\/strong>. Le co\u00fbt par point de donn\u00e9es utile est en r\u00e9alit\u00e9 inf\u00e9rieur avec les annotateurs comp\u00e9tents.<\/p>\n Il y a aussi un chemin du milieu. Tu n’as pas besoin des d\u00e9cennies d’entra\u00eenement pour b\u00e9n\u00e9ficier de l’entra\u00eenement d’annotation attentionnel. Un programme structur\u00e9 qui enseigne les comp\u00e9tences d’attention de base, la r\u00e9gulation \u00e9motionnelle, et la conscience metacognitive peut mesur\u00e9ment am\u00e9liorer la qualit\u00e9 d’annotation en semaines. Pas au niveau des praticiens avanc\u00e9s, mais assez pour faire une diff\u00e9rence.<\/p>\n Nous d\u00e9veloppons ce programme d’entra\u00eenement chez Laeka. Le but est de rendre l’annotation attentionnelle accessible \u00e0 l’\u00e9chelle, non pas comme un module de luxe mais comme une partie standard de la cr\u00e9ation de dataset.<\/p>\n L’industrie d’IA traite les donn\u00e9es d’entra\u00eenement comme mati\u00e8re premi\u00e8re \u00e0 \u00eatre rassembl\u00e9e en masse. C’est une erreur. Les donn\u00e9es d’entra\u00eenement sont le produit de la cognition humaine, et la cognition humaine varie \u00e9norm\u00e9ment en qualit\u00e9 selon comment l’humain est entra\u00een\u00e9 et comment la t\u00e2che est structur\u00e9e.<\/p>\n L’entra\u00eenement de discipline attentionnelle est l’approche la plus syst\u00e9matique \u00e0 l’am\u00e9lioration de qualit\u00e9 cognitive que les humains ont d\u00e9velopp\u00e9e. La connecter \u00e0 l’entra\u00eenement d’IA n’est pas mystique. C’est pratique. L’attention mieux produit les meilleures donn\u00e9es. Les meilleures donn\u00e9es produisent les meilleurs mod\u00e8les. La cha\u00eene est directe.<\/p>\n Ton dataset est seulement aussi bon que les esprits qui l’ont cr\u00e9\u00e9. Entra\u00eene les esprits, et les donn\u00e9es suivent.<\/p>\nCe que l’entra\u00eenement attentionnel change<\/h2>\n
La preuve<\/h2>\n
Les paires DPO des annotateurs entra\u00een\u00e9s<\/h2>\n
Mise \u00e0 l’\u00e9chelle de l’approche<\/h2>\n
La plus grande image<\/h2>\n