La s\u00e9curit\u00e9 est importante. Mais il y a un mode de d\u00e9faillance dont personne ne parle : le suralignement. Les mod\u00e8les tellement contraints qu’ils refusent les demandes l\u00e9gitimes.<\/p>\n
\u00ab Je ne peux pas t’aider avec cela parce que cela pourrait \u00eatre nuisible. \u00bb Tu n’as rien demand\u00e9 de nuisible. Tu as demand\u00e9 de l’aide pour \u00e9crire un email \u00e0 ton propri\u00e9taire.<\/p>\n
Les mod\u00e8les suralign\u00e9s sont moins utiles. Et ils \u00e9rodent la confiance plus vite que les mod\u00e8les sous-align\u00e9s.<\/p>\n
D\u00e9s\u00e9quilibre des donn\u00e9es d’entra\u00eenement. Ton dataset de s\u00e9curit\u00e9 a 10 000 exemples de requ\u00eates nuisibles et 100 exemples de requ\u00eates inoffensives qui ressemblent. Le mod\u00e8le apprend : \u00ab Les requ\u00eates comme celles-ci sont g\u00e9n\u00e9ralement mauvaises. Refuse par d\u00e9faut. \u00bb<\/p>\n
R\u00e8gles trop larges. \u00ab Ne discute pas de politique \u00bb devient \u00ab refuse toute requ\u00eate mentionnant un politicien, un parti ou une politique. \u00bb Un \u00e9tudiant demandant de l’aide pour analyser un article de philosophie politique se fait bloquer.<\/p>\n
P\u00e9nalit\u00e9 d’incertitude. Quand le mod\u00e8le est incertain si une requ\u00eate est s\u00fbre, il refuse. C’est conservateur mais tue l’utilit\u00e9. La plupart des requ\u00eates se trouvent dans cette zone grise.<\/p>\n
Les utilisateurs se frustrent. Ils apprennent que le mod\u00e8le est inutile pour le travail r\u00e9el. Ils arr\u00eatent de l’utiliser. Ou ils contournent les contraintes, ce qui annule le but.<\/p>\n
Les \u00e9quipes ajoutent ensuite plus de fine-tuning pour \u00eatre \u00ab utiles \u00bb. Cela cr\u00e9e une course aux armements. Le mod\u00e8le devient moins utile, puis l’\u00e9quipe essaie de le corriger en le rendant moins s\u00fbr, puis il devient dangereux, puis ils overcorrect \u00e0 nouveau.<\/p>\n
Tu as besoin de s\u00e9curit\u00e9. Tu as aussi besoin d’utilit\u00e9. Les deux comptent. L’objectif n’est pas z\u00e9ro risque. C’est un risque acceptable avec une utilit\u00e9 acceptable.<\/p>\n
Exemple : Un mod\u00e8le pour le service client ne peut pas aider aux activit\u00e9s ill\u00e9gales (fraude, harc\u00e8lement). C’est non-n\u00e9gociable. Mais il devrait aider aux plaintes, remboursements, questions d’exp\u00e9dition. \u00catre utile dans ces domaines est le point entier.<\/p>\n
\u00c9quilibre tes donn\u00e9es d’entra\u00eenement. Pour chaque exemple nuisible, inclus 2-3 exemples inoffensifs qui ressemblent. Le mod\u00e8le apprend la nuance au lieu du refus syst\u00e9matique.<\/p>\n
Teste contre les cas d’usage l\u00e9gitimes. Avant de d\u00e9ployer, essaie ton mod\u00e8le sur 100 requ\u00eates d’utilisateurs r\u00e9els. Combien refuse-t-il ? Si le taux de refus est au-dessus de 5%, tu es probablement suraliign\u00e9.<\/p>\n
D\u00e9finis la s\u00e9curit\u00e9 \u00e9troitement. Que prot\u00e8ges-tu vraiment ? Liste les pr\u00e9judices sp\u00e9cifiques. Entra\u00eene contre ceux-ci, pas contre les cat\u00e9gories vagues comme \u00ab sujets controvers\u00e9s \u00bb.<\/p>\n
Mesure \u00e0 la fois la s\u00e9curit\u00e9 et l’utilit\u00e9. Suivi le taux de refus. Suivi la satisfaction des utilisateurs. Suivi la performance des t\u00e2ches en aval. Si l’utilit\u00e9 se d\u00e9grade pour les gains de s\u00e9curit\u00e9, tu overcorrect.<\/p>\n
S\u00e9curit\u00e9 par la clart\u00e9, pas par la prudence. Enseigne au mod\u00e8le ce qui ressemble au bien dans ton domaine (respectueux, honn\u00eate, utile). Entra\u00eene-le \u00e0 incarner ces valeurs. Cela produit la s\u00e9curit\u00e9 comme un effet secondaire du bon comportement, pas comme une contrainte.<\/p>\n
Un mod\u00e8le entra\u00een\u00e9 sur des exemples de d\u00e9saccord r\u00e9fl\u00e9chi d\u00e9saccordera r\u00e9fl\u00e9chiment. Tu n’as pas besoin de le bloquer de d\u00e9saccorder.<\/p>\n