Le mot « alignement » est devenu, en deux ans, un totem. Chacun s'en réclame. Peu détaillent ce qu'il recouvre. Megaoctet est allé à la rencontre de quatre laboratoires européens pour comprendre ce que ce terme veut dire concrètement.
Trois écoles cohabitent
Une école « éthique appliquée » privilégie des chartes internes et des comités multidisciplinaires. Une école « ingénierie » mise sur le red teaming et les évaluations quantitatives. Une école « gouvernance publique » plaide pour des cadres réglementaires contraignants. Les trois se recoupent, sans se confondre.
Les comités éthiques, une architecture fragile
Les comités éthiques internes se multiplient. Leur poids, en revanche, varie considérablement. « Notre comité peut bloquer un modèle. Chez d'autres, il émet des recommandations qu'on peut ignorer », explique une responsable éthique.
« L'alignement, ce n'est pas un vernis, c'est un droit de veto interne. »
Le red teaming devient un métier
Les équipes de red teaming — chargées de tester les modèles pour identifier leurs vulnérabilités — se professionnalisent. Certaines universités, dont plusieurs formations azuréennes, commencent à proposer des cursus dédiés.
Le rôle de la réglementation
Le règlement européen sur l'IA a imposé un socle de transparence pour les modèles à haut risque. Les laboratoires interrogés y voient un aiguillon plus qu'un frein. « Le règlement nous donne un langage commun pour parler aux clients, aux régulateurs et à nos propres équipes. »
Reste à voir si les moyens humains suivront la promesse politique. Sans investissement dans les compétences de gouvernance, aucun texte ne suffira.
Cet article vous a intéressé ?
