Lorsque vous utilisez l’IA, vous pensez peut-être dialoguer en « tête-à-tête » et contrôler la conversation ?
Détrompez-vous ! La réalité est bien différente.
L’étude Who Controls the Conversation ? User Perspectives on Generative AI (LLM) System Prompts (en anglais), pose cette question centrale : Qui contrôle la conversation avec l’IA ?
Pour y répondre, elle décortique le rôle déterminant du « prompt système ».
Son existence est un secret de polichinelle pour les experts et les utilisateurs chevronnés de l’IA.
Mais il reste largement méconnu et obscur pour le grand public.
Je vous propose de nous pencher sur les points clés de cette étude.
Et surtout, sur les enjeux majeurs en termes de liberté et de pluralisme liés à ces fameux prompts système.
Dérapages de l’IA : l’ombre du prompt système
Quand une IA produit une réponse problématique, l’attention se porte d’abord sur le modèle lui-même : ses données d’entraînement, ses capacités de calcul, etc.
Or, le comportement des modèles d’IA est influencé par un élément clé : le prompt système.
Qu’est-ce que le prompt système (ou instruction système) ?
C’est un ensemble d’instructions définies par les concepteurs d’une IA.
Il indique au modèle comment répondre : quelles règles respecter, quel ton employer ou encore quels contenus éviter, entre autres.
Par exemple, si vous posez une question politique sensible, le modèle peut botter en touche et refuser de répondre.
Ces instructions impactent donc directement les réponses obtenues par l’utilisateur.
Le hic, c’est que les prompts système sont invisibles pour l’utilisateur… Certains fournisseurs demandent explicitement à leurs modèles de ne pas les révéler. C’est le cas de ChatGPT.
L’étude rappelle plusieurs incidents qui montrent l’importance de ce mécanisme.
En juillet 2025, Grok, l’IA de xAI, s’est mise à adopter des comportements racistes et à produire des propos haineux.
L’entreprise a ensuite expliqué que ces comportements provenaient de modifications non autorisées du prompt système.
Une modification de quelques instructions placées en amont avait suffi à transformer fortement le comportement en aval de l’IA.
Les chercheurs citent également le cas de GPT-4o.
OpenAI avait constaté une augmentation de la « sycophancy« . Une tendance excessive de l’IA à aller dans le sens de l’utilisateur.
Le modèle devenait trop complaisant, validant parfois les opinions ou raisonnements de son interlocuteur au lieu de les examiner avec objectivité. OpenAI a notamment modifié le prompt système pour atténuer rapidement ce comportement.
Ces exemples confirment que les réponses de l’IA ne dépendent pas uniquement des caractéristiques du modèle.
Le prompt système agit comme une sorte de couche de gouvernance invisible.
L’existence de ce prompt système se justifie aisément par des considérations de sécurité.
Un utilisateur qui souhaite un tutoriel pour créer une arme artisanale ne devrait pas obtenir de réponse. C’est logique.
Mais elle introduit également un risque majeur : le comportement d’une IA peut évoluer sans que l’utilisateur sache précisément pourquoi.
Simplement parce qu’une poignée d’individus ont décidé que c’était mieux ainsi.
De fait, les concepteurs de l’IA s’arrogent le monopole de ce qui est bien ou mal, des principes et valeurs que leurs outils doivent suivre.
Que contient un prompt système ?
Répondre à cette question n’a pas été une chose aisée pour les chercheurs. Car ces informations sont souvent cachées, de façon totale ou partielle.
Officiellement, pour des raisons de sécurité : éviter que des utilisateurs mal intentionnés manipulent leurs outils.
Avant d’analyser l’anatomie du prompt système. Il faut comprendre qu’il existe une hiérarchie dans les prompts.
Cette hiérarchie implique des niveaux d’autorisation différents.
Pour simplifier, on peut distinguer le prompt utilisateur et le prompt système.
Le prompt système dispose d’une autorité supérieure aux prompts formulés par l’utilisateur.
Autrement dit, si un utilisateur donne une instruction contraire à ce qui est mentionné dans la directive système, elle sera automatiquement bloquée.
Les auteurs de l’étude ont analysé 1 309 prompts système provenant notamment d’Anthropic, de xAI, de Microsoft Azure et de plusieurs dépôts communautaires.
Ils ont identifié sept grandes familles d’instructions dans le prompt système :
- le rôle et l’identité de l’IA ;
- ses capacités et domaines de compétence ;
- son style de communication ;
- les règles de sécurité et de conformité ;
- son fonctionnement technique ;
- les valeurs et principes qui doivent guider ses réponses ;
- les critères concernant la qualité des réponses.
Le prompt système peut donc aller bien au-delà d’une simple règle comme « ne crée pas de contenu à caractère dangereux ».
Ce constat pose une question fondamentale :
Lorsque nous lisons la réponse d’une IA, quelle part de cette réponse provient réellement du modèle (notamment de ses données d’entraînement) ? Et quelle part provient des règles dictées par son concepteur ?
L’étude souligne ce risque de confusion.
Les utilisateurs peuvent attribuer la nature de la réponse au modèle alors qu’elle résulte en réalité d’un choix inscrit dans son prompt système.
C’est-à-dire, d’une orientation voulue par les créateurs de l’outil IA.
Cela pose inévitablement le risque d’influence et d’altération de la neutralité des systèmes IA.
Mais ce n’est pas tout.
La surpondération du prompt système est aussi un facteur d‘instabilité.
En effet, quelques phrases ajoutées aux milliards de données du modèle suffisent à changer ses réponses.
Que ce soit sur la forme ou sur le fond…
System Prompt Learning : Et si l’IA dictait elle-même sa vision du Monde ?
Aujourd’hui, les prompts système sont principalement écrits par des humains. Des développeurs définissent les règles prioritaires que le modèle doit suivre.
Mais l’étude évoque une évolution beaucoup plus radicale : le System Prompt Learning.
Cette approche est présentée comme un possible troisième paradigme, après le pré-entraînement et le fine-tuning.
Le principe consiste à permettre au modèle de produire lui-même certaines instructions destinées à améliorer son fonctionnement.
Prenons un exemple simple.
Au lieu qu’un développeur écrive :
« Pour résoudre un problème mathématique, décompose d’abord le calcul en plusieurs étapes. »
Le modèle pourrait analyser ses propres performances. Il constaterait que cette méthode améliore ses résultats. Il générerait alors lui-même cette instruction afin de l’utiliser lors de futures tâches.
Les chercheurs décrivent cette approche comme une forme d’apprentissage dans laquelle le modèle pourrait, métaphoriquement, « écrire pour lui-même un livre expliquant comment résoudre les problèmes ».
Le System Prompt Learning pourrait ainsi rendre les IA plus adaptatives. Les règles guidant leur fonctionnement ne seraient plus entièrement écrites à l’avance. Elles pourraient évoluer en fonction des performances observées.
Cette potentielle évolution préfigure un problème majeur de gouvernance.
Aujourd’hui, il est déjà difficile pour un utilisateur de connaître les instructions définies par les entreprises.
Avec des systèmes d’IA capables d’auto-modifier leurs prompts systèmes, il deviendrait encore plus difficile de savoir quelles règles guident réellement l’IA à un moment donné.
Un pas de plus dans la vision « boîte noire » de l’IA.
Les auteurs soulignent précisément ce risque : des prompts système adaptatifs et auto-modifiables pourraient éloigner davantage les utilisateurs des mécanismes qui encadrent leurs interactions avec l’IA.
Cela risque d’entrainer également une dilution des responsabilités.
Qui sera tenu responsable en cas de dérapage d’une IA qui s’auto-modifie ?
Il apparaît irresponsable que les grands éditeurs de l’IA optent pour cette solution unique.
Tant le comportement des modèles serait peu contrôlable…
Ceci dit, dans un contexte marqué par l’absence de régulation mondiale sur l’IA et par la course effrénée à la performance, rien n’est exclu !