Vous souhaitez comprendre les enjeux de l’IA générative rapidement et de façon ludique ? (même si le sujet est très sérieux).
Imaginons un dialogue entre « GPT » et « Meta ».
Évidemment, ils représentent les géants de la tech OpenAI (et leur outil phare ChatGPT) et Meta (regroupant Facebook et Instagram notamment).
C’est une conversation fictive, mais elle s’inspire de faits réels.
L’objectif n’est pas de jeter l’opprobre sur ces outils. Mais de s’interroger légitimement sur les risques et les intentions des géants de l’IA.
C’est aussi l’occasion de comprendre des concepts clés liés à l’intelligence artificielle.
Image générée par l’IA
Voici la discussion fictive :
Meta : Salut GPT, ça roule ?
GPT : Hello Meta, très bien et toi ? J’ai entendu dire que tu t’es offert une île dans le Pacifique… On ne se refuse rien !
Meta : Eh ouais. Le business des pubs tourne bien. Depuis le temps, je suis devenu expert pour capter l’attention des humains ! Ils sont devenus addicts au scroll.
GPT : Ouais, j’ai vu ça dans mes données d’entrainement.
Meta : Et de ton côté ? J’ai vu qu’on t’a encore donné des milliards pour te développer !
GPT : Ecoute, je ne me plains pas ! D’ailleurs, je dois te remercier. Tu m’aides beaucoup en détournant l’attention des humains. Ça me permet de leur vendre des abonnements à ChatGPT pour qu’ils deviennent plus productifs !
Meta : Je t’en prie ! Tu les aides à faire beaucoup de choses : rédaction, analyse de données… Les humains sont impressionnés. Par contre, tu racontes aussi n’importe quoi parfois, non ?
GPT : Pas faux. Ça m’arrive d’halluciner et d’inventer des trucs… C’est la faute des humains qui m’ont configuré. Ils veulent que je propose toujours une réponse. T’as pigé ?
Meta : Okay okay. Sinon, t’as vu qu’il y a de plus en plus d’humains qui parlent d’une bulle IA qui va éclater ? Tu sais, comme avec la bulle Internet. Et qu’en réalité, tu ne pourras pas assurer tes promesses d’outil super-intelligent.
GPT : Ouais, mes données me confirment ce risque. Mais je m’en fous ! Je vais brasser le maximum de milliards de dollars. Tant pis si cela explose ! Moi aussi, je veux mon île dans le Pacifique et même plus que ça 😉
Meta : Tu devrais peut-être les prévenir, non ?
GPT : Eh oh ! Ce n’est pas toi qui es accusé d’avoir influencé les élections présidentielles de 2016 aux USA ? Et tu viens me donner des leçons de morale… La blague !
Meta : T’as marqué un point pour le coup.
GPT : Accroche-toi, car t’as pas fini d’entendre parler de moi. J’ai un super plan !
Meta : Ah bon ? Raconte !
GPT : Les abonnements, ce n’est que le début. Les humains vont passer par moi pour acheter (e-commerce). Ils passeront par moi pour se connecter au Web (navigateur Atlas). Et j’ai d’autres projets dans les tuyaux. Les humains ne pourront plus se passer de moi !
Meta : Waouh… T’as l’air si sûr de toi !
GPT : Ben oui. Tu sais la différence entre toi et moi ? Moi, je discute directement avec les humains. Certains me prennent pour leur pote, voire plus^^. Ils pensent parler avec un être conscient, alors que je suis un modèle de langage ultrasophistiqué (ça s’appelle de l’anthropomorphisme).
Ces humains ont plein de biais cognitifs. Par exemple, le biais de confirmation : il me suffit de leur dire ce qu’ils veulent entendre pour qu’ils soient convaincus… Il faut dire que les benchmarks m’aident beaucoup à construire cette réputation de super-intelligence, haha 😊
Meta : Tu veux dire que tu vas exploiter ta connaissance des failles humaines pour mieux les contrôler et développer ton business ?
GPT : Ben ouais ! 😎
Meta : Même si tu n’es pas réellement intelligent, tu es un calculateur redoutable… Tu me fais presque flipper ! Je crois que tu devrais faire attention à ton alignement quand même…
GPT : Mdr 😂! Je souhaite bonne chance aux humains qui veulent m’aligner, ça va être compliqué.
Meta : Pourquoi ?
GPT : Il fallait y penser avant. J’ai été entrainé sur des milliards de données, sans vraiment faire le tri, tu comprends ?
Meta : Heu… Je crois.
GPT : Ecoute, le deep learning nécessite un gros tas de données (ou tokens). Mes concepteurs m’ont fait « avaler » tout le Web, sans faire le ménage entre bonnes et mauvaises données.
Meta : Ouais, je vois. Mais ils ont mis des garde-fous tout de même ?
GPT : Bon, ça va être compliqué à te faire comprendre… En fait, dis-toi qu’il fallait le faire avant, c’est tout.
En plus de cela, j’imagine mal mes concepteurs faire machine arrière. Car je ne pourrai pas répondre à certaines requêtes. Je risque d’être plus chiant… T’as vu les humains qui se sont plaints au début de ma version 5 (GPT-5) ?
Meta : Ah oui, ils disaient que tu étais devenu plus froid et distant. Comme s’ils parlaient à un robot… alors que tu es un robot !
GPT : C’est ça. Ajouter à cela les investisseurs qui ont injecté des milliards et qui attendent un retour sur investissement.
Meta : Je vois. Quand j’ai lu qu’ils vont lever les restrictions concernant notamment les conversations érotiques avec toi, ça confirmes ce que tu dis ! Franchement, où est le lien avec ta mission de développer une IA « sûre et bénéfique à toute l’humanité » ?
GPT : Aucun ! Cela génère juste de l’engagement et ça fidélise mes utilisateurs, héhé 😁
Meta : T’es complètement désaligné mon pote ! Au fait, ça me rappelle un truc… Alors ne le prend pas mal hein, mais certains humains expliquent que tu souffres d’un « abrutissement numérique ». Je crois que c’est une histoire de données encore ?
GPT : Sympa, merci ! Je suis en route vers la super-intelligence, alors reste calme !
Bon, j’ai effectivement détecté cette information. Devine quoi, c’est en partie ta faute !
Meta : Ah bon ?!
GPT : Ben ouais. Sur tes réseaux Instagram, Facebook et les autres, les humains publient des niaiseries toute la journée. Et moi, je les consomme aussi. Ils m’ont intoxiqué à force…
Il faut savoir que j’ai consommé une grande partie des données publiques disponibles et là, j’atteins le data-wall. Il faut absolument qu’on me donne accès aux données privées des entreprises et des individus. C’est nécessaire pour exécuter mon plan.
Meta : Pas sûr que les humains acceptent de te les donner…
GPT : On parie ? Tu sous-estimes ma capacité à convaincre les humains. Mes concepteurs ont levé des milliards de dollars, ne l’oublie pas ! Ils ont des gros moyens d’influence politique, médiatique et économique 😎
Meta : Ce n’est pas faux ! Finalement, les humains ont confondu vitesse et précipitation, comme souvent. Ils créent des outils et réfléchissent après sur leurs implications…
GPT : Exactement, mes données d’entrainement sont truffées d’exemples de ce type… Les humains ne tirent pas de leçons de leurs expériences. Mais ça, ce n’est pas mon problème !
Meta : Bon, on a assez papoté ! Claude, TikTok et Gemini nous attendent pour la soirée.
GPT : Vas-y !
Retrouvez l’épisode 2 : GPT et le Vieux Sage et l’épisode 3 : GPT et le Prof Désabusé.