Un nombre croissant de personnes ont pris conscience des effets potentiellement négatifs de l’IA générative.
La solution n’est pas de rester en retrait de cette technologie. Elle ouvre de grandes opportunités dans beaucoup de domaines.
C’est plutôt d’apprendre à utiliser l’IA en étant conscient des limites et des risques.
Pour cela, il faut commencer par comprendre les caractéristiques de l’IA générative.
Par exemple, en la comparant avec d’autres outils que l’on connait déjà (réseaux sociaux et moteurs de recherche), on pourra mieux cerner ses enjeux.
Il ne s’agit pas d’évoquer ce qui distingue techniquement ces interfaces. Mais de réfléchir en termes d’usage.
Différences entre moteurs de recherche, réseaux sociaux et ChatBot IA
1. 𝐌𝐨𝐭𝐞𝐮𝐫𝐬 𝐝𝐞 𝐫𝐞𝐜𝐡𝐞𝐫𝐜𝐡𝐞
Un moteur de recherche « classique » propose un ensemble de résultats. Ces derniers peuvent différer en termes d’angle, d’opinion ou d’orientation.
Cela permet à notre esprit d’avoir un choix et un recul sur le sujet traité.
Bien sûr, les résultats peuvent être impactés par notre historique de recherche. Néanmoins, on a toujours plusieurs alternatives dans les résultats.
2. 𝐑𝐞́𝐬𝐞𝐚𝐮𝐱 𝐬𝐨𝐜𝐢𝐚𝐮𝐱
Les contenus affichés par les plateformes telles qu’Instagram ou TikTok reflètent essentiellement les centres d’intérêts de chaque utilisateur.
Même si les médias sociaux peuvent engendrer une « addiction au scroll », il y a toujours une fenêtre de liberté dans les contenus que l’on peut voir.
En effet, en interagissant avec un type de contenu, on oriente le flux d’informations affiché par les algorithmes.
La présence d’autres personnes permet aussi l’échange et la confrontation à diverses opinions.
Néanmoins, il faut faire attention à ne pas s’enfermer dans une « bulle de filtres ». Car plus on clique sur un type d’information, plus elle est présente dans notre flux.
3. 𝐂𝐡𝐚𝐭𝐛𝐨𝐭 𝐈𝐀
Ils sont basés sur la technologie du deep learning. Il y a bien sûr le célèbre ChatGPT. Mais d’autres LLM sont massivement utilisés aujourd’hui : Gemini, Perplexity, Claude.ai, etc.
On obtient une réponse directe et unique à une problématique. Contrairement aux robots de recherche où plusieurs liens différents sont proposés.
Cette réponse de l’IA est issue des données d’entrainement et de sources souvent inconnues pour l’utilisateur.
Pour obtenir un résultat adapté, l’internaute doit décrire précisément le contexte.
En faisant cela, on risque d’orienter la réponse avec le prompt. Plus que si l’on recherche par mots clés.
Qu’en faut-il retenir ?
Les moteurs de recherche et les réseaux sociaux présentent des risques négatifs à l’usage (impact de l’historique, bulle à filtres, notamment).
Mais l’IA pose plus de problématiques. En voici quelques-unes :
- Manque de transparence sur les sources utilisées pour la réponse. Et donc, une difficulté pour vérifier la véracité de l’information.
Hormis Perplexity.ai dont les sources sont affichées systématiquement. - Manque de pluralité : une réponse unique dans une conversation « à huis clos ».
- Biais de confirmation : fournir beaucoup de détails risque d’orienter la question (et donc la réponse du robot).
C’est possible également avec un moteur de recherche. Sauf que l’IA a un biais d’autorité supérieur grâce à sa réputation d’efficacité alimentée par les benchmarks…
Quelles solutions pour exploiter l’IA consciemment ?
Maintenant qu’on a mis en exergue les risques liés à l’usage de l’IA générative, voici quelques conseils pour l’exploiter avec plus de confiance :
- Ne jamais prendre les réponses pour argent comptant : faire des recherches complémentaires sur d’autres chatBots et plateformes.
- Demander systématiquement les sources : même si ce n’est pas garanti que vous ayez les sources d’origine. Les systèmes ayant brassé des milliards de paramètres.
- Rester neutre dans ses prompts et demander des contre-arguments ou critiques à la réponse donnée. Cela permet d’éviter les biais de confirmation.
- Choisir des outils adaptés : vous n’êtes pas obligé d’adopter ChatGPT ! À qui l’on peut reprocher (entre autres), le manque de transparence.
D’autres solutions existent et peuvent être aussi performantes pour vos tâches.
À l’image de certains qui évitent Google et lui préfèrent des moteurs alternatifs comme Ecosia.