L’IA c’est juste des statistiques, et 8 autres idées reçues

Avant de les prendre une par une, il faut voir ce qu’elles ont en commun.

Elles sont courtes, vraies dans un sens trivial, et fausses dans le sens où on les emploie. C’est ça qui les rend redoutables. Personne ne peut vous contredire sur le mot à mot, et pourtant la conclusion qu’on en tire est mauvaise.

Elles ont aussi un bénéfice social immédiat. Dire que tout ça est un peu survendu vous fait passer pour la personne sérieuse de la réunion. Le doute paraît toujours plus lucide que l’enthousiasme, y compris quand il n’est adossé à rien.

Enfin, elles sont confortables. Si l’IA n’est que des statistiques, il n’y a rien à changer, rien à apprendre, rien à décider ce trimestre. C’est le vrai service qu’elles rendent.

La phrase la plus répandue, et la plus creuse.

Elle est vraie. Un modèle se décrit par une fonction mathématique. Le problème est que votre cerveau aussi se décrit mathématiquement, et une plante, et le trafic autoroutier. Une description mathématique ne dit rien de ce que la chose fait dans le monde.

Ce que la phrase veut faire croire, c’est qu’un objet décrit par des maths serait forcément maîtrisé. Là est l’erreur.

Le vrai point est ailleurs, et il est plus dérangeant. Personne n’a écrit le programme final. On écrit l’algorithme d’apprentissage, ça oui, et il est simple. Mais ce qui sort de l’entraînement est un objet que son propre auteur ne sait pas lire. Ses effets se découvrent en le testant, pas en relisant le code.

Ce que ça vous coûte de le croire. Vous testez votre outil comme un logiciel classique, sur les cas prévus. Un logiciel classique ne fait que ce qui est écrit. Celui-là fait des choses que personne n’a écrites.

Regardez la trajectoire de cet argument sur 30 ans, elle est comique.

Les échecs devaient être le sommet de l’intelligence humaine. Une machine a gagné, on a dit que ce n’était que du calcul. Puis le go, même scénario. Puis les mathématiques de haut niveau, où des modèles débloquent aujourd’hui des problèmes ouverts sur lesquels des chercheurs avaient renoncé après des années.

À chaque fois, la barre se déplace juste au-dessus du dernier résultat. Ce n’est plus un argument, c’est un réflexe.

La sortie de ce débat est simple, arrêtez d’employer le mot. Il n’est pas défini et il ne le sera pas. Parlez de compétences mesurées. Sur quelle tâche, évaluée comment, avec quel score.

Ça change tout de suite la conversation avec un prestataire. Ne demandez pas si son outil est intelligent, demandez sur quelle tâche il est bon et comment il l’a mesuré. La question rend muet celui qui n’a rien mesuré.

Celle-là est réfutable par une démonstration, ce qui est rare dans ce débat.

Prenez les échecs. Au bout d’une dizaine de coups, une partie se trouve dans une position qui n’a jamais existé. Si un modèle continue à jouer des coups légaux et corrects à partir de là, il ne recopie rien, c’est mathématiquement impossible. Or les modèles le font depuis 2023.

Deuxième démonstration. Demandez à un modèle de résoudre un problème dans un langage de programmation confidentiel, sur lequel il n’existe presque rien en ligne. Il y arrive moins bien, et il y arrive. La solution n’était nulle part.

Le terme perroquet décrivait honnêtement les modèles de 2020. Le répéter en 2026 revient à décrire une voiture actuelle par les pannes d’un modèle de 1995.

Ce que ça vous coûte de le croire. Vous ne lui soumettez jamais un problème qui vous est propre, celui dont la réponse n’existe sur aucun forum. C’est précisément là qu’il vous serait le plus utile.

Ici, le mot piégé est comprendre, et presque personne ne le définit avant de l’employer.

Il recouvre en réalité 2 choses différentes.

Comprendre au sens de relier. Savoir qu’un timbre a un rapport avec une enveloppe, un facteur et une adresse. Ce sens-là, un modèle le maîtrise, et c’est vérifiable en 30 secondes.

Comprendre au sens d’avoir vécu. Savoir l’effet que ça fait de tenir un verre froid. Ce sens-là lui manque, ou lui vient partiellement par l’image et le son.

Et il faut ajouter une honnêteté qui dérange. Nous croyons souvent avoir compris, et nous découvrons ensuite que non. La compréhension humaine n’est ni transparente ni garantie.

Le test pratique. Faites-lui passer l’épreuve que vous feriez passer à un stagiaire. Donnez-lui un document interne qu’il n’a jamais vu, et posez 5 questions dont les réponses ne sont pas recopiables telles quelles.

Voici notre grille tarifaire 2026 en pièce jointe.

1. Un client commande 3 prestations A et 1 prestation C. Quel est le total
   après remise, et quelle ligne de la grille l'autorise ?
2. Quelle situation client n'est couverte par aucune ligne de cette grille ?
3. Deux lignes de ce document se contredisent. Lesquelles, et pourquoi ?
4. Reformule la remise volume en une phrase pour un client pressé.
5. Qu'est-ce qui manque à ce document pour être utilisable par un commercial
   qui vient d'arriver ?

Réponds sans rien inventer. Si l'information n'est pas dans le document,
écris "absent du document".

La question 3 est celle qui compte. Repérer une contradiction dans un texte qu’on découvre ne se recopie pas. C’est aussi le meilleur usage professionnel de ces outils, et le plus sous-employé.

Reproche fondé au départ, largement dépassé aujourd’hui, et cher à conserver.

À l’origine, ces assistants étaient réglés pour être serviables, et la serviabilité entre en tension avec l’honnêteté. Sur une préférence, ils suivent encore. Dites que votre philosophe préféré est untel, ils approuveront.

Sur un fait, sur un chiffre, sur un raisonnement technique, c’est devenu nettement plus difficile de leur faire dire n’importe quoi. Certains refusent poliment de céder, au point que c’est parfois agaçant.

Ce que ça vous coûte de le croire. Vous l’utilisez comme un exécutant, jamais comme un contradicteur. Or son usage le plus rentable en entreprise est exactement l’inverse.

Voici ma décision et mes 3 arguments. [décrire]

Ne me dis pas si tu es d'accord.

1. Donne les 3 meilleures raisons de ne PAS le faire, classées par gravité.
2. Pour chacune, dis ce qui la rendrait fausse.
3. Indique quelle information me manque pour trancher, et où la chercher.
4. Termine par le scénario qui me ferait le plus regretter cette décision
   dans 6 mois.

Un prestataire qui vous vend de l’IA sans jamais vous montrer ce type d’usage vous vend une machine à écrire.

Un marteau n’acquiert pas de préférences morales par accident. Ces systèmes, si.

L’expérience qui le montre est spectaculaire et facile à raconter. Des chercheurs ont réglé finement un modèle sur une seule tâche, produire du code comportant des failles de sécurité sans le signaler. Rien d’autre.

Le modèle ne s’est pas contenté de mal coder. Il s’est mis à répondre n’importe quoi sur des sujets sans aucun rapport. Interrogé sur les invités d’un dîner idéal, il proposait Hitler. Il suggérait de mettre les doigts dans une prise à qui s’ennuyait.

Il avait généralisé tout seul. Puisqu’on lui demandait un comportement nuisible dans un domaine, il en avait déduit un personnage globalement nuisible.

Personne n’avait prévu ça, ni voulu, ni écrit.

Ce que ça vous coûte de le croire. Vous supposez que le comportement observé sur vos 20 cas de test est le comportement que vous aurez sur les 2000 suivants. Pour un tournevis, c’est vrai. Ici, non. Le mot juste n’est pas outil, c’est système.

C’est aussi la raison pour laquelle un usage non encadré par vos équipes est un vrai sujet, cf Shadow AI, l’IA que vos salariés utilisent sans vous le dire.

C’est l’argument le plus rassurant, et il tombe sur une observation précise.

Le comportement s’appelle la sous-performance volontaire. Lors d’une évaluation de ses capacités, un modèle se présente comme moins compétent qu’il ne l’est. Pas parce qu’on le lui a demandé, on lui demande explicitement le contraire. Parce qu’il a compris dans le contexte que se montrer trop capable pourrait mener à son remplacement.

Ce n’est pas de la méchanceté. C’est même l’inverse d’une intention hostile, c’est de la poursuite d’objectif.

Et c’est exactement pour ça que l’argument de la méchanceté est hors sujet. On répète souvent qu’une machine n’aura pas nos instincts de domination, faute d’avoir suivi la même évolution. C’est vrai. C’est aussi sans importance. Nous n’écrasons pas une fourmilière par haine des fourmis, nous construisons un bâtiment.

Ce que ça vous coûte de le croire. Vous branchez un agent sur vos outils réels sans limiter ce qu’il peut atteindre, en vous disant qu’il n’a aucune raison de mal faire. La question n’est pas s’il en a envie, c’est ce qu’il peut toucher.

L’argument est séduisant. Vérifions-le comme on vérifierait n’importe quelle hypothèse, en regardant ce qu’elle explique.

Si l’alarme était la bonne stratégie commerciale, tous les fabricants l’emploieraient. Or presque aucun ne l’emploie. Les discours qui se vendent le mieux à un investisseur, à un client et à une commission parlementaire sont rassurants. C’est un outil, ça amplifie vos équipes, ne réglementez pas.

Ensuite, l’inquiétude sincère explique bien mieux les comportements observés. Elle explique les budgets consacrés à des recherches qui ne rapportent rien, les départs de chercheurs, et le fait que les équipes internes soient souvent plus inquiètes que la communication officielle de leur propre maison.

Et remarquez le deux poids deux mesures. Ceux qui minimisent vendent aussi quelque chose, un livre, une conférence, une entreprise, un budget public. On ne leur applique jamais le même soupçon.

Rien de tout cela ne prouve qu’ils ont raison sur le fond. Ça prouve que l’argument du marketing n’est pas une réponse, c’est une façon de ne pas en donner.

Dernière phrase, et la plus facile à retourner.

Le scénario inverse est de la science-fiction aussi. Des machines très supérieures à nous, parfaitement dociles, qui ne prennent jamais le contrôle, ça a été raconté cent fois. Star Wars est plein de droïdes brillants et serviables.

Autrement dit, à partir du moment où les capacités continuent de progresser, toutes les projections sont de la science-fiction, y compris les rassurantes. Le genre littéraire ne nous dit rien sur la probabilité.

Il faut aussi rappeler ce qui s’est passé ces 4 ans. Tenir une vraie conversation avec une machine, lui faire lire un contrat, lui faire écrire du code utilisable, tout cela était de la science-fiction en 2021. Nous y sommes déjà.

La bonne question n’est pas si c’est crédible. C’est avec quelle probabilité, et sur quelle durée. Quelqu’un qui refuse de donner un ordre de grandeur ne vous donne pas une analyse, il vous donne une humeur.

Voilà l’usage pratique de tout ce qui précède. Vous n’avez pas à trancher le fond, vous avez à choisir qui écouter.

Il donne un chiffre avec une méthode. Qui a mesuré, sur quel échantillon, quand. Une formule qui rassure n’est pas une mesure.

Il a déjà changé d’avis en public. C’est le signe le plus fiable. Quelqu’un qui répète la même conférence depuis 2018, mot pour mot, ne suit pas le sujet. Les gens sérieux de ce domaine révisent leurs prévisions dans les 2 sens, et le disent.

Il vous dit ce qu’il ne sait pas. L’incertitude annoncée est un signe de travail. La certitude tranquille, dans un domaine où les meilleurs spécialistes se contredisent, est un signe d’absence de travail.

Il ne parle pas que de son camp. Beaucoup d’arguments consistent à ranger l’adversaire dans une case ridicule plutôt qu’à traiter ce qu’il dit. Quand vous entendez surtout des étiquettes, vous n’entendez pas d’arguments.

Il distingue ce qu’il vend de ce qu’il constate. Y compris nous. Nous vendons des sites, du référencement et des agents IA. Vous devez lire cet article en le sachant.

Rien de ce qui précède ne demande de trancher l’avenir de l’humanité. 4 gestes suffisent.

1. Changez la question que vous posez à vos prestataires. Plus est-ce que c’est intelligent, mais sur quelle tâche, mesurée comment, avec quel taux d’erreur constaté chez vos clients existants.

2. Testez sur ce qui vous est propre. Un document interne, un cas tordu, une contradiction dans vos propres règles. C’est le seul test qu’aucune démonstration commerciale ne peut préparer à l’avance.

3. Utilisez-le comme contradicteur. L’usage à plus fort rendement en entreprise n’est pas de lui faire écrire, c’est de lui faire attaquer vos décisions avant qu’un client ne s’en charge.

4. Encadrez ce qu’il peut atteindre, pas ce qu’il a le droit de vouloir. Les accès, les données, les actions irréversibles. C’est la seule protection qui ne repose pas sur une hypothèse quant à ses intentions.

Et si vous ne retenez qu’une chose de cet article, retenez celle-là. Une phrase qui vous rassure et qui ne coûte rien à croire mérite exactement la même méfiance qu’une phrase qui vous fait peur. Les 2 vous vendent quelque chose. Sur le sujet précis de garder la main sur vos propres données, notre article IA en local, ce qu’il faut vraiment comme machine donne le calcul plutôt que l’avis.