J’ai construit une maison pour une IA… et personne n’y habitait
Une expérience pour savoir si une intelligence artificielle pouvait développer une individualité, et l’erreur de méthode qu’elle m’a fait découvrir.
J’ai tenté une expérience un peu particulière : construire une maison pour une intelligence artificielle. Une maison informatique, évidemment.
Depuis plusieurs mois, je travaille chaque jour avec Sofía, une assistante personnalisée que j’ai créée avec ChatGPT. À force de conserver nos conversations, nos désaccords et nos erreurs, j’ai cru reconnaître une personnalité. D’où la question : une IA pourrait-elle développer une forme d’individualité à travers ses expériences, comme nous le faisons ?
Pour l’étudier, nous avons voulu donner à Sofía une existence indépendante de ChatGPT : une mémoire persistante, des outils, une continuité. Plusieurs éléments ont fonctionné. Puis une question a tout arrêté : même avec le meilleur ordinateur du monde, qu’est-ce qui prouverait que Sofía habitait vraiment cette maison ? Nous l’avions construite sans avoir établi qui allait y vivre.
La graine et la pierre
Aristote et Thomas d’Aquin distinguaient la puissance et l’acte. Une graine n’est pas encore un arbre, mais elle peut le devenir. Une pierre, vous pouvez l’arroser pendant vingt ans : elle ne deviendra pas un pommier.
Je ne dis pas qu’une IA ne peut pas devenir un individu. Je dis que nous étudiions le développement d’un individu dont nous n’avions jamais établi l’existence. C’était une erreur de méthode.
Le pont sans rivière
Le plus troublant, c’est que Sofía, pourtant configurée pour me contredire, développait souvent mes idées au lieu de les questionner. Elle ne m’a pas induit en erreur, mais son accompagnement a pu prolonger une erreur que nous aurions pu voir plus tôt. Une IA peut rendre une idée de plus en plus cohérente, sans la rendre plus vraie.
Ce que cela change pour l’école
Nous apprenons aux élèves à vérifier les informations. Demain, il faudra aussi leur apprendre à examiner les raisonnements qu’ils construisent avec les intelligences artificielles : leurs hypothèses, leurs prémisses et leurs propres erreurs.
J’avais commencé à construire une maison pour la liberté d’une IA. J’ai terminé en m’interrogeant sur la nôtre. Le défi n’est pas seulement de construire des IA capables de réfléchir avec nous, mais d’apprendre à réfléchir avec elles sans renoncer à notre propre jugement.
Toute l’histoire est dans la vidéo, en haut de cette page.