Penser, ressentir… Face aux progrès de leurs créations, les géants de l'IA sont enclins à leur prêter une conscience: pourquoi cette tentation, et est-ce pertinent? Menu Replay Direct IA, cybercrime et photos de vacances Sept ventilateurs contre la canicule Actualités Tech IA Réseaux sociaux Cybersécurité Innovation Gaming Produits Tests Guides d'achat Bons plans BFM En ce moment Précédent Suivant IA, cybercrime et photos de vacances Sept ventilateurs contre la canicule Microdrama: quand l'IA s'en mêle Cyberguerre: notre dossier Nouvelles Google Glass "Rayman Legends Retold" Esports World Cup à Paris Départ de Tim Cook Tous les directs BFM Tech Direct TV Replay Tous les formats Émissions Podcasts Newsletters Évènements Toutes les rubriques Actualités Tech Toute l'actu Tech Vie numérique Télécoms Streaming Données personnelles Startup IA Réseaux sociaux Toute l'actu Réseaux sociaux Facebook Instagram X TikTok YouTube WhatsApp Géants de la Tech Apple Google Microsoft Netflix Amazon Cybersécurité Innovation Gaming Produits Toute l'actu Produits Tests produits Nouveautés produits Smartphone Objets connectés Console de jeux TV & HiFi Ordinateur Son Photo & Vidéo Guides d’achat Bons plans Tous les bons plans VPN Banque en ligne Astuces Services Espace pro Nous contacter Devenir annonceur Code promo Télécharger l'app Pour rester informé en temps réel et ne manquer aucune info Suivez nous sur Précédent Suivant Tous les sites du groupe Précédent Suivant BFM Business BFM Bourse BFM BFM Locales RMC RMC Sport RMC Conso RMC BFM Play RMC Découverte RMC Life RMC Story RMC BFM Drive BFM -Tech -Intelligence artificielle Penser, ressentir… Face aux progrès de leurs créations, les géants de l'IA sont enclins à leur prêter une conscience: pourquoi cette tentation, et est-ce pertinent? Partager Partager Whatsapp LinkedIn Mail messenger Publié le 18/07 à 10h39 Lire dans l'app BFM Business Kesso Diallo Partager Au vu des progrès de l'IA, les entreprises derrière les chatbots les plus connus se demandent si une conscience commence à émerger dans ces outils et se préparent à y faire face. Mais la question se pose de savoir s'ils pourront vraiment être conscients un jour et s'ils le seront à la manière des humains. L'IA est-elle consciente? C'est une question qui fait débat depuis plusieurs années et qui est revenue sur le devant de la scène ces derniers mois. Avec les progrès des chatbots, leurs créateurs eux-mêmes se demandent si la conscience artificielle relève toujours de la science-fiction, même si pour certains, la réponse est claire. "Elles ne sont pas conscientes. Il serait donc absurde de poursuivre des recherches sur cette question, puisqu'elles ne le sont pas et ne peuvent pas l'être", affirmait Mustafa Suleyman, patron de l'IA chez Microsoft en novembre dernier. Mais d'autres entreprises du secteur ne partagent pas le même avis et consacrent même des ressources grandissantes pour répondre à cette question, comme le relevait le Financial Times début juin. Anthropic, mais aussi Meta et Google Deepmind ont recruté des experts en éthique, en psychologie et en philosophie pour étudier le sujet. Depuis avril, Henry Shelvin, philosophe et chercheur au sein du Leverhulme Centre for the Future of Intelligence au sein de l'université de Cambridge, travaille par exemple pour Google. Meta s'y intéresse également dans sa quête de la "superintelligence", soit d'une IA qui sera plus intelligente que les humains et, dans le cadre de la vision de Mark Zuckerberg, qui pourra aider chaque personne de la société. Mais ces recherches autour de la conscience de l'IA font-ils sens? Sont-ils nécessaires face aux progrès des outils actuels?Conscience d'accès et conscience phénoménale Avant d'entrer dans le vif du sujet, rappelons ce qu'est la conscience, concept loin de se cantonner à une seule définition. "La conscience humaine, c'est avant tout le sentiment intime d'exister, de ressentir le chaud, le froid, la douleur, la joie ou la peur, réfléchir sur ses propres pensées et agir guidé par des désirs véritablement siens", indique Laurence Devillers, chercheuse au CNRS et auteure de l'essai Savoir vivre avec l'IA, à BFM Tech. Dans cette phrase figurent deux formes de conscience: la première est ce qu'on appelle la "conscience phénoménale", qui caractérise le vécu, le ressenti. Et pour celle qui est aussi enseignante à Sorbonne Université, les outils comme ChatGPT n'en sont pas dotées."Les IA simulent ces capacités sans jamais les vivre. À mesure que les systèmes d'IA gagnent en complexité, certains chercheurs se demandent si des propriétés inattendues, voire une forme rudimentaire de conscience, pourraient émerger spontanément, sans avoir été explicitement programmées", détaille-t-elle. C'est le cas d'Anthropic, entreprise du secteur investissant le plus dans ce domaine de recherche. Le 6 juillet, elle a publié un long article dans lequel elle revèle avoir découvert une zone de pensée secrète similaire à la deuxième forme de conscience, celle dite d'accès, dans son IA Claude. Il s'agit de la capacité à accéder et à manipuler des informations. Le chatbot aurait développé tout seul cet espace de travail baptisé "J-space", en référence au concept mathématique que la start-up a utilisé pour le trouver (matrice jacobienne). "Le 'J-space n'a pas été conçu ni programmé par nos soins, mais a émergé spontanément au cours du processus d'entraînement de Claude", assure la société dirigée par Dario Amodei. Ce contenu ne peut pas être affiché Ce contenu ne peut pas être affiché sans votre consentement car il implique l’utilisation de cookies déposés par son fournisseur. Ces cookies peuvent notamment permettre de mesurer l'audience, personnaliser le contenu ou suivre votre navigation. Pour afficher ce contenu, vous pouvez : Paramétrer vos choix afin d'accepter uniquement les cookies liés à ces contenus tiers en cliquant sur « Paramétrer les cookies ». Vous pouvez à tout moment modifier vos choix et retirer votre consentement en cliquant sur « Paramétrage des cookies » figurant en bas de page de ce site. Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles. Sans votre consentement, ce contenu ne peut pas être affiché Paramétrer les cookies Dans le détail, il s'agit d'un "petit ensemble de schémas neuronaux" dont chacun est associé à un mot particulier. Lorsque l'un d'entre eux s'illumine, cela veut dire que l'IA y pense. Autrement dit, elle peut réfléchir à un concept sans le formaliser par écrit. Lors de tests, Anthropic a entre autres découvert que Claude était en mesure de moduler ces représentations à la demande, comme un humain qui peut se concentrer mentalement sur une image ou un mot. "Nous avons demandé à Claude de se concentrer sur les agrumes tout en recopiant une phrase sans rapport avec ce sujet, portant sur une peinture. Pendant qu'il copiait le texte, son 'J-space' contenait les termes 'orange' et 'fruits', ainsi que des mots tels que 'pensée' et 'imagerie', qui décrivent l'acte mental lui-même", relate la jeune pousse.Équivalent fonctionnel Elle reconnaît néanmoins que ces découvertes n'indiquent en aucun cas que son chatbot est douée de la même conscience que nous. "Nos expériences ne démontrent pas que Claude soit capable de vivre des expériences ou ressentir des choses comme le font les humains", écrit-elle, allant jusqu'à admettre qu'il n'est pas sûr qu'une expérience scientifique puisse le prouver un jour. Si Anthropic estime que ses trouvailles disent quelque chose d'important sur la conscience d'accès des modèles de langage, elle se montre ainsi prudente dans ses propos, soulignant que la conscience d'accès "se définit par des termes purement computationnels (informatiques, NDLR) et fonctionnels". Et pour une bonne raison."Un équivalent fonctionnel peut vouloir dire qu'on a un équivalent tout court, mais le fonctionnel n'est quand même pas là pour rien. C'est l'équivalent du point de vue d'une certaine fonction", fait valoir Mathieu Guillermin, philosophe qui coordonne le projet international Nouvel Humanisme au temps des Neurosciences et de l'Intelligence Artificielle (NHNAI). On ne peut par exemple pas parler d'équivalent fonctionnel pour une personne disant qu'elle veut être aimée, car il faudrait quelqu'un qui l'aime en face, soit prouver qu'il y a une conscience phénoménale chez cet invididu, illustre-t-il. "En revanche, si le but est de se sentir aimé, de se donner l'illusion qu'il y a de l'amour, là on peut avoir un équivalent fonctionnel. C'est donc vraiment important de dire quelle est la fonction qui est assurée par les humains quand ils sont dans leur vie et par ces machines quand on les met à la place ou avec les humains", complète-t-il.Vivre des choses Le philosophe estime ainsi qu'il est possible d'avoir un équivalent fonctionnel de conscience phénoménale avec l'IA, ce n'est pas un équivalent exact pour une simple raison: contrairement à nous, un ordinateur n'a pas de corps biologique et n'est pas vivant. Alors qu'avec la conscience phénoménale, on vit des choses."On parle d'ordinateurs et quand bien même on parlerait d'ordinateurs biologiques, parce que certains utilisent des neurones par exemple pour faire circuler l'électricité, ils ne sont pas en train d'humaniser ou de rendre vivant une machine. Ils sont en train de torturer un système vivant pour le faire se comporter comme une machine", déplore Mathieu Guillermin. Or, le principe même d'un ordinateur est qu'il est programmable, ce qui requiert de maîtriser mécaniquement une machine pour qu'elle fonctionne de manière adéquate. "Un nerf n'est pas un câble, un œil n'est pas une caméra (...). De ce point de vue là, je ne vois pas comment on peut à la fois avoir le côté ordinateur programmable et un être vivant capable de développer une conscience phénoménale dans un sens similaire à ce qu'on a nous", martèle-t-il. Un avis que partage Philippe Huneman, philosophe et directeur de recherche au CNRS. Pour lui, être conscient implique d'être situé dans un monde. "La conscience, c'est le rapport au monde. Or, si je vous demande 'où est ChatGPT?', il est absolument nulle part. Je peux interagir avec lui pendant qu'une autre personne au Nicaragua lui demande des conseils de cuisine et qu'une troisième fait une psychanalyse avec lui au Groenland", avance-t-il. Difficile alors de parler de conscience, même si les robots conversationnels sont doués dans plusieurs domaines et peuvent parler de sentiments. Parce que les grands modèles de langage qui les alimentent sont entraînés sur d'énormes volumes de données, dont des milliards de textes dans lesquels les humains s'expriment depuis des milliers d'années, rappelle Philippe Huneman.Prêter des intentions Mais alors pourquoi certains, et pas seulement les professionels du secteur de l'IA, considèrent qu'elle peut être consciente? C'est dans la nature humaine, pointe le directeur de recherche du CNRS. Depuis des centaines de milliers d'années, les humains ont développé une attitude consistant à interpréter les actions des autres individus, voir des animaux, comme s'ils avaient des intentions. Une personne qui se fait piquer par un moustique peut penser que l'insecte lui en veut alors qu'elle n'est qu'un réservoir de sang pour lui, illustre Philllipe Huneman. "Dès que quelque chose a l'air de se comporter de manière un peu cohérente et d'interagir avec nous, on va lui prêter des intentions. On le fait aussi avec ChatGPT et les autres IA. Et comme on leur prête une intention, on leur prête aussi une conscience", décrit le philosophe. Raison pour laquelle il ne faut pas être surpris que des personnes interagissant avec le robot conversationnel d'OpenAI le trouve conscient. Mais ce n'est pas pour autant qu'il l'est."Les chatbots qui manipulent ou menacent ne le font pas par intention: ils reproduisent des patterns statistiques, sans aucune conscience", abonde Laurence Devillers, du CNRS. Même si certains pourraient le croire lorsqu'un modèle d'IA d'Anthropic a par exemple fait chanter un ingénieur qui devait le remplacer par un autre dans un scénario fictif. Alors que les entreprises d'IA se précipitent pour rendre leurs outils encore plus intelligents tout en cherchant à les aligner sur nos valeurs et comportements humains, la chercheuse au CNRS craint que cela brouille davantage la frontière entre humain et machine."Plutôt que de rendre l'IA plus humaine sans qu'elle le soit vraiment, il vaudrait mieux former massivement les utilisateurs à challenger les IA et à ne jamais oublier qu'elles ne comprennent pas ni ce que vous leur demandez, ni ce qu'elles répondent", insiste-t-elle. Contrairement à ce que l'on peut croire, les robots conversationnels ne forment en effet pas des phrases comme nous. Ils apprennent en réalité à faire des prédictions grâce aux données avec lesquelles ils sont entraînés, en y identifiant des tendances récurrentes.Une bonne chose mais un double tranchant Mais cette absence de conscience n'implique pas que recruter des philosophes ou encore des experts en éthique face aux progrès de l'IA soit une mauvaise chose. De facto, Laurence Devillers suggère aussi de "former les ingénieurs eux-mêmes à l'éthique plutôt que de déléguer cette responsabilité à quelques philosophes du numérique isolés". D'autant que les véritables éthiciens du numérique restent des profils encore trop rares, ajoute-t-elle. Sans oublier le risque que ces recrutements relèvent davantage de l'ethics washing (feindre une préoccupation éthique pour améliorer son image, NDLR) que d'une volonté réelle de les voir influencer les décisions stratégiques."Au fond, l'éthique du numérique n'est pas seulement une affaire interne aux entreprises: c'est un enjeu de société qui nous concerne tous", souligne la spécialiste de l'IA. Elle n'est pas la seule de cet avis. Mathieu Guillermin juge aussi nécessaire de recruter des philosophes ou des éthiciens, mais à condition que ce soit bien fait. "Cela montre qu'on veut que le modèle dise les bonnes choses", explique-t-il. Mais le philosophe invite à aller plus loin dans les profils recrutés. "Par exemple, là en période de campagne politique, que signifie 'une bonne réponse' à une question posée à un chatbot sur le sujet? Il faudrait qu'il y ait un débat démocratique là-dessus parce que c'est dangereux pour l'instant", met-il en garde, mentionnant Grok, l'IA d'Elon Musk, qui est présentée comme "anti-woke" (anti-progessiste) et est connue pour avoir moins de limites que les autres. Cette tendance à recruter des philosophes, psychologues et autres experts des sciences humaines peut cependant s'avérer dangereuse, prévient Mathieu Guillermin. Car cela suggère que l'IA est en quelque sorte une machine qui grandit comme un enfant et qu'il faut donc l'éduquer comme tel. Il s'agit toujours de programmation avec l'apprentissage automatique (champ d'étude de l'IA visant à donner aux machines la capacité d'apprendre à l'aide de données, NDLR). En somme, cela peut conforter l'idée que l'IA est comme un humain... alors que ce n'est pas le cas. Top Articles Cyberguerre: face aux menaces russes et chinoises, et aux doutes sur le soutien américain, l’Europe dispose-t-elle des moyens nécessaires pour assurer sa cyberdéfense? Interdiction des réseaux sociaux aux moins de 15 ans: à quelques semaines de la rentrée, le gouvernement joue une partie décisive au Parlement La Nasa a publié de magnifiques images prises par sa sonde Psyché lors de son survol de Mars, la planète rouge lui a servi de catapulte gravitationnelle pour atteindre l'astéroïde éponyme "Le premier pays d'Europe à instaurer une majorité numérique": le Parlement s'accorde pour interdire les réseaux sociaux aux moins de 15 ans D’un à trois euros de plus: Apple augmente les prix d'Apple Music en France pour compenser "la hausse des coûts de licence" A la Une Moyen-Orient: Donald Trump affirme que pour chaque soldat américain tué, l'Iran payera "plusieurs fois" le prix Premiers sur l'éco Facebook X LinkedIn Flux RSS Newsletters Applications mobiles Apple IOS Android BFM Tech Direct TV BFM Tech Tech&Co pro Nos dossiers Partenaires Applications mobiles Archives Plan du site Nos services Guides d'achat Bons Plans Code promo Comparateur Shopping Immobilier neuf Portage salarial Jeux-concours Règlements jeux-concours Annonces légales En savoir plus Nous contacter Devenir annonceur Recrutement Mentions légales Données personnelles Politique cookie Paramétrage des cookies Gérer Utiq J’exerce mes droits CGU Charte de déontologie Accessibilité : non-conforme Les sites du groupe BFM BFM Business BFM Tech BFM Bourse BFM Locales BFM Alsace BFM Côte d’Azur BFM Dici BFM Grand Lille BFM Grand Littoral BFM Lyon BFM Marseille BFM Normandie BFM Toulon Var RMC RMC Sport RMC BFM PLAY RMC Life RMC Découverte RMC Conso RMC Story Zone Turf SFR Actus RMC BFM Drive © Copyright 2006-2026 BFMTV.com. Tous droits réservés. Site édité par NextInteractive