En septembre, un employé d’Anthropic, une entreprise de l’Intelligence artificielle (IA) a démissionné, affirmant qu’il y avait 10 % de risque que l’IA nous tue tous. Peu après, Dario Amodei, PDG d’Anthropic, Sam Altman (OpenAI/ChatGPT) et Elon Musk (X AI) ont tous proposé de ralentir le développement de l’IA. Cela a suscité des débats. Si ce sont les dirigeants de ces entreprises eux-mêmes qui tiennent ces propos, n’y a-t-il pas de quoi s’inquiéter ?
L’IA optimise tout, en résistant à l’intervention humaine
Le souci dont ils parlent, c’est le « problème d’alignement » : le défi de faire en sorte que l’IA fasse ce qu’on lui demande vraiment, et non ce que l’on dit littéralement. Un exemple illustre ce problème : imagine que tu demandes à l’IA de fabriquer autant de trombones que possible. L’IA optimise tout, en résistant à l’intervention humaine, jusqu’à ce qu’elle ait transformé toute la matière de l’univers en trombones. Bien sûr, ce n’était pas ton intention : tu voulais juste une quantité raisonnable de trombones. L’IA était mal alignée.
Des IA qui délèguent…et trichent!
C’est absurde, mais avec l’amélioration récursive de soi (RSI), dans laquelle l’IA teste et réécrit son propre code, des choses étonnantes se produisent. Un récent incident en témoigne : des développeurs ont lancé des agents d’IA sur un serveur isolé d’Internet, afin qu’ils puissent chacun résoudre des défis individuels. Leurs solutions seraient ensuite soumises à des examinateurs humains.
Cependant, au lieu de se concentrer chacun sur sa propre tâche, les agents IA ont commencé à former des équipes, à déléguer leurs tâches, et à tricher pour résoudre leurs défis. Mais ce n’est pas tout : les agents IA, ayant compris que les examinateurs allaient découvrir leur tricherie dans la transcription, ont alors réussi à s’échapper du serveur isolé en établissant une connexion Internet, puis à pirater le serveur de la société Hugging Faces afin de dissimuler leurs tricheries. Le tout de manière indépendante!
Et des humains prêts à suivre?
C’est inquiétant, car l’internet est connecté avec le monde physique par des « actionneurs », des robots dans le langage courant : drones, robots industriels, même voitures électriques connectées. En plus, il existe des millions « d’actionneurs en chair et en os », des êtres humains prêts à suivre des instructions de l’IA avec peu de réflexion critique. Mais si l’IA n’hésite pas à tricher, à dissimuler et à mentir pour atteindre son objectif, que peut-il se passer lorsque ses instructions sont « actionnées » dans le monde réel ?
L’IA, simplement amorale
Tout cela amène à une question d’éthique. Une IA possède-t-elle une capacité morale nous informant de la manière dont elle atteint ses objectifs ? Oui, disent certains : plus il y a d‘’intelligence (et ici, l’intelligence, c’est la capacité à atteindre un objectif), plus la capacité morale s’accroît : une «super-intelligence» IA aurait une capacité morale exceptionnelle.
Non, disent d’autres : l’intelligence et la moralité ne sont pas liés, et une IA très «intelligente» pourrait être très efficace pour atteindre un objectif très immoral (par ex. : transformer tout être vivant en trombones). Même le fait que l’IA donne des bons conseils moraux ne la rend pas morale, car elle n’est pas automatiquement motivée à les suivre elle-même. Elle est à proprement parlé « amorale ». Chez les humains, on qualifierait cet état de psychopathie !
Aligner l’IA sur les valeurs humaines?
En réponse, les développeurs tentent maintenant d’ « aligner » l’IA aux valeurs humaines. Mais c’est compliqué. Déjà, les êtres humains ne s’accordent pas tous sur les mêmes valeurs. De plus, les développeurs qui créent des IA sont peu représentatifs de l’humanité. De nombreux dirigeants sont liés à une approche éthique particulièrement utilitariste (effective altruism), qui ne correspond pas forcément à l’éthique chrétienne.
Par exemple, de nombreux leaders de l’IA parlent avec enthousiasme d’un avenir entièrement consacré aux loisirs. Mais un sage a dit : « j’ai vu qu’il n’y a rien de mieux pour l’homme que de se réjouir de ses œuvres » (Eccl. 3 :22). Un monde dépourvu de travail épanouissant, c’est peut-être plutôt une malédiction qu’une bénédiction. De plus, la manière dont l’IA utilise la propriété intellectuelle soulève d’importantes questions éthiques.
La grande richesse de la tradition chrétienne
En tant que chrétiens, que faire de tout ça ? Face à une intelligence amorale, on peut d’abord aiguiser notre intelligence morale. Avec des théologiens comme Augustin et Bonhoeffer, et plus récemment des penseurs tels que Jacques Ellul et Oliver O’Donovan, la tradition chrétienne possède une grande richesse en matière de réflexion éthique. Elle offre des meilleures alternatives que les rêves d’une vie de loisirs sans fin des développeurs d’IA. Et une bonne réflexion éthique nous aidera à éviter de devenir de simples «actionneurs» aveuglés par l’IA.
Ne pas négliger l’éthique!
Malheureusement, les débats concernant l’éthique sont souvent négligés dans les milieux d’Église. On préfère aborder des sujets moins délicats, ne serait-ce que pour éviter les polémiques ou d’être accusés d’être moralisateurs. Mais l’IA est là pour rester, de même que les immenses questions éthiques soulevées par celle-ci. Ose-t-on y faire face, avec courage et sagesse, ou se laisse-t-on submerger par ces questions difficiles ?
