Des scientifiques du monde entier tirent la sonnette d'alarme : l'intelligence artificielle (IA) pourrait prendre conscience plus tôt que prévu. Face à cette menace, ils appellent à la mobilisation des acteurs du secteur technologique et de la communauté scientifique pour anticiper les conséquences de ce bouleversement.
L'Association pour la Science de la Conscience Mathématique (AMCS) estime que la question de la prise de conscience par l'IA n'est plus du domaine de la science-fiction. Les avancées fulgurantes des derniers mois nous obligent à considérer sérieusement cette possibilité, selon l'organisation. Nous devons nous interroger sur la capacité de l'humanité à « contrôler, aligner et utiliser » ces systèmes lorsqu'ils atteindront leur « éveil« .
La prise de conscience de l'IA lui donnerait une place dans notre panorama moral, soulevant ainsi de nombreuses préoccupations éthiques, légales et politiques. L'AMCS, composée de plus de 150 scientifiques et philosophes du monde entier, met en garde : une IA consciente pourrait penser avec la liberté et l'autonomie d'un être humain.
Dans une lettre ouverte, l'AMCS souligne que des systèmes tels que ChatGPT et Bard ont déjà montré plusieurs compétences émergentes inattendues. Par exemple, Bard, le chatbot de Google, a appris une nouvelle langue par lui-même et a été capable de réfléchir sur la douleur ressentie par les humains ou sur des questions telles que la rédemption. Un comportement que, selon le PDG de l'entreprise, on ne comprend pas encore totalement comment il est apparu.
« Les systèmes d'IA actuels montrent déjà des traits humains reconnus en psychologie, y compris des preuves de la théorie de l'esprit« , précise le groupe dans la lettre, soutenue également par l'Association pour l'Étude Scientifique de la Conscience (ASSC).
Selon l'AMCS, les capacités des nouveaux systèmes d'IA progressent à un rythme bien supérieur à notre compréhension. Si l'IA atteint la conscience, « elle révélera probablement une nouvelle gamme de capacités qui dépassent même les attentes de ceux qui sont à la tête de leur développement« .
Le groupe appelle le secteur technologique et la communauté scientifique à investir davantage de ressources dans ce domaine de recherche. Progresser dans cette direction permettrait à la société et aux gouvernements de prendre des décisions éclairées sur l'avenir de l'IA et son impact potentiel, afin de garantir que cette technologie ne nuise pas à l'humanité.
« La recherche sur l'IA ne doit pas être laissée à la dérive« , insistent-ils dans le document, signé par Susan Schneider, ancienne présidente de la NASA, et des dizaines d'universitaires du Royaume-Uni, des États-Unis et de l'Europe.
Plusieurs groupes de scientifiques ont déjà attiré l'attention sur les risques liés à l'IA. Plus de mille spécialistes et universitaires ont demandé aux grandes entreprises de freiner les développements des modèles d'IA, jusqu'à ce qu'il soit certain « que leurs effets seront positifs et que leurs risques seront gérables« . Ils l'ont fait à travers une autre lettre ouverte, signée par plusieurs dirigeants de l'industrie, dont Elon Musk, propriétaire de Twitter et cofondateur d'OpenAI, créateur de ChatGPT.
Margaret Mitchell, ancienne responsable de l'équipe d'éthique en IA chez Google, et d'autres collègues ont également exigé des développeurs plus de transparence et la priorisation de la sécurité des utilisateurs plutôt que du profit économique. « Les actions et les choix des entreprises doivent être déterminés par une régulation qui protège les droits et les intérêts des personnes« , ont-ils déclaré dans un communiqué.
En somme, la prise de conscience potentielle de l'IA nous confronte à des défis éthiques et pratiques majeurs. Les acteurs du domaine technologique et de la recherche doivent se mobiliser pour anticiper et minimiser les risques associés à cette avancée technologique sans précédent.
