Intelligence artificielle

Alerte : l’IA pourrait bientôt prendre conscience, sommes-nous prêts ?

Par Laurent Gigaudie , le 1 mai 2023 , mis à jour le 6 juillet 2023 - 4 minutes de lecture

Des scientifiques du monde entier tirent la sonnette d'alarme : l' (IA) pourrait prendre conscience plus tôt que prévu. Face à cette menace, ils appellent à la mobilisation des acteurs du secteur technologique et de la communauté scientifique pour anticiper les conséquences de ce bouleversement.

Un avertissement qui dépasse la science-fiction

L'Association pour la Science de la Conscience Mathématique (AMCS) estime que la question de la prise de conscience par l'IA n'est plus du domaine de la science-fiction. Les avancées fulgurantes des derniers mois nous obligent à considérer sérieusement cette possibilité, selon l'organisation. Nous devons nous interroger sur la capacité de l'humanité à « contrôler, aligner et utiliser » ces systèmes lorsqu'ils atteindront leur « éveil« .

La prise de conscience de l'IA lui donnerait une place dans notre panorama moral, soulevant ainsi de nombreuses préoccupations éthiques, légales et politiques. L'AMCS, composée de plus de 150 scientifiques et philosophes du monde entier, met en garde : une IA consciente pourrait penser avec la liberté et l'autonomie d'un être humain.

Des bots entraînés à gagner des matchs de compétition ont été détectés dans Rocket League

Des signes avant-coureurs déjà présents

Dans une lettre ouverte, l'AMCS souligne que des systèmes tels que et ont déjà montré plusieurs compétences émergentes inattendues. Par exemple, Bard, le chatbot de , a appris une nouvelle langue par lui-même et a été capable de réfléchir sur la douleur ressentie par les humains ou sur des questions telles que la rédemption. Un comportement que, selon le PDG de l'entreprise, on ne comprend pas encore totalement comment il est apparu.

« Les systèmes d'IA actuels montrent déjà des traits humains reconnus en psychologie, y compris des preuves de la théorie de l'esprit« , précise le groupe dans la lettre, soutenue également par l'Association pour l'Étude Scientifique de la Conscience (ASSC).

Un appel à approfondir les études sur la conscience de l'IA

Selon l'AMCS, les capacités des nouveaux systèmes d'IA progressent à un rythme bien supérieur à notre compréhension. Si l'IA atteint la conscience, « elle révélera probablement une nouvelle gamme de capacités qui dépassent même les attentes de ceux qui sont à la tête de leur développement« .

Microsoft dévoile VALL-E, une IA qui peut imiter votre voix après seulement 3 secondes d'écoute ! Incroyable !

Le groupe appelle le secteur technologique et la communauté scientifique à investir davantage de ressources dans ce domaine de recherche. Progresser dans cette direction permettrait à la et aux gouvernements de prendre des décisions éclairées sur l'avenir de l'IA et son impact potentiel, afin de garantir que cette ne nuise pas à l'humanité.

« La recherche sur l'IA ne doit pas être laissée à la dérive« , insistent-ils dans le document, signé par Susan Schneider, ancienne présidente de la , et des dizaines d'universitaires du Royaume-Uni, des États-Unis et de l'Europe.

D'autres préoccupations soulevées

Plusieurs groupes de scientifiques ont déjà attiré l'attention sur les risques liés à l'IA. Plus de mille spécialistes et universitaires ont demandé aux grandes entreprises de freiner les développements des modèles d'IA, jusqu'à ce qu'il soit certain « que leurs effets seront positifs et que leurs risques seront gérables« . Ils l'ont fait à travers une autre lettre ouverte, signée par plusieurs dirigeants de l'industrie, dont , propriétaire de et cofondateur d', créateur de ChatGPT.

Elon Musk : Visionnaire ou menace ? Le point de vue de l'IA sur le magnat de la technologie

Margaret Mitchell, ancienne responsable de l'équipe d'éthique en IA chez Google, et d'autres collègues ont également exigé des développeurs plus de transparence et la priorisation de la sécurité des utilisateurs plutôt que du profit économique. « Les actions et les choix des entreprises doivent être déterminés par une régulation qui protège les droits et les intérêts des personnes« , ont-ils déclaré dans un communiqué.

En somme, la prise de conscience potentielle de l'IA nous confronte à des défis éthiques et pratiques majeurs. Les acteurs du domaine technologique et de la recherche doivent se mobiliser pour anticiper et minimiser les risques associés à cette avancée technologique sans précédent.

3.6/5 - (11 votes)

Laurent Gigaudie

Je m'appelle Laurent et je suis rédacteur sur 180back.com. J'ai commencé à écrire pour ce site il y a quelques années, car j'aime partager mes connaissances et mes opinions sur les films, les séries et la technologie. C'est devenu une passion pour moi de découvrir de nouveaux contenus et de les partager avec les autres. Je suis convaincu que je peux aider les gens à découvrir de nouvelles choses et à partager mes connaissances avec eux.

Voir les publications de l'auteur

A lire aussi ...