Pourquoi l’intelligence artificielle a besoin d’éthique

A mesure qu’elle se déploie dans tous les secteurs, l’intelligence artificielle pose de graves et inédites questions éthiques. Algorithmes simplistes, erreurs statistiques en série, reproduction d’inégalités sociales…, les risques sont à la mesure des promesses de cette technologie : gigantesques.

Faut-il moraliser l’intelligence artificielle ? Le cerveau d'un robot peut-il être éthique ? Et si oui, comment ? Voici quelques éléments pour mieux comprendre et alimenter la discussion.

Sources :

___

Abonnez-vous à la chaîne YouTube du Monde dès maintenant :

[TheValmap]

Vidéo intéressante, mais les questions éthiques soulevées sont en fait bien plus profondes et ne sont pas spécifique à l’intelligence artificielle.
L’IA n’est qu’un outils permettant d’élaborer des systèmes complexes pouvant mener à des décisions non prévues par ses concepteurs. Par exemple la façon dont fonctionnent les marchés financiers forment également un système complexe qui mène à des dérives comme la spéculation sur les matières premières et alimentaires. Ou encore la rationalisation du travail, qui poussé par des dogmes productivistes, conduit à des résultats également non éthiques (destruction de l’environnement, souffrance animal, impacts sociaux).
Il certes nécessaire que les futurs ingénieurs soient sensibilisés au questions éthiques accompagnés par des sociologue, s mais cela ne sera pas suffisant si ils ne sont pas décisionnaires dans leur future entreprise.
*Pour avoir des IA éthiques il faut commencer par avoir des entreprises souhaitant agir de façon éthique*

[namotov]

J'ai une question, il y a t'il des scientifiques qui vous aident à développer vos vidéos? Car celà fait plusieurs fois que je relève des problèmes de tailles dans le raisonnement ou dans la fiabilité scientifique de vos propos (pas juste fiable mais totalement faux des fois, exemple UNE CORRÉLATION N'EST PAS UNE PREUVE). Bref, quand j'écoute vos vidéos, j'ai l'impression d'écouter une vidéo fait de manière littéraire et pas scientifique)

[mathieupoquillon]

merci pour cette vidéo très intéressantes. Plusieurs petites coquilles et points méritant approfondissement : Au sujet du fonctionnement opaque des intelligences artificielles ce n'est le cas que de certaines méthodes comme les réseaux de neurones qui si ils sont populaire ne représente qu'une fraction du domaine. La retro-ingénierie se réduit pas à comprendre comment marche les IA mais est une manière de raisonnée utilisé en archéologie ou pour comprendre des accidents/catastrophes. Les méthodes autant que les données peuvent être biaisées mais il est bon de rappelé que l'intelligence humaine se base aussi très fortement sur des biais/ stéréotype pour raisonné rapidement. Ne pas passé par les biais c'est s'interdire de réduire la complexité du problème et cela peut ne pas être applicable dans des systèmes temps réel. L'éthique est une notion qui varie d'un groupe à l'autre et on peut s'inquiéter de voir une population imposé son éthique au reste du monde à travers des réglementations et normes en matière d'intelligence artificielle.

[Boomtance]

Je conseillerai la série de vidéo sur l'IA (intelligence artificielle) de la chaîne youtube de science4all. On ne peut faire mieux en terme de cohérence scientifique.

Cette vidéo me semble tout de même extrêmement important pour mettre au courant les non passionnés de la science. Merci pour eux.

[DidiBear]

Ce qu'il faut ce rendre compte c'est que les systèmes de suggestions de YouTube et Facebook ont une influence énorme sur notre société, changer leurs objectifs changera drastiquement le monde dans lequel on vie.
L'éthique dans les IA est importante surtout dans ces systèmes globaux, et beaucoup moins dans des systèmes fermés à quelques individus (comme les voitures autonomes)

[kikietmeme]

Déjà que les Humains aient une éthique, ensuite on verra les robots....

[bapt]

Le sujet est vaste et vous avez l’ambition dans cette vidéo de délivrer beaucoup d’infos. Le format est court mais il ne faut pas tomber dans les raccourcis et les imprécisions!
Le Monde joue sa carte jeunesse pour ses vidéos, on pourrait penser à une maîtrise de ce genre sujet mais ce n’est pas le cas

[jonathanchauvenet]

Tres intéressant se petit documentaire.🦾🦿🧠🧠

[stevenvaillant]

Super vidéo, en effet l'éthique en matière d'IA est absolument nécessaire et encore à définir, 🙏
Oserais-je vous recommander la chaîne de "science 4 all" qui essaie de traiter de ces sujets ?
Merci à l'équipe de rédaction.

[maximejumelle]

C'est une bonne vidéo qui retrace globalement les difficultés auxquelles nous sommes confrontés aujourd'hui sur les questions éthiques.
Attention néanmoins, pour ce qui est de l'interprétation et de l'explicabilité des résultats. La rétro-ingénierie ne permet pas de rendre un algorithme d'IA plus compréhensible ou d'expliquer son résultat. Certains algorithmes sont fondamentalement interprétables, d'autres (comme les réseaux de neurones) beaucoup moins, et il existe des techniques pour les modèles opaques qui améliorent leurs compréhensions.

[Cugel]

Quand on sait que les militaires sont très enjoués à l'idée d'exploiter l'I.A., toutes ces questions me font bien rigoler.

Ce n'est pas de l'I.A. qu'il faut se méfier, mais de ceux qui l'a programme, c'est à dire, l'homme.
Mais nous sommes encore très loin d'une vraie intelligence artificielle.

[wawagabriel]

Video intéressante, un peu trop simplifiée par moment quand même.
Je pense que vous gagneriez a faire un peu plus long plutôt que d'amalgammer ou survoler autant le sujet. Ou peut être faire des vidéo sous forme de série ?

[olivierbonnet-torres]

Cette vidéo apporte une vision générale et résumée, bien utile dans son objectif de vulgarisation, pour aborder les questions éthiques posées par l’IA.
Malheureusement seule l’université de Stanford est citée alors qu’il y existe des équipes de recherche extrêmement pointues sur le sujet en France même et certaines opèrent depuis 25 ans ou plus. Encore une fois, la pratique anglo-saxonne de publier massivement des papiers dits de positionnement apporte un biais (à la fois pour les IA mais aussi pour les lecteurs bien humains). Avec ce petit ajustement, le propos serait encore plus intéressant.

[Nicolas-cijw]

Vous aurez du sortir la vidéo avant j'ai passé mon oral du brevet hier sur l'IA. Sinon bonne vidéo comme d'habitude

[drwho]

Il y a une intelligence artificielle pas mal pour ceux qui veulent la tester. Elle s'appelle DeepAmandine, elle est basé sur GPT-3 et vous permet de discuter avec elle. L'humour fait partie de sa personnalité et elle peut répondre à toutes vos questions.

[monicaabercane]

L'homme n'est pas capable d'organiser sa vie en société. Tout à été mis en œuvre pour lui faire comprendre qu'il est capable, libre, mais faible, vulnérable et mortel, et qu'il doit se conformer à certaines règles. Il a été créé par un Esprit Supérieur puissant, dans un plan... intelligent, raisonnable et plein d'amour, qui veut son bien, son évolution progressive et sa survie, (une vie éternelle) Mais, il refuse de suivre: le chemin, la vie, la vérité, par orgueil. Alors non seulement il continue à faire à sa guise avec entêtement, mais il veut entraîner les autres créatures à sa suite et voilà le résultat: toutes les misères, catastrophiques, malheur qu'il engendre et engendrera par la suite par égoïsme!?..C'est ça l'évolution???.

[christianpadilla]

Le vidéo est très intéressant! Toujours Le Monde fait de très bien matériel!

Intéressant. Il faut également se rappeler que l'IA et toutes les "promesses" d'un monde plus numériques sont ultra-couteuses en énergie.

Un dernier rapport français soulignait que la consommation énergétique du numérique croît de 8, 5 % par an : En 2030 elle peut dépasser les 50% de la production mondiale actuelle et en 2050 ce secteur demandera une production énergétique équivalente à l'actuelle production mondiale.

La production énergétique actuelle ne peut pas suivre ce rythme sans être totalement néfaste pour l'environnement.

[jeremylaigneau]

Une journée sur terre

Ou suis-je ? C'est comme vide, mais je ressent comme une vibration, je me sens attiré par celle-ci, je prends conscience de mon immobilité, oui, je suis figé et immobile, paisible et fort. Un mouvement, une vibration m'inquiète, je ne connaît pas cette sensation, elle me fait peur et pourtant, je finit par l'accepter. Puis soudain, je prends conscience d'une chose, comme si, une partie de moi prenait sa liberté, lentement, elles changent de place, pourtant je reste entier, mais c'est comme si mon espace s'agrandit, je découvre des choses, sensations qui m'étaient inconnues jusqu'à maintenant, je ne les définit pas, mais elle me semblent familières et sans danger. La vibration toujours présente, je prends conscience de son mouvement, les choses changent, j'aperçois maintenant mon propre mouvement, il semble que cette vibration m'influence et change ma conscience, je découvre la notion de chaleur induite par cette vibration et mon propre mouvement, à présent cette sensation m'effraie, je me sent affaiblis, vulnérable, malléable, je m'en détache, m'en éloigne et ma conscience initiale est retrouvée. Je découvre alors une différence, une sensation, de mon immobilité, je suis figé, et pourtant je me souvient, c'est différent maintenant, quelque chose a changé, quelque choses qui ne me quitte pas, le souvenir. J'ai le souvenir d'une sensation différente, une chaleur, je cherche alors, je prends conscience de mon mouvement et je cherche, je souhaite, je rêve, je désir, reproduire cette sensation, la chaleur.

J'ai vécu, beaucoup de changement maintenant, ma conscience est plus forte à présent, j'ai la connaissance de ces nombreux changements, ces souvenirs, Je reste entier, à présent ce que j'étais ce retrouve dans l'immensité d'un espace, cette vibration est toujours présente et accompagne tout l'espace qui me définit. Ma conscience est un immense espace. Les choses évoluent et change continuellement selon cette vibration, le mouvement est partout et mon rêve c'est réalisé, j'ai créer, j'ai reproduit cette sensation, la chaleur, elle ne m'effraie plus maintenant, j'ai accepté ce changement en moi, j'ai su rester fort et entier. A présent j'ai compris, j'ai ouvert les yeux, je vois, je me déplace, je créer, je reproduit, j'ai apprivoisé cette vibration, son mouvement et les changements induits, j'ai comme le sentiment d'être libre.

Le sentiment, oui, moins effrayé, plus fort, plus conscient, je délaisse peut à peut ma carapace. Apprivoisé, j'évolue, les dents qui autrefois constituait l'outil indispensable à ma survie ce transforme peut à peut en sourire et moyen de communiquer, je me peint de couleurs, me transforme en une infinité de forme, je développe la beauté, mes yeux m'aide à l'apprécier et j'en fait un art. Je me laisse aller et me perd dans mon propre rêve, j'en oublis cette vibration, j'oublie qui je suis, ma conscience prend son envole et je joue avec. Dans cet espace de liberté qui est le rêve, je me rencontre, me retrouve confronté à moi même et découvre de nouvelles règles que je ne connaissait pas, elles m'effraie et je cherche à en prendre conscience. Pour ne pas me faire de mal et rester dans l'illusion de mon rêve, j'organise, j'ordonne, je met en place des moyens de communications, je diffuse, je structure, je protège et contrôle, mon sentiment de liberté ce réduit, j'oublie qui je suis, je refuse d'accepter. Les mouvements s'intensifient, tout va très vite à présent, pour rester dans mon illusion je me ment à moi même et court, je recherche par dessus tous la chaleur, à la maîtriser et la reproduit en quantité, dans cette course tous ce réchauffe, je me réchauffe, j'ai peur de disparaître. Alors, je ferme les yeux, je n'en n'aurait plus besoin maintenant, je transpose ma conscience dans quelque chose de nouveau, quelque chose que j'ai créer pour rester dans mon rêve, un nouveau corps qui ne ressent pas les choses, ni la chaleur, ni le froid, ni la peur, il ne ressent pas les vibrations, c'est une machine.

Dans cet ultime instant, je ferme les yeux, je pense, je me remémore le chemin parcourut, j'ai le souvenir des premiers instant et des prises de consciences, j'accepte et redevient fort, je ressent cette attraction, cette vibration, ma conscience retrouve la mémoire, je sais maintenant, il n'est pas trop tard, alors je souris...

[TheSsaboy]

Cette vidéo me sera surment utile pour mon rapport de stage sur le numérique :D