[Jean-Gabriel Ganascia] De l’intelligence artificielle à la Singularité technologique

Les Mardis de l’Espace des sciences avec Jean-Gabriel Ganascia, professeur d’informatique à l’Université Pierre et Marie Curie et président du Comité d’éthique du CNRS.
Faut-il craindre l’intelligence artificielle ?
#intelligenceartificielle #IA #Singularité

[Espacedessciences]

14:05 Si vous êtes incollable sur Jean-Gabriel Ganascia ou très pressé vous pouvez sauter au début de sa conférence.

[ULTIMBANGA]

Sujet complètement intéressant, conférence décevante pour ma part. On ne fait que survoler le sujet.

[perre-marielegov]

j'aime bien le ton de la voix que ce monsieur utilise, comme si nous étions des enfants qu'il faut rassurer....

[loloverlord]

Salut l'espace de science: j'aime beaucoup vos conférences mais je souhaiterai formuler une critique valable (malheureusement) pour tous vos épisodes, c'est le problème de la prise de son. Je dois monter le volume au maximum pour entendre correctement (jamais très clairement) vos intervenants. Peut-on solutionner ce problème, avec de meilleurs micros ou un meilleur réglage du micro pendant la prise? Je continue de vous suivre (mais avec un casque de très bonne qualité pour distinguer quelque chose).

[marcellaporey]

Votre dissertation sur l'IA est très bien structuré, vos propos sont clair.
votre discourt est pertinent, il me parle et je ne m'explique pas toutes ses critiques.
Peut-être un public trop littéral ?

[lavoixdespauvres]

Le nom de la conférence devrait être "Comment expliquer le dogme de l'IA aux vieux" . C'est juste des algorithmes qui gèrent des statistiques. Le vrai sujet c'est comment et par qui ces données sont utilisées et manipulées, et dans quel but.

[jugerodolphe]

Déçu. Ok sur les dangers des bigdata. La peur de l'IA serait donc une diversion... mais sa conf retourne la diversion sans démonstration. Donc au final beaucoup d'assertions sans argument, la promo de certaines applications de l'IA (un peu comme les tenants des OGM promettaient la fin des famines ?). La question sur l'autonomie des IA reste non débattue. Dommage.

[lunjeiteohmacl]

C'est dommage, trop de thème abordé trop vite, trop d'exemples qui mériteraient d'être approfondie. J'ai pas le courage de regarder jusqu'à la fin. D'ailleurs mon opinion est déjà faite sur l'IA... "Biais de confirmation... mon amour". :)

[giannislukas]

Alors que j'adore la plupart des conférences, celle-ci est très décevante. Ce monsieur nous sert une soupe sans véritables arguments. Je n'ay ai rien appris... dommage

[lafraiseauboisdormant]

MAgnifique cette conférence super sujet j'ai beaucoup aimé merci

[paulustaline]

Il me semble que le point essentiel concernant les risques liés à l'IA et le dépassement de l'homme par la machine, c'est bien la loi de Moore. Or ce monsieur nous dit simplement : "Ce n'est pas sûr qu'elle continue". Franchement c'est très léger et ça ne constitue absolument pas un argument. Il balaie la question en deux secondes, alors que cela aurait dû constituer l'axe central de la conférence. Voilà mon humble avis.

[LeVraiKraelh]

Des arguments auraient été intéressants, surtout sur un sujet aussi profond

[sandokan]

Vous dites qu'il ne faut pas avoir peur de la technologie mais de l'homme qui l'utilise
le problème c'est que concernant l'IA, il s'agit bien de singer l'homme pour le remplacer .


"Un mythe car il n'y aurait pas d'études sur le sujet"


Ce n'est pas un argument, il est évident que l'application directe de l'IA a pour première vocation d'être employé en remplacement de l'homme dans tous les milieux professionnels
si elle peut avoir certains champs d'applications positifs pour le peuple, comme la recherche
ou certain poste a caractère sensible son utilisation couplé aux progrès de la robotique aura un impact négatif sur l'emploi car plus rapide, moins faillible, plus économique et fonctionnant 24/24 7/7, sans vacances, sans gréves ni plaintes, c'est cela le paris de l'IA qui travaille déjà
sur les marchés financiers, devenant un problème pouvant provoquer des crises d'ailleurs.
Les premiers visés seront les emplois sans qualifications demandant des tâches simples au prix
de la vie des pauvres gens en ayant besoin pour nourrir leurs familles, pour le progrès, pour le profit
surtout ?
Tous cela me rappel la découverte de la bombe et de l’énergie atomique, le progrès vaut il son coût ?


"Pour résoudre le chômage, il faut former les gens"


Pour donner un ordre d'idée pôle-emploi c'est environ 300 000 offres d'emploi pour 3 millions de chômeurs, qui sont ceux inscrits et pointant tous les mois.
Donc c'est une très bonne idée de former les gens mais cela ne suffira pas, nous sommes déjà confronté à une pénurie d'emplois par la concurrence déloyale et dérégulé de pays dans lesquels
les travailleurs sont des esclaves sous-payés, ce contre quoi notre peuple c'est battu et à gagné
ses droits par le sang et à cela vous souhaitez ajouter la concurrence de robots s'étendant progressivement à quasiment tous les domaines ?
Ce ne sont pas vos futures chaines de construction automatisés de robot intelligent ni les formations à leur entretiens qui suffiront à juguler les pertes d'emploi au profit de l'IA et de sa robotisation dont la recherche est financé a cet effet.


Que penser de ce que peu nous apporter l'IA :



-L'évident remplacement de l'homme par la machine, plus rentables, au nom de la croissance économique, les millions de personnes au chômages remplacé par des IA ?


-Les failles en terme de sécurité de programme fait par l'homme et de leur mise en réseaux
et le danger que représente leurs atteintes ou piratage?

Un futur jouet dangereux dans un pays ou sous une gouvernance dites centriste mais tendant vers l'ultra-libéralisme, on a mis en 2019 en prison des manifestants pacifiques :

-L'utilisation dans les forces militaires et de police de robots autonomes programmés n'est pas un fantasme mais un danger direct pour la démocratie et les libertés car obéissant aveuglement à leur autorité et empêchant
rigoureusement tous renversement de gouvernements par la coalition du peuple et des forces armées, dernier de nos recours contre la prise de pouvoir par un dictateur ?

-Les prises de décisions donné à des IA programmés non pour le bien être humain mais pour le profit?

-L'extinction pur et simple de l’espèce humaine à plus long terme, ou tout du moins de sa majorité
au profit de l'IA qui prendra en toute logique le pouvoir, s'adaptant, se répliquant et construite à notre image, nous remplaçant et reléguant au niveau de chaînon dans l'histoire de l'évolution ?


Qui posera les limites, quelles limites, le développement de l'intelligence artificiel autant que l'actualité politique pose un véritable questionnement éthique et doit en tout état de cause être régulé et en pensé à long terme, afin que les choix future la concernant respecte une moralité plaçant l'homme en priorité sur la machine, ce qui est tristement utopique.
Utopique car ceux qui déciderons ont déjà une partie conséquente du pouvoir et le conserveront probablement à moins qu'on les renverse mais c'est une autre histoire...

[happycollapse]

Affirmer que la "singularité" (Au sens IA forte consciente) n'arrivera pas est aussi stupide qu'affirmer qu'elle arrivera.
Tout est question de postulat philosophique au départ.
Soit le monde est 100% matérialiste et la conscience n'est qu'un processus de la matière, alors il n'y a aucune raison que l'IA consciente n’émerge pas de la complexité.
Soit il y a autre chose qui nous échappe complètement. Ce qui ne veut pas dire qu'on le comprendra/maitrisera pas un jour (plus lointain)

Comme d'autres commentaires, j'aurais aimé des arguments.
Le monsieur assène sans broncher que :
-Frequence de calcul =/= conscience
Alors que rien ne permet de l'affirmer.
Et puis dans toute la recherche autour des réseaux de neurones, la puissance et l'intelligence dépends très peu de la fréquence, mais davantage de la structure, des types de neurones, des types d'interactions entres eux etc...Les pistes sont innombrables )

- L'IA est limitée a l"apprentissage supervisé"
C'est faux.
Il y a plein de formes d'apprentissages. Quand on voit Apha Go ou son équivalent pour les échecs, la machine a appris d'elle-même et trouvé des ouvertures, des stratégies complétements inédites, que les humains sont bien incapables de comprendre.
Les exemples sont nombreux de résultats surprenants, de "changements de paradigmes" pas du tout supervisés ou prévus au départ.

Bref, je trouve ce monsieur est un peu trop biaisé par ses convictions pour se présenter en tant que scientifique et spécialiste du sujet.

Merci quand même a l'Espace des sciences de continuer a proposer des contenus variés et intéressants même si la qualité des intervenants reste humainement aléatoire.

Edit: ah je pensais que c'était une vidéo récente, je commente avec un an de retard, mais merci quand même!

[TheDaaabou]

Ben dis-donc, y'en a, des gens qui râlent, dans les commentaires...
Moi j'ai trouvé que c'était éclairant, mais j'ai une question qui n'a pas été posée après fin de la conférence, alors si quelqu'un de calé sur le sujet pourrait m'orienter:
Je m'interroge sur le potentiel des intelligences artificielles concernant la recherche scientifique, ou la philosophie: n'est-il pas possible, d'ici quelques décennies de voir apparaître des intelligences tellement poussées qu'elles iraient beaucoup plus vite que nous, et disposant de savoirs gigantesques sauraient déceler des vérités passées jusque-là inaperçues? Qu'elles pourraient faire des déductions prenant en compte des quantités de domaines tellement vastes qu'elles puissent faire des découvertes soi super cool soit dérangeantes voire dangereuses?

[pierregastie-leroy]

Conférence assez rapide, avec beaucoup de concepts. Le sujet est vaste et mériterait surement plus de conférence afin que soit étudié plus spécifiquement les limites de l'IA en pratique.

[juttz]

Vous contredisez une personne qui a fait 40 ans des prédictions et jusque là s'avèrent exact (internet, réalité virtuelle, imprimantes 3d, séquençage d'ADN, voiture automnes, etc).
Ray Kurzweil a une compréhension de l'avenir qu'il ne faut plus remettre en question.
Il a prédit des choses il y a 20 ans qui seraient considérée comme de la science fiction mais aujourd'hui nous y voilà avec les imprimantes 3d qui vont devenir ubiquitaire.

[contactlacritico]

J'imagine que si on avait dit à Mr Ganascia en 1999 que 20 ans après, nous parlerons aux machines (ex: alexa, google now) ou que la voiture sera autonome (tesla), il aurait surement rejeter.

L'une de prédiction intéressante de Ray Kurweil est qu'en 2029, la machine sera capable de passer le test de turing (càd converser avec un humain sans que ce dernier sache que c'est une machine).
J'avoue que je doutais de cette prédiction mais vu l'évolution technologique actuelle c'est sûr que d'ici 10 ans, les machines parlerons avec les humains naturellement.
Même si ce sont que des courtes conversations, la voie et la manière de parler sont bluffantes de réalisme.


La dernière innovation en date est GPT-2 de la société OPEN AI :
Donc clairement il y a pas de doute, d'ici 10 ans ces machines parlerons comme nous.
Du coup, si d'ici 10 ans ses prédictions s'avèrent probable, pourquoi pas d'ici 25 ans ?


Je pense que dans les 5 à 10 prochaines années, nous allons entrer dans une zone de turbulence où les doutes qu'avance Mr. Ganascia seront contredit de plus en plus par le réel et que les fantasmes d'Elon Musk ne sont plus réserver qu'aux geeks de la S.V. mais deviendront des questionnements véritables de la société.

[domsau]

Quels sont les "nouveaux métiers ou emplois" capables de supprimer le chômage ?
Ce serait une première depuis le début des années 1970 que l’intelligence artificielle crée beaucoup d'emplois, car depuis cette époque l'automatisation a détruit énormément d'emplois, et en a créé nettement moins...
Un tel discours ("de nouveaux métiers et emplois vont apparaitre") aurait été crédible dans les années 1960, au plus tard.
De nos jours, ce n'est pas seulement le travail manuel qui est remplaçable ("cols bleus"), mais aussi le travail intellectuel ("cols blancs").
Il suffit aux machines d'être moins chères, plus rapides ou de faire moins d'erreurs que nous pour que notre remplacement soit nécessaire (et non plus simplement possible).
De plus, l'adaptabilité des machines augmente très vite, alors nos métiers sont de plus en plus spécialisés, donc routiniers, et donc automatisables.
Les machines manquent d'adaptabilité et de capacité d'improvisation. C'est ce qui bloque pour les robots domestiques pour faire le ménage, préparer le repas, dresser la table, débarrasser... Ajoutons l'esprit critique, la contextualisation, la pluridisciplinarité, humanitaire, coopération non concurrente, transversalité, plusieurs angles d'attaque des problèmes, la modélisation... Cela ne crée pas beaucoup d'emplois, et peu de gens peuvent les faire.

[MsBrouzouf]

Quid de l'apprentissage non supervisé, avec l'exemple d'AlphaGo Zero ?