Vers la conscience artificielle - Passe-science #24

Brainstorming et anticipation sur les ingrédients nécessaires pour commencer à qualifier un système de conscient.

Retrouvez Passe-science sur Tipeee, Twitter et Facebook:

Musique:
Kevin Macleod - Groove Grove (Kerbal space program)

[alainbedecarrats]

un très bel exercice d’intelligence ! un vrai régal, merci

[doryan]

Super video pointue et accessible comme à chaque fois. Les vidéos passe science sont un imancable de mon YouTube. Merci merci merci

[lemmer]

Bonjour. Mon intuition me dit que la conscience artificielle n'existera jamais, et que cette proposition sera peut-être même un jour démontrable. Mais que l'on soit convaincu de la possibilité ou non d'une conscience artificielle, il reste déjà à définir ce que c'est (sinon on ne sait pas de quoi on parle) puis à fournir une argumentation. Sur ce point votre vidéo est tout à fait brillante : elle est une contribution à commencer à définir ce que pourrait être une conscience artificielle, et ouvre une porte de compréhension pour des néophytes curieux (tels que moi). C'est vraiment énorme et merci ! Un des concepts très forts qu'elle soulève, c'est quand vous montrez ce "point rouge" qui symbolise un objectif. Un objectif qui serait émergent des mécanismes intrinsèques du "petit monstre" (j'aime bien ce surnom que vous donnez à cette entité, très bien trouvé !). On ne parle guère à ce stade de volonté, ni de conscience, car une volonté est plutôt un agencement d'objectifs secondaires dictés par un objectif de niveau supérieur, lui-même inscrit dans ... une culture (terme à re-définir dans le cadre d'un système artificiel), qui donne du sens à cet objectif, parmi une infinité d'objectifs potentiels. Pour les êtres humains, la conscience émerge assez rapidement. Un des ingrédients est que le nouveau-né s'identifie à ses parents : il se dit de différentes manières et au quotidien <<je suis comme vous, la vie est donc possible, je PEUX apprendre et vous ressembler, en plus vous me donnez la confiance (et l'amour), et puis mes mains et tous mes sens me fournissent un flux d'informations d'une richesse fantastiques>>. Résultat, un très jeune humain devient conscient après un temps d'apprentissage relativement court. Certains parents estimeront que leur enfant a acquis une forme de conscience dans le ventre de sa maman. Je reviens à la conscience artificielle. Une machine ne peut pas être "programmée" de manière à être directement consciente, cette conscience devra donc être le résultat d'une suite d'apprentissages : la machine va devoir sélectionner "par elle-même" des objectifs lui permettant de faire émerger une conscience qu'elle ne possède pas initialement. A ce stade, cette machine ne dispose d'aucune motivation particulière, donc déjà, il me parait bien difficile qu'elle puisse sélectionner les objectifs les plus pertinents pour développer son potentiel de conscience. On peut pallier un certain temps à cette déficience, et "superviser" cet apprentissage, en inventant des "bonus malus" mais rapidement la complexité du "petit monstre" fera que ses concepteurs ne seront plus à même de comprendre comment "petit monstre" fonctionne, de quoi il a besoin pour "progresser", et quelles "étapes suivantes" sont recommandées. Et si par "malheur" le "petit monstre" était à ce stade toujours moins conscient qu'un verre de terre, la seule solution ne pourra venir que du "petit monstre" lui-même. Or je n'ai jamais vu un verre de terre se transformer en être humain. D'où le fait que je reste convaincu que cette "quête" est vouée à l'échec, et que le processeur qui anime ce petit monstre imposera qu'il restera ce qu'il est : une unité de calcul. La conscience, c'est autre chose, même si cela reste à prouver. Par contre nous risquons de créer des monstres décideurs : les robots autonomes capables de tuer font déjà partie des arsenaux des armées. Je pense que l'urgence n'est pas de créer une machine consciente, mais de démontrer que c'est mathématiquement ou logiquement ou physiquement impossible (ou les trois à la fois) et qu'une éthique reste à trouver afin que nous évitions le pire.

[Mylok_]

Superbe O.O
Un contenu vraiment de très bonne qualité !

[gilougilouu]

5:30 à je comprends mieux pourquoi j'entends avec mes yeux pour trouver avec précision la localisation d'un son.. fabuleux le corps humain et la vie!

[davidrobert]

Dire que cette singularité ne se produira pas revient à dire que nous sommes les seuls êtres conscients dotés de technologie dans l'univers .... Merci pour la vidéo

[oniink]

Très interessant, ça donne une piste pour essayer de définir ou de comprendre l'intelligence et la conscience. Très bonne vidéo en tout cas, j'espère que tu aborderas encore ce genre de sujets :)

[jpdu]

Excellent : Comment expliquer simplement des concepts compliqués

[____-ocbl]

Je regarde ça tout à l'heure. J'espère que tu parles des qualia et du problème difficile de la conscience de Chalmers ? :p
Plus sérieusement, bon retour, ça fait plaisir de te revoir.

[gaiusbaltar]

C'est sur ce genre d'idées qu'est basé le scénario de la série de films Terminator. L'IA y est nommée Skynet.

[flythomas]

Très bien merci. En admetant qu' un jour nous ayons rėusit à créer une IA reconu. Se qui est très surprenant est comment la vie biologique à réussit à exister puis à devenir inteligente. Vous me direz tout ceci est une question de temps et de représentation de la definition l'intelligence et de la vie.

[vincentcatalo]

J'avais presque oublié qu'on pouvait parler de CA à force de n'entendre parler que d'IA, merci !
J'aime beaucoup ta conclusion et je partage ton sentiment. Quoi qu'il en soit de l'avancée d'une telle CA, c'est touchant au sens literal du terme ;)

[steevemartial]

J'aime beaucoup l'approche ! Je vais devoir re-regarder la vidéo pour être sûr d'avoir saisi par contre

[benjaminjoseph]

La conscience est liée à l'auto-organisation, l'auto-organisation aux structures dissipatives, elles mêmes liées a la thermodynamique hors équilibre.

[dolphinswimming]

Salut. Il est possible que là tu nous parles du traitement de la conscience mais pas de la conscience en elle-même !? Enfin quelle relation entre qualia et conscience ? Je programme en C, et j'aimerais bien voir le code qui produirait une conscience minimal.

[florianjournot]

Pas mal pour lancer des débats ! Bien vu. "La Conscience a t'elle une origine ?" de Michel BITBOL m'a permi de sortir des biais de langage au sujet de l'IA. Le traitement et le calcul de données ne peuvent être comparés à la conscience pour beaucoup de raisons. Je suppose que cette vidéo est en partie basée sur des travaux écrits utilisant à peu près les terminologies utilisées, peut-on avoir des sources ? Les discussions sont difficiles, parce qu'on est loin de savoir modéliser la simple cognition de base, consciente ou non. Je pense qu'il y a aussi quelques erreurs techniques et psychologiques. Parler de circuit "passif" qui auto-encode ? mais il se trouve bien "forçé" en permanence de produire la même sortie que l'entrée, ça n'a rien de passif de se corriger jusqu'à la perfection ! Aussi, Evoquer la décision sans aborder les motivations, injonctions, intentions, c'est abusé. Mais des idées intéressantes, comme l'attraction vers l'ordreet d'autres.

C'est en fait souvent autour de la même problématique que le masque tombe de l'IA : s'il n'y a pas un sujet extérieur pour y imprimer ses propres valeurs et intentions, il n'y a rien. J'ai néanmoins une idée à exploiter pour un opus suivant : le "predictive coding model" utilisé dans les réflexes adaptatifs et les sentiments du moi : il permet de faire émerger deux niveaux de traitements 'qui seraient appelés "inconscient" et "conscient"(à tort, mais bon dans la même veine), et surtout un concept opératif du "moi". Car c'est plutôt lorsque ce "sujet opératif" peut exister, puis se faire une image de lui-même, que la notion de conscience a éventuellement un sens : la reconnaissance qu'on a une façon singulière d'entrer en relation avec le monde. La théorie selon laquelle "est conscient ce qui semble l'être pour une autre conscience" est évidemment une théorie tout à fait creuse, puisqu'elle suppose qu'une conscience se connaît suffisamment bien elle-même pour avoir des indices suffisant de l'attribuer à autrui, ce qui implique une auto-connaissance utopique, largement balayée par toute acceptation minimale d'un subconscient, évidemment largement étayé aujourd'hui. En clair : si vous voulez une conscience, faites déjà une bonne base "inconsciente" ! ...qui justement ne "traite" pas l'informations comme des catégories discrètes mais peut en faire une expérience immédiate. Ce qui est mal parti si on est dans un système informatique plutôt qu'un système biologique : la vie organique EST de la cognition matérielle, et non pas son "support". Il faudra un jour que ce soit entendu...pour bien comprendre qu'il n'y a pas de technique possible pour fabriquer de la conscience : il n'y a qu'un devenir-conscient, à vivre en direct, sans quoi il n'y a pas de conscience.

[iam_kdo]

Enfin une présentation de la C.A.
Un bémol selon moi: tu sembles indiquer que l'IA est un préalable à la CA, pour moi c'est tout le contraire. La conscience est nécessairement antérieure à l'intelligence.

[thomascollonville]

As tu des sources sur toutes les notions que tu evoques car ta derniere partie me fait penser a la meta-cognition dans les neuroscience qui permettent de s'auto analyser et comprendre ses propres mecanismes reflexifs... du coup j'aimerai croiser tout ca avec tes sources, si elles existent...

[ihajji]

Super video, peux tu nous partager tes sources?

[fragmentsfilm]

Idea of the channel is interesting Passe-Science!!!
But your videos should stand out.
It would be better if you put in fragments from films in it (no more than 30 seconds are allowed by YouTube).
I have a few fragments on the channel. It's free.
Also on the site there is a link to the service of the white promotion of the channel for a few cents.