FAKE NEWS & MIDJOURNEY : Comment reconnaître une image générée par Midjourney ?

Miniature : Explosion au Pentagon, une Fakenews générée par Midjourney

L'évolution de Midjourney vers le photoréalisme depuis la V5 de l'IA pose de plus en plus la question des Fake News. Alors que de nombreuses personnes se demandent "Comment reconnaître une image générée par Midjourney", l'approche de la chasse aux défauts semblent vaine. Les images provenant d'IA génératives vont devenir de plus en plus difficiles à repérer, et il va falloir s'y préparer.

⏰ Sommaire :
0:00 - Comment reconnaître une image générée par Midjourney ?
0:26 - Depuis la V5 de Midjourney, l'IA réussit les mains.
0:50 - Quels détails trahissent une image générée par Midjourney V5 ?
1:00 - Combien de temps avant que Midjourney soit photoréaliste ?
1:10 - Midjourney et le risque de Fake News
2:09 - Comment différencier une vraie image d'une fausse ?
2:20 - Signer des lois ? Faire interdire Midjourney ?
2:50 - Que faire à notre niveau contre les fake news ?

---

---

Rejoignez-nous :

---

Réalisation : Thomas Ancelle
Avec : Thomas Ancelle

---

#numerama #midjourney #fakenews

[numerama]

Tout est faux sur internet.

Il existe actuellement des tactiques pour identifier les photos générées par des intelligences artificielles. Si elles peuvent être utiles sur le court-terme, il est urgent de se projeter plus loin, dans un futur où les fausses images seront indissociables des vraies.

Il y a encore quelques semaines, reconnaître une image générée par une intelligence artificielle était considéré comme facile : « Il suffit de regarder les mains ! » s’exclamaient des experts sûrs d’eux. Et c’était vrai : les IA étaient connues pour leur incapacité à générer correctement des mains crédibles, avec le bon nombre de doigts attachés à chaque paume.

[marieturcan]

3min27 pour tout comprendre, excellent résumé d'un débat pas si simple !

[vbaissait]

Très intéressant, en effet les IA sont de plus en plus réalistiques dans le rendu et les défauts qu'on repère aujourd'hui ne le seront plus demain. Il existe des outils qui permettent de savoir si une image est générée par IA ou pas, mais tous ceux que j'ai testés ne sont pas bons. Certains complètement à la ramasse. Certains n'arrivent pas à reconnaître comme générées par IA des photos totalement ratées et donc cauchemardesques générées il y a quelques années par des IA. L’image de Julian Assange qui a circulé générée par IA, par ex. l'outil d'Huggingface dit que c’est une vraie à 99%, mais après le watermark (le texte) peut jouer sur le score

[VIN.]

Merci beaucoup pour ce condensé d'informations, de conseils et de bons sens ! 👍

[bourdivin]

peut-être que l'idée serait de faire une autre IA dans le but de reconnaître de l'IA. Un genre d'IA alimenté par plein d'images faites par Midjourney et qui finirait pas "reconnaitre" un pattern commun que l'oeil humain ne peut pas voir

[MrAzoub]

Être raisonnablement sceptique oui. Par contre l’éthique des journalistes est aussi qqch d’important. En effet des pseudo journaux font leur beurre sur les buzz et le clique et certains médias généralistes aggravent la situation en relayant des infos sans les vérifier…on a du souci à se faire…clairement. Super vidéo en tout cas

[Pablo_Toulouse]

Rien de mieux qu'une IA pour voir une IA. Même que Midjourney pourrait se reconnaître, non ?

[recorr]

Les images ont toujours été trafiquées et n'ont jamais servi de preuve sans confiance en la source.
Ce qui est important dans une image c'est ce qui entre en cohérence avec un discours qui entre lui même en cohérence avec la réalité. Alors depuis qu' on se fout de la réalité et de la logique...

[Mimi]

L’argumentation « pour » est succincte, peu développé. C’est dommage et non équilibré.