Les images générées par l'AI ne sont plus aussi faciles à reconnaître. C'est la conclusion deUn nouveau rapport Microsoft, qui a révélé que la majorité des individus remarquaient à peine la différence entre les images réelles et générées par l'AI, en particulier dans les paysages et les zones urbaines.
L'équipe «AI for Good» de Microsoft a mené unExpérience mondiale de type quizimpliquant plus de 12 500 personnes. Chacun a été invité à décider si les images étaient réelles ou non. Dans 287 000 évaluations des images, les participants n'étaient corrects que 62% du temps. Juste un peu mieux que de retourner une pièce.
EN RAPPORT:
Les humains étaient les plus précis pour détecter les faux portraits humains. Cependant, pour détecter les images générées par l'AI de la nature ou les villes, elles n'ont atteint une précision d'environ 59%. De tels scénarios n'ont pas tendance à présenter des races flagrantes telles que des visages froissés ou des textures bizarres, il serait donc plus difficile de les marquer comme suspects.
Les chercheurs ont veillé à ce que l'équipe utilise une grande variété d'images que les individus peuvent, en fait, rencontrer en ligne. Rien n'a été sélectionné pour être délicat ou manipulateur. Néanmoins, les résultats ont indiqué que les images d'IA simples, même quotidiennes, peuvent échapper au jugement humain.
Pour aider à lutter contre les dangers de la désinformation, Microsoft plaide désormais pour des normes de transparence plus élevées. Cela signifie qu'ils peuvent être vus sous forme de filigranes visibles et de mécanismes de détection plus robustes. Mais les filigranes pourraient ne pas être suffisants. Le rapport indique que l'on peut les recadrer ou les éditer par des moyens simples.
Notamment, le détecteur d'IA interne de Microsoft était précis à 95% sur les mêmes photographies. Cela implique que nous devrons peut-être obtenir une aide à la machine afin de maintenir le rythme avec la vitesse et la nature réaliste des modèles génératifs modernes.
Bien que les meilleurs outils d'aujourd'hui, tels que Dall · E 3 et MidJourney, aient fait un grand art, les chercheurs indiquent que des méthodes plus anciennes, telles que Gans ou l'instruction, peuvent parfois être plus réalistes. Les modèles plus anciens génèrent des images plus grossières et amateurs qui s'intègrent mieux dans la crasse d'Internet. Dans l'ensemble, cette recherche rappelle que la tromperie visuelle devient plus avancée - et nous ne savons peut-être pas toujours que cela arrive.
