Détecter les DeepFakes avec l'IA, ou le serpent qui se mord la queue

Il y a quelques semaines sortait DeepNudes, un générateur d'images dénudées de femmes à partir d'une simple photo habillée. Désormais bannie à cause du flou légal (voire de la complète interdiction) de ces pratiques - des projets similaires ayant été radiés de GitHub - le projet a laissé des traces, et pas que dans les culottes.

En effet, dans un monde où l'image de soi est libre diffusion sur les réseau sociaux, il devient de plus en plus facile de se procurer une photographie et, par la suite, effectuer des pressions à cause d'images générées... C'est dans cette optique que des chercheurs de l'Université de Californie Riversides se sont mis en tête de détecter les images retouchées par IA. Et pour ce faire, ils a fallu utiliser... de l'IA ! Des LSTM très exactement, un cas spécifique de neurones possédant une cellule mémoire, combinés avec un encodeur-décodeur, chacun se servant de ses forces pour chercher des endroits suspects, par exemple au niveau des bordures des images, souvent lissées par les réseaux générateurs.

Car si les fausses images sont étonnantes de réalisme aux yeux humain, cela ne signifie pas qu'elles le sont en totalité, et c'est ce que semblent démontrer les résultats préliminaires qui vont jusqu'à plus de 90% de détections correctes. Néanmoins, le logiciel n'est pas parfait puisqu'il repose sur des statistiques et donc des généralisations. Si le taux d'erreur est de 0,1%, cela représente des milliers de personnes à l'échelle de la France : ouille ! Dans des travaux futurs, il est prévu d'étendre le système aux vidéos, où les évolutions des mouvements entre images sont des précieux indicateurs de l'authenticité d'un film. Bientôt des applications pour les enquêtes judiciaires ? (Source : IEEE Spectrum)

Fake ou non-fake, telle est la question !