Si vous êtes souvent en vadrouille sur Facebook, il est difficile de louper ces images d’enfants africains posés à côté de sculptures d’animaux géants faits à base de bouteilles en plastique. C’est la tendance en ce moment sur le réseau social et les initiés sont conscients qu’aucune chose de réelle n’apparait sur ces images. En effet, celles-ci ont tout simplement été générées avec des outils IA (Midjourney principalement), mais derrière se cacherait des pièges.

L’IA générative dans toute sa splendeur

Dès les premiers pas de l’IA générative en public, les voix se sont élevées pour évoquer les défis que cette technologie pourrait poser. Mais alors que tout son potentiel n’a pas encore été exploité, de nombreux problèmes font déjà surface. L’on ne parle même pas des images de célébrités et de personnalités publiques qui sont détournées dans des vidéos et des montages grossiers.

Il est plutôt question ici de photos qui semblent mettre en avant la créativité d’enfants africains, mais qui cachent d’autres intentions. Sur ces images, on peut voir toutes sortes d’animaux géants fabriqués à l’aide de boîtes en plastique ou d’autres éléments recyclés. Mais rien de grave jusque-là, car ces images ne font que montrer jusqu’où on peut aller avec un outil IA. Cela semble d’ailleurs fun et la beauté des images reste captivante.

Exemples D&Rsquo;Images Ia

Des images trompeuses

Un problème se pose toutefois, car beaucoup de personnes (surtout les plus âgés) tombent dans le panneau. Il n’y a qu’à les voir dans les commentaires adresser leurs félicitations au supposé artiste et même les commentaires des utilisateurs conscients de la situation ne semblent pas les convaincre du contraire. Toutefois, le plus grand souci ne se pose qu’au moment où les individus malintentionnés entrent dans le jeu pour exploiter cet enthousiasme naïf.

En effet, ces derniers se servent de ces images pour rediriger les utilisateurs souvent vers des sites qui débordent de publicité afin de faire du chiffre. De plus, il est possible que certaines de ces plateformes mettent en place des méthodes de phishing pour usurper l’identité des moins vigilants.

Le risque est donc bien présent et une récente étude américaine tire d’ailleurs la sonnette d’alarme sur le phénomène. Deux chercheurs des universités de Stanford (Californie) et de Georgetown (Washington D.C.) ont notamment attiré l’attention des utilisateurs sur cette tendance douteuse et contre laquelle Facebook ne semble prendre aucune mesure.