Instagram et la lutte contre le spam IA : vers une nouvelle ère d’authenticité

Instagram veut marquer la différence entre contenu humain et IA

Adam Mosseri, le PDG d’Instagram, a récemment déclaré que les plateformes de médias sociaux doivent changer leur approche face à l’inondation de contenu généré par l’intelligence artificielle (IA). Selon lui, dans un avenir proche, l’étiquetage simple comme « Made with AI » ne sera plus suffisant, car les capacités de l’IA deviennent de plus en plus sophistiquées et difficiles à distinguer du contenu authentique. Il propose l’implémentation d’une «empreinte digitale» cryptographique, inscrite dès la première capture, pour prouver l’origine humaine d’une image ou vidéo. Cette méthode pourrait remplacer les stratégies actuelles, qui atteignent leurs limites face à l’évolution de l’IA.

La crédibilité du contenu sera davantage liée à son apparence brute ou imparfaite, plutôt qu’à une esthétique polie et parfaite, qui tend à être associée à un contenu créé par l’homme. Mosseri souligne que faire d’authenticité une preuve plutôt qu’une supposition pourrait transformer la perception de la confiance dans le monde numérique. La question principale lors de cette nouvelle ère pourrait devenir : « Pouvez-vous prouver que c’est fait par un humain ? »

Un défi technologique en phase de développement

Face à la difficulté croissante d’identifier le contenu généré par IA, Instagram souhaite privilégier la transparence et l’authenticité. La mise en œuvre de cette «empreinte digitale» cryptographique, encore en phase de développement, pourrait révolutionner la perception de la crédibilité en ligne. Mosseri estime que cette technologie permettrait d’établir une «chaîne de garde numérique», attestant que l’image ou la vidéo provient d’un appareil physique, comme une caméra, plutôt que d’une commande IA.

En somme, Instagram envisage un futur où l’authenticité ne sera plus présumée, mais prouvée. La tendance est à une diminution de l’esthétique parfaite, au profit de contenus spontanés ou imparfaits, qui pourraient devenir les nouveaux symboles de confiance à l’ère de l’intelligence artificielle.