L’entreprise s’aventure dans davantage de contenus générés par l’IA de faible qualité.
Pangram, le créateur d’un outil largement utilisé pour détecter le texte généré par l’IA, a publié de nouveaux outils permettant de repérer les contenus générés par l’IA dans les images et les vidéos.
Avec cette mise à jour, les abonnés de Pangram peuvent téléverser des vidéos et obtenir une évaluation indiquant si l’IA a été utilisée pour créer ou modifier le clip. L’entreprise affirme que l’outil est capable de distinguer entre des clips « partiellement IA » et ceux entièrement générés par l’IA. L’outil est également livré avec une « carte thermique » qui peut signaler quels aspects de la vidéo sont susceptibles d’être générés par l’IA.
L’entreprise affirme que le modèle sous-jacent à ses capacités de détection vidéo « excelle particulièrement dans la détection de vidéos IA à la pointe » et que, lors des tests, il s’est avéré nettement meilleur pour distinguer les vidéos générées par l’IA par rapport aux autres outils de détection. Le modèle vidéo aurait été capable de repérer un contenu IA avec une précision de plus de 98 pour cent, selon un test interne détaillé par l’entreprise.
Pangram a également amélioré ses capacités de détection d’images générées par l’IA. L’entreprise avait auparavant publié un aperçu de recherche de son modèle d’image, Pangram Image 1.0. Ce modèle est désormais disponible via l’extension Chrome de l’entreprise, qui peut analyser automatiquement les images au fur et à mesure que vous naviguez et signaler celles qui sont susceptibles d’être générées par l’IA.
Selon l’entreprise, son modèle d’image aurait été capable de signaler plus de 99 pour cent des images générées par l’IA avec un taux de faux positifs de 0,27 pour cent lors de ses tests. Bien sûr, comme pour les autres outils de détection d’images IA, il existe quelques avertissements. L’entreprise indique qu’à des résolutions inférieures à 512 x 512, « les résultats seront accompagnés d’un avertissement de confiance réduit ». Cela pourrait expliquer pourquoi une image partagée par le PDG de Pangram, Max Spero, montrant l’extension Chrome en action sur le site de Pinterest indiquait un résultat « incertain » pour deux images qui ne sont manifestement pas de vraies photos.
Spero a noté qu’il y avait d’autres défis dans le développement de son modèle de détection d’images. « La plupart des caméras de téléphones, y compris les iPhone, effectuent un certain niveau de post-traitement par IA pour ajouter des détails à de vraies photos », a-t-il expliqué dans un post sur X. « Nous avons dû construire un modèle robuste face à ce post-traitement tout en comprenant la différence entre les retouches IA et les visuels entièrement générés par l’IA ». Et il a confié à Pirate Wires que l’entreprise avait retardé la sortie de son modèle d’image afin de pouvoir le tester sur plusieurs iPhone 18 Pro, car son modèle avait initialement signalé des images issues des caméras de ces téléphones comme IA.
Les nouvelles capacités de détection d’images et de vidéos par IA de Pangram sont dès maintenant disponibles pour les abonnés au service Pangram. L’entreprise permet aux utilisateurs disposant d’un compte gratuit de vérifier une poignée d’images sans souscrire à un plan payant.
