SPIP-Contrib

SPIP-Contrib

عربي | Deutsch | English | Español | français | italiano | Nederlands

290 Plugins, 198 contribs sur SPIP-Zone, 120 visiteurs en ce moment

Accueil > Administration et BDD > Gestion des documents > Voir les documents qui doublonnent

Voir les documents qui doublonnent

24 février 2006 – par Fil – commentaires

0 vote

Parfois on a chargé plusieurs fois le même document, ou référencé plusieurs fois le même document distant. Voici des boucles qui établissent la liste de ces doublons.

D’abord, les documents distants, car c’est (paradoxalement) le plus facile à faire :

<BOUCLE_f(DOCUMENTS){distant=oui}>
[(#FICHIER|unique|?{'',#ID_DOCUMENT - #FICHIER})<br>]
</BOUCLE_f>

Explication : |unique ne ressort la valeur (#FICHIER, en l’occurrence) que la première fois qu’elle apparaît. La deuxième fois, ou les fois suivantes, |unique rend un résultat vide, et le test |?{'', xxx} affiche xxx, c’est-à-dire ici #ID_DOCUMENT et #FICHIER.

Et voilà, nos doublons sont listés.

* * *

Ensuite, voyons les documents locaux, chargés normalement dans l’interface de SPIP. Là on va faire plus fort, car on va tester le contenu des fichiers.

<BOUCLE_g(DOCUMENTS){distant=non}{taille<4000000}>
[(#FICHIER|file_get_contents|md5|unique|?{'',#ID_DOCUMENT - #FICHIER})<br>]
</BOUCLE_g>

Avec le filtre file_get_contents (une fonction php standard), on récupère tout le contenu du fichier, qu’on filtre ensuite par md5 (une autre fonction php) pour le transformer en une « clé » de petite taille, qu’on donnera ensuite à manger au filtre |unique. (Ce dernier, en effet, conserve en mémoire les données qu’on lui passe, pour pouvoir faire des comparaisons d’une fois sur l’autre : mieux vaut ne pas lui donner des fichiers complets à mémoriser !)

Attention, si cette méthode permet de gérer beaucoup de fichiers, il suffit que l’un des fichiers soit très très gros, pour que cela fasse exploser la mémoire de php au moment du file_get_contents, et provoque une erreur ; c’est pourquoi on limite cette méthode à des fichiers de taille < 4Mo.

Pour ces derniers, on se limitera à une comparaison du type et de la taille du document :

<BOUCLE_h(DOCUMENTS){distant=non}>
[(#TAILLE|parametre_url{s,#EXTENSION}|md5|unique|?{'',#ID_DOCUMENT - #FICHIER})<br>]
</BOUCLE_h>

A noter, l’utilisation du filtre parametre_url, pour concatener (mettre « bout-à-bout ») les valeurs de #TAILLE et de #EXTENSION.

Dernière modification de cette page le 24 janvier 2007

Retour en haut de la page

Vos commentaires

  • Le 12 mars 2006 à 22:17, par DD En réponse à : Voir les documents qui doublonnent

    J’ai testé cette contrib en vue de faire un peu de ménage sur un site.

    1/ cela me retourne au début du fichier des lignes d’erreur :
    Warning : file_get_contents(IMG/gif/fichierx.gif) : failed to open stream : No such file or directory in /home/site/www/inc-calcul.php3(109) : eval()’d code on line 83

    bon je suppose que ce sont des tags insérés dans les articles mais dont le document n’existe plus sur le serveur.

    2/ Ce que je trouve plus étrange c’est que la boucle est supposée retourner des doublons mais aucun des documents listé n’est en double.

    Est-ce que c’est parce que mes documents sont tous des jpg ou des mpg et que la comparaison se fait uniquement sur la taille et le type ?

    J’ai ajouté une boucle pour afficher le n° et le titre de l’article mais cela ne fonctionne qu’une ligne sur 20.

    Bon j’ai peut être pas tout compris. En tout cas cela ne semble pas être la solution idéale pour moi.

    j’ai essayé sur un site en 1.8 mais cala ne semble pas fonctionner du tout.

    catherine

    • Le 12 mars 2006 à 22:23, par Fil En réponse à : Voir les documents qui doublonnent

      Pour le 1/ en effet ce sont probablement des fichiers manquants

      Pour le reste, si un document s’affiche, c’est qu’il existe, plus haut dans la boucle, un autre document dont le contenu produit le même code md5. A priori cela signifie que c’est le même document... Mais si un document est absent, il est équivalent à « la chaine vide », et donc si plusieurs documents sont absents, ils sont marqués comme « doubles ».

    Répondre à ce message

Répondre à cet article

Qui êtes-vous ?
  • [Se connecter]

Pour afficher votre trombine avec votre message, enregistrez-la d’abord sur gravatar.com (gratuit et indolore) et n’oubliez pas d’indiquer votre adresse e-mail ici.

Ajoutez votre commentaire ici Les choses à faire avant de poser une question (Prolégomènes aux rapports de bugs. )
Ajouter un document

Retour en haut de la page

Ça discute par ici

  • Mailshot

    16 janvier 2013 – 332 commentaires

    Ce plugin prend en charge l’envoi en nombre d’info-lettres par email. Mailshot permet l’envoi en nombre d’emails au moyen d’un SMTP (ou d’un service externe) dédié à cet effet. Il permet de limiter la cadence d’envoi. Enfin, ce plugin implémente la (...)

  • Mon premier formulaire pas à pas : c’est Formidable !

    23 janvier 2012 – 30 commentaires

    https://medias.spip.net/medias/video-tutorials/article/formidable-mon-premier-formulaire

  • Configuration des traitements de Formidable

    12 mai – 20 commentaires

    Une fois le formulaire et les champs créés formidable propose de « configurer les traitements » Cet article vise à préciser ou compléter quand ça semble nécessaire certains choix présents. Le premier choix consiste à savoir si on veut : « Poster par (...)

  • Compositions 2 et 3

    25 mars 2011 – 194 commentaires

    Ce plugin vous permet de définir plusieurs variantes de squelettes (nommées compositions) pour un même type d’objet SPIP. Dans l’espace privé, il est alors possible de choisir, dans un menu déroulant, la composition qu’on veut attribuer à chaque (...)

  • Referer Spam

    23 janvier 2016 – 37 commentaires

    Le but de ce plugin est d’exclure les liens entrants frauduleux des statistiques à l’aide d’une liste noire. Afin de lutter contre le referer spam, qui peut rapidement rendre inutilisable les statistiques de visites fournies par spip, ce plugin (...)