Fusion de SPIP

Importer et fusionner tout le contenu d’un autre site : textes, images, auteurs, liens, et sans se mélanger les pinceaux.

Ce plugin permet d’importer tous les contenus d’un site source, en évitant les conflits d’identifiants qu’une simple copie générerait inévitablement.

Cette fonctionnalité existait pour SPIP2, mais n’a pas été portée sur SPIP3.

Ce plugin est une réécriture complète, avec une analyse automatique de la structure de la base de données.

Qu’est ce qui est importé par ce plugin ?

À peu près tout :

-  les objets natifs : articles, rubriques, auteurs, mots clés... ainsi que les objets éditoriaux s’ils existent dans les deux sites,

-  les documents, images et logos (en option),

-  les associations entre objets (auteurs -> articles, articles -> documents...),

-  les liens internes (ex : [->artXX]) et les identifiants dans les modèles (ex : <embXX>) sont mis à jour,

-  les champs extra s’ils ont été déclarés sur les deux sites,

-  les tables et les données des plugins qui sont installés sur les deux sites (formulaires, agendas, accès restreint...).

Avertissement

Il est très fortement conseillé de réaliser une sauvegarde de votre site avant de réaliser une fusion : le plugin est testé et fonctionnel mais l’opération de fusion est irréversible.

Sauvegardez la base de données et le répertoire IMG du site hôte

En cas d’erreur, on peut ainsi redémarrer depuis la sauvegarde.

L’import des documents et images de la source ne vérifie pas si des fichiers du même nom dans le /IMG de l’hôte existent déjà. Si jamais c’est le cas, ces derniers seraient écrasés.

Pour des bases de données très volumineuses, le processus peut être long et nécessiter beaucoup de ressources. Le processus de fusion peut échouer sur un hébergement mutualisé.

1 - Déclarer une base externe

Sur le site hôte (celui qui reçoit l’import), il faut commencer par déclarer la base de données source (celle qui va être importée) comme une base de données externe.
Dans le bandeau principal, « Maintenance » -> « Maintenance technique », puis choisir « Déclarer une autre base ».
Lors de l’étape « Déclarer une autre base (3/3) Indiquez le nom utilisé pour ce serveur » utilisez un nom commençant par connect_

Si le site source utilise une base de données Mysql, indiquer simplement les paramètres de connexion à la base : serveur, utilisateur, mot de passe, nom de la base [1].

Si le site source utilise une base de données sqlite, copiez le fichier .sqlite de la base (que vous trouverez dans le répertoire /config/bases/ du site source) au même endroit dans le site hôte (dans /config/bases/ donc).
Rechargez la page « Déclarer une autre base », votre base source devrait apparaître.

Les sauvegardes de SPIP sont au format sqlite, on peut donc aussi importer une sauvegarde d’un autre site : pour ça il faut copier la sauvegarde du site source (qu’on trouve dans /tmp/dump) dans le répertoire /config/bases/ du site hôte.

La base de données source doit être dans la même version que la base hôte, dans le cas contraire un avertissement sera lancé lors de la fusion, à vous de confirmer la fusion.

Si les différences de versions sont mineures, le risque d’erreur est faible [2].
Sinon, faites une mise à jour du site source, avec spip_loader c’est rapide et sans douleur.

Problèmes d’encodage

Dans certains cas, il a été signalé un problème d’encodage qui tronquait les titres et les textes dès le premier accent ou caractère étendu.
Dans ce cas, il suffit d’ajouter cette ligne à la fin du fichier de connexion associé à la base source (dans /connect) :
mysql_query("SET NAMES 'utf8'");

2 - Démarrer la fusion

Le plugin s’installe dans le menu « Maintenance » du bandeau principal.
Par défaut, seuls les webmestres y ont accès.

Interface du plugin fusion

Choisissez la base de données à importer.

Les documents et logos du site source peuvent aussi être importés si on déclare leur chemin physique. Dans ce cas, il faut réaliser l’opération de fusion sur le même serveur (sur votre poste en local, ou sur un serveur en ligne).

Le site source peut être importé dans un secteur en particulier, ou bien à la racine du site.

En option, vous pouvez choisir de ne pas importer les statistiques et les referrers. Ces tables peuvent être très volumineuses et longues à traiter dans certains cas, et vous n’en avez peut être pas besoin.

Au démarrage de la fusion, le plugin peut vous remonter plusieurs avertissements :
-  versions de bases de données différentes (cf plus haut)
-  certaines tables ou certains champs n’ont pas été trouvés dans la base source

Ce deuxième cas peut se produire si des plugins du site hôte ne sont pas installés dans le site source, ou bien si le site hôte comporte certains champs spécifiques (champs extra) qui ne sont pas présents dans le site source.
C’est un simple message pour vous prévenir que les données de ces plugins seront ignorées, cela ne causera pas d’erreurs particulières, vous pouvez confirmer et continuer.

Exemple :

Exemple d’alerte (tables introuvables)

Ici, le plugin formidable est installé sur le site hôte, mais il ne l’est pas sur le site source. Le plugin prévient que ses tables n’ont pas été trouvées sur le site source.
C’est juste un rappel, cela ne causera pas d’erreurs particulières, vous pouvez confirmer et continuer.

NB : Quand vous lancerez l’opération de fusion, vous ne verrez aucun indicateur visuel de la progression en cours, vous verrez juste l’indicateur visuel du navigateur qui indique un chargement de page.
Ne relancez pas l’opération en cliquant plusieurs fois sur le bouton !

Complément : fonctionnement technique

Le code s’appuie entièrement sur les schémas de l’hôte déclarés dans lister_tables_principales() et lister_tables_auxiliaires() pour un traitement automatisé, quel que soit le schéma de la base (plugins installés). Les clés primaires et les liaisons sont découvertes d’après les schémas pour les mises à jour [3]

Après avoir déclaré une base externe, l’import d’un site se fait en plusieurs temps :

-  les tables principales de la source sont importées ligne par ligne sans leur clé primaire. Les objets changent donc d’identifiant, mais une table d’assemblage (spip_fusion) enregistre l’id original, l’id final, le type d’objet, et la base source.

-  les liaisons entre objets sont reconstruites en reconnaissant automatiquement les clés primaires dans chaque table.

-  les tables auxiliaires sont importées, en modifiant les clés primaires qui pointent sur des objets principaux.

-  les documents et logos sont importés (si on précise le chemin absolu du répertoire IMG source). Les logos sont renommés avec les nouveaux identifiants des objets auxquels ils sont rattachés.
NB : Les logos pris en compte sont ceux des articles, des rubriques, des auteurs, des mots clés et des brèves (extensible facilement)

-  les identifiants dans liens internes ->artXX ->XX -rubXX etc sont mis à jour pour pointer sur les nouveaux identifiants.

-  les identifiants dans les modèles (img, doc, emb) sont mis à jour de la même façon.

Astuce : passer son site de sqlite à mysql

Si vous avez créé votre site avec une base de données en sqlite, et que pour diverses raisons vous voulez le passer en mysql, il n’y a pas vraiment d’outil le permettant facilement.

Mais avec ce plugin, c’est possible et même très simple :

  1. dans le répertoire /config, supprimer le fichier connect.php,
  2. vider complètement le contenu de /tmp (pour rebooter Spip)
  3. appeler l’url /ecrire pour relancer l’installation, choisir cette fois une base mysql,
  4. une fois le site installé en mysql, aller dans « Maintenance » / « Maintenance technique », et suivre les 3 étapes de « Déclarer une autre base » : choisir Sqlite3, sur l’écran suivant choisir la base sqlite existante, et valider jusqu’à « La nouvelle base a bien été déclarée ... » (cf paragraphe « 1 - Déclarer une base externe » ),
  5. lancer la fusion en choisissant comme source la base sqlite,
  6. « boire une bière et savourer la satisfaction d’un plan qui s’est déroulé sans accroc » (© b_b).

A noter que cette astuce marche aussi dans l’autre sens : passer de Mysql à sqlite, mais le besoin a été moins souvent exprimé.

Important : Les objets (articles, rubriques etc) vont changer de numéro en passant d’une base de données à l’autre. Si vos squelettes utilisent des numéros « en dur », il faudra les mettre à jour.

Notes

[1En cas d’utilisation d’un préfixe non standard, vous référer à la note en PS ci-dessous.

[2À titre d’exemple, j’ai importé sans erreur une base de démarrage au format SPIP 3.0.5 (http://contrib.spip.net/Base-de-donnees-de-test-pour-SPIP3) sur un SPIP 3.0.13

[3à part un ou deux cas particuliers sur les urls et les forums notamment

PS : Quand on déclare une nouvelle base qui possède des tables préfixées (avec un préfixe différent de spip_, l’interface ne propose pas d’indiquer le préfixe : il faut éditer après coup le fichier créé dans /config, manuellement par FTP dans le fichier secondaire de connexion source et l’ajouter dans le paramètre suivant le type de la base de données.

Discussion

12 discussions

  • 4

    Voulant migrer un site de sqlite à mysql, j’ai voulu pour cela me servir de "fusion".
    J’ai donc effacé le connect.php, laissé spip initialiser sa bdd sur une toute nouvelle base mysql puis déclaré la base sqlite comme base externe.

    Au moment de lancer la fusion j’ai toutefois un message d’erreur :
    "Le site hôte et le site source ne sont pas dans la même version de base de données : hôte est en version 23375 / source est en version » (sans indication)
    Pourtant c’est le même spip, sans upgrade entre temps ; la connexion à la base externe-interne sqlite semble bien se faire puisque l’exécution est bien arrivée jusque là, et lorsque avec adminer je vérifie la table spip_meta de la bdd sqlite, je vois que l’entrée "version_installee" vaut la même valeur 23375.

    Faute de parvenir à franchir cette étape, je supprime le test du source et je relance la fusion.
    Là ça importe bien, jusquà ce qu’une erreur de syntaxe sql soit signalée :

    Erreur SQL HY000 / 1 near ",": syntax error SELECT id_objet, objet FROM spip_seo WHERE id_objet, objet, meta_name = 0
    plugins/auto/fusion_spip/v1.3.3/inc/fusion_spip.php	fusion_spip_mettre_a_jour_liaisons_par_objet_dist(){ sql_fetsel(); }	398

    Je vois quand même que plein de contenu a déjà été importé : articles : 2724 - auteurs : 472 - documents : 6407 - evenements : 345 - formulaires : 1 - formulaires_reponses : 122 - formulaires_reponses_chams : 1051 - forums : 1813 - groupes_mots : 7 - mailshots : 197 - mailsubscribers : 1381 - mailsubscribinglists : 3 - menus : 2 - menus_entrees : 9 - messages : 281 - mots : 74 - newsletters : 233 - noisettes : 183 - partageurs : 4 - rubriques : 3 - seo : 5 - syndic : 16 - syndic_articles : 114 - zones : 1

    Comment cela se fèce t-il ?

    • Salut,

      Faute de parvenir à franchir cette étape, je supprime le test du source et je relance la fusion.

      Pas compris ce point là, tu peux expliquer ?

      Sinon, il faudrait que tu puisses me fournir la base sqlite utilisée pour pouvoir reproduire l’erreur, mais elle vient de id_objet, objet dans la clause WHERE.

    • -  Erreur de version de bdd : J’avais vérifié dans le code que le connect était bien renseigné ici. J’ai aussi essayé en simplifiant via un sql_getfetsel (sait on jamais...), sans succés. Pour désamorcer l’erreur de version de bdd j’ai finalement contourné le test en le commentant :

      /* else { $vsource = sql_fetsel('valeur', 'spip_meta', 'nom="version_installee"', '', '', '', '', $connect); if ($spip_version_base != $vsource['valeur']) { $erreurs['versions_bases'] = _T('fusion_spip:erreur_versions', array( 'vhote'=>$spip_version_base, 'vsource'=>$vsource['valeur'] ));}} */

      -  Je vois avec les collègues pour te transmettre la BDD.

    • Je crois que j’ai pigé le probleme final avec la table spip_seo : c’est que la primary est composée : « PRIMARY id_objet,objet,meta_name » et le test « id_objet,objet,meta_name=12345 » déconne.

    • J’ai reformulé la réponse anté-précédente pour plus de clarté.

      Une fois la fusion réalisée, les tables principales étaient bien importées : articles et rubriques et j’ai pu tester le site. J’ai alors constaté que les articles s’affichaient bien, mais *sans* la mise en page gérée par le noisetier. Pourtant le feedback indiquait que 183 noisettes avaient été importées. Je ne connais pas le noisetier, mais peut être lui faut il d’autres tables encore ? Ou recalcul. Groumpf, j’ai pas pensé à recalcul...

      Mais toutes les tables n’ont visiblement pas été importées : les statistiques par exemple.

    Répondre à ce message

  • 4

    Bonjour, je suis la procédure de déclaration de base en ajoutant connect_ à l’étape 3
    ça me confirme que la base est déclarée mais rien n’apparaît dans le menu déroulant ensuite.
    j’ai fais 3 fois l’essai et les noms s’accumulent mais toujours rien.
    Où s’inscrivent les infos et que puis je faire ?
    Merci d’avance

    • Désolé de la réponse tardive.
      Est ce que ton problème a été résolu ?

    • non, je n’ai pas réussi

    • Tu tentes une fusion de deux bases MySql ?
      Sur la page « Déclarer une autre base », tu vois bien la ou les bases externes déclarées ?
      Tu peux faire une capture écran ?

    • J’ai essayé à plusieurs reprises, j’arrive visiblement à créer une base (vu que j’ai du donner plusieurs noms « nom existe déjà ») mais impossible de voir quoi que ce soit ensuite.
      Où sont écris les infos du plugin car je me retrouve avec une base de données de plus de 100 mo, c’est carrément bizarre.
      Le problème c’est que c’était un peu urgent et maintenant j’ai pas mal avancé sur le nouveau site, à voir comment réagencer propre...

    Répondre à ce message

Ajouter un commentaire

Avant de faire part d’un problème sur un plugin X, merci de lire ce qui suit :

  • Désactiver tous les plugins que vous ne voulez pas tester afin de vous assurer que le bug vient bien du plugin X. Cela vous évitera d’écrire sur le forum d’une contribution qui n’est finalement pas en cause.
  • Cherchez et notez les numéros de version de tout ce qui est en place au moment du test :
    • version de SPIP, en bas de la partie privée
    • version du plugin testé et des éventuels plugins nécessités
    • version de PHP (exec=info en partie privée)
    • version de MySQL / SQLite
  • Si votre problème concerne la partie publique de votre site, donnez une URL où le bug est visible, pour que les gens puissent voir par eux-mêmes.
  • En cas de page blanche, merci d’activer l’affichage des erreurs, et d’indiquer ensuite l’erreur qui apparaît.

Merci d’avance pour les personnes qui vous aideront !

Par ailleurs, n’oubliez pas que les contributeurs et contributrices ont une vie en dehors de SPIP.

Qui êtes-vous ?
[Se connecter]

Pour afficher votre trombine avec votre message, enregistrez-la d’abord sur gravatar.com (gratuit et indolore) et n’oubliez pas d’indiquer votre adresse e-mail ici.

Ajoutez votre commentaire ici

Ce champ accepte les raccourcis SPIP {{gras}} {italique} -*liste [texte->url] <quote> <code> et le code HTML <q> <del> <ins>. Pour créer des paragraphes, laissez simplement des lignes vides.

Ajouter un document

Suivre les commentaires : RSS 2.0 | Atom