SPIP-Contrib

SPIP-Contrib

عربي | Deutsch | English | Español | français | italiano | Nederlands

290 Plugins, 198 contribs sur SPIP-Zone, 82 visiteurs en ce moment

Accueil > Navigation > Recherche > Indexer > Indexer : Installation et Configuration

Indexer : Installation et Configuration

6 octobre 2014 – par cam.lafit, Fil, Matthieu Marcillaud, RastaPopoulos – 48 commentaires

10 votes

Introduction

Pour comprendre l’intérêt du plugin, nous invitons à lire l’article suivant Indexer : Introduction. Le fonctionnement de la boucle SPHINX est expliqué dans cet article :
Indexer : La boucle SPHINX. La suite de l’article aborde uniquement l’installation et la configuration du plugin Indexer et du moteur Sphinx .

Rappel pour les lecteurs inattentifs, il faut installer Sphinx en plus du plugin.

Compatibilité

Le plugin Indexer (compatible SPIP 2.1 et SPIP 3.x) exploite le mode RT (real-time), l’API mysql, et les fonctionnalités JSON de Sphinx. Pour cette raison il ne fonctionne qu’à partir de la version 2.2 de Sphinx.

Note : l’ancien plugin SPIP Sphinx (doc) exploite le mode standard de Sphinx, et son API native.

Description technique

Le mode RT de Sphinx permet à tout moment d’enrichir ou d’actualiser les contenus de Sphinx, par l’intermédiaire de requêtes proches de l’écriture SQL, et donc assez familières. Ainsi, le plugin Indexer actualise l’index de Sphinx après chaque modification d’un contenu dans SPIP. La page exec=indexer permet d’indexer ou de réindexer tous les contenus du site.

Le plugin intègre quelques documentations : 
http://zone.spip.org/trac/spip-zone/browser/_plugins_/indexer/trunk/doc

Notamment, par défaut, il utilise un index nommé ’spip’. Cet index Sphinx ressemble beaucoup à une table SQL. Chaque entrée dans l’index est appelé un document. Ici, un document possède certains champs assez communs, qui sont détaillés dans la documention de l’indexation.

Installation de Sphinx

Sphinxsearch fournit un ensemble de paquets selon les environnements serveurs (Windows, Linux, Debian, ....) depuis la page :
http://sphinxsearch.com/downloads/release/

Le point important est de prendre un version supérireure à 2.2

L’installation est à effectuer selon votre environnement (exe, yum, apt-get/aptitude, ....)

Vous pouvez contrôler le bon fonctionnement de Sphinx via la commande suivante (à exécuter en root ou assimilé)

  1. searchd

Création de la configuration Debian et dérivés

Il faut créer le fichier de configuration de sphinx dans /etc/sphinx/sphinx.conf.
Un fichier d’exemple est fourni avec le paquet debian/ubuntu.

Nous pouvons utiliser du PHP pour gérer la configuration dans des fichiers séparés dans /etc/sphinx/conf.d-enabled/ ou /etc/sphinxsearch/conf.d-enabled/ . On en profite pour créer le répertoire manquant sous Ubuntu/Debian :

Fichier /etc/sphinx/sphinx.conf ou /etc/sphinxsearch/sphinx.conf

  1. #!/usr/bin/env php
  2. <?php
  3. # Correction bug paquet debian / ubuntu
  4. if (!is_dir('/var/run/sphinx')) {
  5.         mkdir('/var/run/sphinx');
  6. }
  7. # Recherche et inclusions des configurations
  8. foreach (glob(__DIR__ . '/conf.d-enabled/*.conf') as $conf) {
  9.     include $conf;
  10. }

Télécharger

Créer le répertoire /etc/sphinx/conf.d-enabled ou /etc/sphinxsearch/conf.d-enabled (et éventuellement conf.d-available)

Dans conf.d-enabled, mettre :

  • le fichier 1_charsets.conf
    • Remarque : C’est un script il doit donc avoir les droits d’exécution.
  • le fichier searchd.conf :
    On précise les IP d’écoute, pour restreindre au serveur local pensez à mettre 127.0.0.1 et non l’ip publique de votre serveur.

On peut noter que searchd fournit par défaut des connecteurs sur divers ports :

  • API interface "native" 9312
    listen = 127.0.0.1:9312
  • API interface "SphinxQL" 9306
    listen = 127.0.0.1:9306:mysql41

Le plugin Indexer n’utilise que l’inteface SphinxQL, il est donc tout à fait possible de désactiver l’interface 9312.

Si le répertoire de référence est sphinxsearch et non sphinx, pensez à corriger la config suivante en actualisant les chemins.

  • le fichier spip.conf :

Relancer le démon searchd une fois ceci effectué :

  1. sudo searchd --stop
  2. sudo searchd
  3.  
  4. # ou
  5. sudo service sphinxsearch restart

Télécharger

Tester que Sphinx est bien lancé

Se connecter à Sphinx via le client mysql ou mariadb :

  1. mysql -h0 -P9306

Quelques commandes :

  • show tables; : liste l’ensemble des indexes
  • describe spip; : décrit les champs d’un index
  1. > show tables;
  2. +-------+------+
  3. | Index | Type |
  4. +-------+------+
  5. | spip  | rt   |
  6. +-------+------+
  7. 1 row in set (0.00 sec)
  8.  
  9. > describe spip;
  10. +------------+-----------+
  11. | Field      | Type      |
  12. +------------+-----------+
  13. | id         | bigint    |
  14. | title      | field     |
  15. | summary    | field     |
  16. | content    | field     |
  17. | date       | timestamp |
  18. | title      | string    |
  19. | summary    | string    |
  20. | content    | string    |
  21. | uri        | string    |
  22. | signature  | string    |
  23. | properties | json      |
  24. +------------+-----------+
  25. 11 rows in set (0.00 sec)

Télécharger

Préparer SPIP et indexer ses articles

Si sphinx est actif (on peut se connecter à lui via mysql), on peut alors, si il est installé sur le même serveur que le site SPIP, directement l’interconnecter avec SPIP.

La configuration de base se fait dans config/mes_options.php :

define('SPHINX_DEFAULT_INDEX', 'spip');
define('SPHINX_SERVER_HOST', '127.0.0.1');
define('SPHINX_SERVER_PORT', 9306);

Pour ce faire, télécharger et activer le plugin Indexer.
Une fois actif, aller sur la page ecrire/?exec=indexer.
L’interface est encore très sobre, mais on peut démarrer l’indexation de tous les articles du site en cliquant « démarrer ». Cela peut prendre un peu de temps en fonction de la machine et du nombre d’articles.

Une fois indexé, une page (joliment affichée si « spipr-dist » est actif) peut être visitée pour tester un peu : ?page=sphinx. Cette page affiche un champ de recherche, ainsi que des facettes sur les auteurs, les mots clés ou la date.

Interdire les écritures

Si vous utilisez ce plugin sur un site de préproduction, la configuration suivante permet d’interdire les écritures dans la base sphinx :

define('_INDEXER_READONLY', true);

Voir en ligne : http://plugins.spip.net/indexer

Dernière modification de cette page le 10 octobre 2018

Retour en haut de la page

Tout afficher

Vos commentaires

  • Le 10 octobre à 18:10, par Maïeul En réponse à : Indexer : Installation et Configuration

    Avec les derniers verions de sphinx, les dossiers sont sphinxsearch et pas sphinx

    Répondre à ce message

  • Le 10 octobre à 18:01, par Maïeul En réponse à : Indexer : Installation et Configuration

    Le fichier
    `0_charsets.conf` n’est plus bon au niveau du lien

    Répondre à ce message

  • Le 26 avril à 15:35, par ixeft En réponse à : Indexer : Installation et Configuration

    Bonjour,

    Sauf mécompréhension ou erreur de ma part, je pense avoir trouvé deux bugs dans le squelettes liste_sphinx_facette.html (v2.14.4)

    1. Tag avec apostrophe simple
    Quand une facette tag avec appostrophe simple est choisi pour filtrer les articles, les listes de facettes reviennent vide.
    en effet, l’apostrophe simple est transformé en entité html et le fitre échoue ici :

    1. {filter (#ENV{tag},    'IN(properties.tags, @valeurs)',    'LENGTH(properties.tags) = 0'}

    je pense qu’en remplaçant
    #ENV{tag} par (#ENV*{tag}|safehtml)
    cela solutionne le problème, mais je ne suis pas sûr des implications en terme de sécurité.

    2. Tag entièrement numérique
    Même problème de facette ne s’affichant pas lorsque un tag est uniquement un nombre.
    Il me semble que le problème viens du fait que le nombre n’est pas mis entre quote dans la requète SQL.

    Bonne journée !

    • Le 26 avril à 15:43, par ixeft En réponse à : Indexer : Installation et Configuration

      NB : l’autre alternative que de remplacer #ENV{tag} par (#ENV*{tag}|safehtml) pourrait être d’insérer les tag échappé grace à entité_html dans la base de donnée sphinx, mais ça casserais probablement la compatibilité avec les indexations actuelles :/

    • Le 26 avril à 16:41, par Fil En réponse à : Indexer : Installation et Configuration

      Oui mais ce n’est pas qu’un problème de compatibilité. Il est plus logique de sécuriser la communication avec les bons échappements que de bidouiller les données.

      Es-tu sûr qu’on a besoin de |safehtml ?

    • Le 27 avril à 00:57, par ixeft En réponse à : Indexer : Installation et Configuration

      Je t’avoue que je n’ai pas lu le code de l’ensemble du plugin, par acquis de conscience et pour éviter d’éventuelle injection SQL, j’ai mis le |safehtml mais peut-être que tout ça est déjà échappé dans le code.

    • Le 27 avril à 09:38, par Fil En réponse à : Indexer : Installation et Configuration

      A priori, SPIP s’occupe de la sécurité SQL.

      |safehtml servirait à éviter de renvoyer dans le HTML du javascript qui serait envoyé dans la variable, mais là on ne renvoie pas de HTML donc ça ne joue pas.

      Par ailleurs l’étoile de #ENV*{} ne désactive pas |safehtml, c’est quand on utilise deux étoiles #ENV**{} qu’on désactive vraiment tout :)

      Le cas qui reste est celui des nombres, sphinx demande en effet que les éléments qu’l compare soient du même type (on n’aura jamais 1=="1") donc il faut trouver un moyen de caster.

    Répondre à ce message

  • Le 6 novembre 2016 à 16:54, par Maïeul En réponse à : Indexer : Installation et Configuration

    Est-ce qu’il est envisageable que les mots clefs, à la place d’être tous mélangé dans une propriété « tags » soient dans des propriétés spécifiques correspondant au groupe de mot clefs ?

    Répondre à ce message

  • Le 16 novembre 2016 à 15:23, par Ben En réponse à : Indexer : Installation et Configuration

    Bonjour,

    J’ai du mal à installer Sphinx car l’étape d’installation n’est toujours pas claire à mon niveau. Quelqu’un pour expliquer à un débutant ?

    Répondre à ce message

  • Le 9 octobre 2016 à 09:38, par philooo En réponse à : Indexer : Installation et Configuration

    Est ce qu’il est possible de faire des appel a SPHINX mais seulement sur les facettes ?

    L’idee ca serait d’utiliser le moteur de SPHINX pour filtrer les articles avec plusieurs mot cles spécifiques, sans tenir compte du contenu des articles.

    Pour le moment il est tres difficile avec les boucles SPIP de faire des requêtes pour filtrer les articles en se basant sur plusieurs mots cle.

    Si on pouvait faire ca avec le moteur SPHINX, on pourrait vraiment apporter un grosse fonctionnalité a SPIP : une boucle mot avec le critère AND, alors que pour le moment la seule chose disponible c’est le critère OR avec la syntaxe ... motIN(1,2,3...)

    • Le 9 octobre 2016 à 09:58, par Fil En réponse à : Indexer : Installation et Configuration

      c’est sans doute possible mais un peu disproportionné. Le plus adapté à ton besoin serait probablement d’écrire un critère spécifique, qui fasse exactement ce que tu souhaites.

    • Le 9 octobre 2016 à 11:35, par philooo En réponse à : Indexer : Installation et Configuration

      Le truc c’est que mon site a plusieurs centaines de milliers d’articles et plusieurs centaines de mots cle.

      Et avec le système de boucles je doit gérer une table qui liste les combinaisons de mot sinon les requêtes sont trop lentes. j’utilise ce système sur mon site : topspeed.in
      j’autorise la selection d’un mot par groupe pour le moment via la navigation principale :
      cars + audi + sedan + future cars + ...

      Ca fonctionne mais cest complique

      La puissance du moteur Sphinx pourrait bien m’aider au niveau de la gestion des relations de mots cle / ’facettes’ en language Sphinx. Je vois que Sphinx est tres puissant / rapide. Donc si il pouvait être utilise pour renvoyer rapidement une liste des articles en fonction des facettes, ca serait une grosse innovation pour spip.

      j’ai vu sur un site dont je ne me rappel plus le nom qu’ils faisaient un filtrage des résultât par facette, donc cest un peu la meme idée mais en eliminant la fonction de recherche sur le texte quoi ;) c’est limitatif mais ca serait un joli moteur a mettre sous le capot de spip ;)

    • Le 9 octobre 2016 à 11:57, par RastaPopoulos En réponse à : Indexer : Installation et Configuration

      Oui, moi je n’utilise pas les mots-clés parce que ça me saoule d’avoir plusieurs trucs différents pour faire la même chose (ranger), donc j’utilise Polyhiérarchie, mais sur le principe c’est ce que j’ai fait : pour les rubriques j’ai ajouté différents nouveaux critères SPIP pour faire des ET, etc.

      D’ailleurs pour les mots ça existe en partie déjà : le plugin {mots} qui rajoute le critère du même nom.

    • Le 9 octobre 2016 à 11:59, par RastaPopoulos En réponse à : Indexer : Installation et Configuration

      Ah et pour répondre à la question de départ quand même : peut-être que c’est disproportionné suivant les cas, mais par contre c’est parfaitement possible oui, il n’y a aucun problème. Dans ta boucle SPHINX tu mets bien les critères que tu veux… comme dans n’importe quelle autre boucle SPIP.

    Répondre à ce message

  • Le 5 juin 2016 à 14:10, par Phenix En réponse à : Indexer : Installation et Configuration

    SPIP semble essayer d’insérer des choses dans l’index de Sphinx, mais cela ne fonctionne pas :

    2016-06-05 14:06:24  (pid 8603) plugins/auto/indexer/v2.7.2/lib/Sphinx/SphinxQL/SphinxQL.php:L34:query()::Pub:info:
                            REPLACE INTO spip
                                    (id,  title, summary, content, date, date_indexation, uri, properties, signature)
                            VALUES
                    ('2768210780', 'Hiérarchie des rubriques', '', '', '', '1465128384', '', '{\"objet\":\"hierarchie\",\"id_objet\":\"rubriques\",\"source\":\"http:\\/\\/localhost\\/personnel\\/shop.be\",\"hierarchie\":{\"443874055a36fa172d22410a8bcc95c6\":{\"titre\":\"Informatiques\",\"rang\":\"1\",\"profondeur\":1,\"id_parent\":0,\"hash_parent\":\"\"},\"d8956e6b23f7ed02a9250a28b90e0a8f\":{\"titre\":\"Accessoires\",\"rang\":\"\",\"profondeur\":2,\"id_parent\":1,\"hash_parent\":\"443874055a36fa172d22410a8bcc95c6\"},\"8f3c0ccda0ae1020a4fedc4fd92b53c9\":{\"titre\":\"Composants\",\"rang\":\"\",\"profondeur\":2,\"id_parent\":1,\"hash_parent\":\"443874055a36fa172d22410a8bcc95c6\"},\"9456625a80b3df67b730e92e5832b615\":{\"titre\":\"Machines compl\\u00e8tes\",\"rang\":\"\",\"profondeur\":2,\"id_parent\":1,\"hash_parent\":\"443874055a36fa172d22410a8bcc95c6\"},\"32833aa4ec41927a0550f3f8526d9433\":{\"titre\":\"V\\u00e9hicule\",\"rang\":\"2\",\"profondeur\":1,\"id_parent\":0,\"hash_parent\":\"\"},\"cc0d2ca7c34109864c97deb1ae863d06\":{\"titre\":\"Immobilier\",\"rang\":\"3\",\"profondeur\":1,\"id_parent\":0,\"hash_parent\":\"\"},\"65355505a207567c28399500194e36ed\":{\"titre\":\"Int\\u00e9rieur\",\"rang\":\"4\",\"profondeur\":1,\"id_parent\":0,\"hash_parent\":\"\"},\"61a201510520fd56c8f80138bf3425b0\":{\"titre\":\"V\\u00eatements\",\"rang\":\"5\",\"profondeur\":1,\"id_parent\":0,\"hash_parent\":\"\"},\"1a3304e864c04534ce166ed59f096aaa\":{\"titre\":\"Divers\",\"rang\":\"6\",\"profondeur\":1,\"id_parent\":0,\"hash_parent\":\"\"}}}', '2b62cdd6a9f00b39c4c57df37e6daea8')
    2016-06-05 14:06:24  (pid 8603) plugins/auto/indexer/v2.7.2/lib/Indexer/Storage/Sphinx.php:L43:replaceDocuments()::Pub:info: Array
    (
       [0] => Array
           (
               [errno] => 1064
               [sqlstate] => 42000
               [error] => unknown column: 'date_indexation'
           )

    )

    Répondre à ce message

  • Le 1er juin 2016 à 19:43, par philooo En réponse à : Indexer : Installation et Configuration

    bon on a finalement reussi a mettre sphinx en place c’est super, mais maintenant on va essayer d’affiner les résultats.

    ma questions est la suivante : quel est le meilleur moyen de configurer sphinx pour renvoyer des resultats quand il n’y a pas de résultat pour la chaine de recherche entiere ?

    par exemple : bmw cabriolet bleu
    ca serait bien de montrer les : bmw cabriolet.

     :)

    le code est en place sur notre site : www.topspeed.in

    Phil

    • Le 1er juin 2016 à 21:01, par Fil En réponse à : Indexer : Installation et Configuration

      Pas évident, mais tu dois pouvoir le faire en exploitant le tableau META renvoyé par sphinx : pour chacun des mots de la requête il te dira quels mots ont combien d’occurrences, et tu pourras ensuite tenter diverses combinaisons.

    Répondre à ce message

  • Le 2 mars 2016 à 21:40, par goony En réponse à : Indexer : Installation et Configuration

    J’ai deux questions :

    -  Est-il possible de ne comparer la chaine de caractere de recherche qu’ avec les titres uniquement ?

    -  Est-il possible de mettre un critere pour ne selectionner que les documents qui ont un score minimum ? Car dans mes resultats j’ai des articles tres peu pertinents.

    Merci d’avance.

    • Le 2 mars 2016 à 22:15, par RastaPopoulos En réponse à : Indexer : Installation et Configuration

      Indexer : La boucle SPHINX plutôt donc (mais il manque plein de choses dans l’article).

      Je dirais de jouer avec les poids en ne mettant que le titre du coup (même 1 devrait suffire si on met pas les autres, à priori…)

      1. {option field_weights, "(title=10)"}

      À priori ya un « score » dans le select, donc tu dois pouvoir faire :

      1. {filtermono oui, score, 10, '>='}

      (le premier arg est un truc interprété en booléen, fixe ou le plus souvent dynamique, qui sert à dire si on applique le critère ou pas, puis ensuite la comparaison, l’opérateur est en dernier car la plupart du temps c’est = et donc il est facultatif)

    Répondre à ce message

  • Le 18 février 2016 à 08:47, par goony En réponse à : Indexer : Installation et Configuration

    Est-ce normal que dans

    /Sources/SpipSourcesIndexer.php

    a la ligne 105 on ait cette ligne :

    1. $sources->seek($infos['last']['source']);

    alors que la variable $infos n’est declaree ou utilisee nulle part ailleurs ?

    Répondre à ce message

Répondre à cet article

Qui êtes-vous ?
  • [Se connecter]

Pour afficher votre trombine avec votre message, enregistrez-la d’abord sur gravatar.com (gratuit et indolore) et n’oubliez pas d’indiquer votre adresse e-mail ici.

Ajoutez votre commentaire ici Les choses à faire avant de poser une question (Prolégomènes aux rapports de bugs. )
Ajouter un document

Retour en haut de la page

Ça discute par ici

  • Menu animé déroulant

    16 août 2015 – 60 commentaires

    Barre de menu dynamique multi niveaux - adaptation aisée (?) des couleurs et dimensions - convient aussi aux petits écrans (mobiles).

  • Réservations multiples

    4 juillet – commentaires

    Permettre aux utilisateurs d’effectuer de réservations multiples (réserver pour plusieurs personnes à la fois ou réserver un événement plusieurs fois) Dépendances Saisies Réservation d’événements Introduction Il y a deux manières de multiplier les (...)

  • PHANTOM (HTML5UP)

    18 juillet – 32 commentaires

    Squelette SPIP pour intégrer le modèle Phantom de HTML5UP. https://html5up.net/phantom Installation A l’activation, le plugin installe aussi les plugins suivants : crayons, favicon, metasplus+, Couleur d’objet, champs extras, SPIP reset centre (...)

  • SPIPer Ipsum, l’évangile au quotidien

    28 décembre 2009 – 89 commentaires

    Ce plugin permet d’afficher les différentes lectures de l’évangile du jour et le saint du jour selon le calendrier fixé par l’Eglise catholique. Ce service est proposé par le site de L’Evangile au Quotidien dans plusieurs langues. Description Le (...)

  • ciparam : plugin « Configurateur de squelettes »

    29 novembre 2010 – 15 commentaires

    Ce plugin offre un mécanisme de sélection de forme de rubrique ou d’article, un mécanisme de variantes de chartes graphiques, la possibilité de choisir l’ordre de tri des articles dans les rubriques, un mécanisme de paramétrage de la page d’accueil, (...)