Statistique et fouille de données : le rôle de l’expert face à l’automatisation

Comment articuler data mining et statistique ? Outre le fait que la statistique est plus ancienne, et précède la naissance de l’informatique, on peut caractériser le data mining sous plusieurs aspects :

  • ses origines ne sont pas universitaires (ce qui la distingue également de l’apprentissage automatique ou machine learning) ni mêmes d’intérêt public, comme l’est historiquement la statistique d’Etat ;
  • c’est une pratique qui apparaît dans les années 1990 avec l’informatisation des entreprises qui a pour conséquence la création d’entrepôts de données (datawarehouse) nécessaires à leur gestion désormais informatisée ; la fouille de données apparaît alors pour valoriser ces données et « trouver les pépites dans la mine de charbon » ;
  • ses motivations sont donc commerciales, avec des applications dans le domaine de la gestion de la relation client, de l’intelligence d’affaire, du diagnostic des défaillances dans l’industrie, etc. ;
  • l’objectif est la prise de décision en entreprise ;
  • plus qu’une discipline, c’est l’application de techniques qui constituent une étape dans le déroulement d’un processus plus large, l’extraction de connaissances à partir de données (knowledge discovery in databases) qui inclut également la mobilisation des connaissances du domaine, la préparation des données, leur interprétation ;
  • la fouille de données elle-même emprunte à plusieurs disciplines : les régressions ou les arbres de décision en statistiques, les réseaux de neurones ou les méthodes bayésiennes en intelligence artificielle, etc.

On peut considérer l’informatisation, et donc l’automatisation, comme la différence fondamentale entre la fouille de données et la statistique. Là où la statistique gagne grandement à s’appuyer sur la puissance de calcul des machines, la fouille de données n’existe tout simplement pas sans, puisque sans informatisation du fonctionnement des entreprises, il n’y a pas de données à analyser. Elle vise par ailleurs à être industrialisée, c’est-à-dire à prendre la forme d’un logiciel dont l’emploi pourra être rendu générique et automatique, au moins dans une large part. Néanmoins la fouille de données, comme toute technique de traitement d’information manipulée par l’homme, reste un instrument qui a besoin d’un opérateur et surtout d’un herméneute capable de tirer du sens des résultats du calcul. Toutefois, certains éditeurs de logiciel ne l’entendent pas de cette oreille :

« Les promoteurs de certains logiciels de fouille de données insistent fortement sur les possibilités d’automatisation des traitements : l’intervention d’un expert deviendrait inutile car le traitement peut être opéré par le commanditaire pilotant les analyses à l’aide d’une interface conviviale. Cette présentation irrite bien sûr tout statisticien qui a pu expérimenter, dans des situations concrètes, combien il est important de s’assurer de l’intégrité et de la cohérence des données avant de se lancer dans une méthodologie sophistiquée. Il s’inquiète également devant la complexité des méthodes mises en jeu dont toutes les options, choisies souvent par défaut, ainsi que leurs conditions d’application et limites, restent opaques à l’utilisateur non formé. Paradoxalement, l’utilisation d’une interface ergonomique rend trop facile ou trop rapide le lancement des analyses. Le temps nécessaire à la réflexion sur le choix des options ou le bien fondé des résultats obtenus peut s’en trouver singulièrement réduit au profit d’une apparente efficacité. »

Cette citation et les réflexions qui précèdent sont tirées ou inspirées de l’article suivant :

Besse Philippe, Gall Caroline Le, Raimbault Nathalie and Sarpy Sophie, 2001, “Data mining et statistique,” Journal de la société française de statistique, 2001, vol. 142, no. 1, p. 5–36.

Défiance envers la fouille de données (data mining) dans les années 60

« the term data mining has had negative connotations in statistics since the 1960s when computer-based data analysis techniques were first introduced. The concern arose because if one searches long enough in any data set (even randomly generated data), one can find patterns that appear to be statistically significant but, in fact, are not. Clearly, this issue is of fundamental importance to KDD [knowledge discovery in databases]. Substantial progress has been made in recent years in understanding such issues in statistics. Much of this work is of direct relevance to KDD. Thus, data mining is a legitimate activity as long as one understands how to do it correctly; data mining carried out poorly (without regard to the statistical aspects of the problem) is to be avoided. »

Extrait de : Fayyad Usama, Piatetsky-Shapiro Gregory & Smyth Padhraic, 1996, “From data mining to knowledge discovery in databases,” AI magazine, 1996, pp. 37–54.

On retrouve aujourd’hui la même défiance envers les big data, cette même idée que l’on trouvera toujours des corrélations sans signification à force de torturer la donnée ; on peut se départir de cette défiance en traçant une ligne de démarcation entre les usages légitimes et les usages illégitimes des techniques d’analyse de données.

L’usage légitime inscrit la fouille de données dans un processus qui inclut notamment la préparation des données, la mobilisation de connaissance préalables et une interprétation appropriée des résultats. C’est tout ce processus que l’on appelle extraction de connaissances (knowledge discovery) et qui intègre la phase de fouille de données. La fonction de cette phase est de faire apparaître, à travers un choix spécifique d’algorithmes, des formes statistiques (patterns) auxquelles il faut pouvoir donner du sens. L’extraction de connaissance est donc une démarche qui permet de produire des connaissances à travers les régularités statistiques que l’on aura pu identifier.