Learning : apprentissage supervisé et non supervisé (supervised et unsupervised learning)

Il existe au moins deux grands domaines en analyse de données : la statistique classique et le machine learning (apprentissage automatique). La statistique classique a été dominée par les mathématiciens, tandis que les ingénieurs et les développeurs de logiciels ont joué un rôle important dans le machine learning. Les objectifs du machine learning et de la statistique classique sont pourtant les mêmes, à savoir :

1. Décrire les données
2. Expliquer les associations et les relations entre variables
3. Prédire une variable à partir de la valeur d'autres variables

Les stratégies pour décrire, expliquer et prédire diffèrent toutefois entre le machine learning et la statistique classique. Les méthodes (algorithmes) diffèrent donc, même s'il existe de nombreuses similitudes et que certaines méthodes et certains algorithmes se retrouvent dans les deux domaines. Il n'y a aucun intérêt à séparer la statistique classique du machine learning, et la plupart des analystes utilisent des méthodes issues des deux domaines. Comme le machine learning et la statistique classique se sont développés de façon relativement séparée, il existe des différences de terminologie, expliquées dans le tableau ci-dessous.

Aujourd'hui, le terme learning (apprentissage) désigne les calculs et les algorithmes qui explorent les données. La figure ci-dessous illustre comment l'apprentissage peut être classé. La distinction la plus importante est celle entre supervised learning (apprentissage supervisé) et unsupervised learning (apprentissage non supervisé). Le caractère supervisé ou non supervisé de l'apprentissage dépend de l'existence d'une variable de résultat ($Y$) qui guide l'apprentissage.

graph LR
    A[Learning] --> |Y existe| S(Supervised learning);
    S --> |Y est continue| R(Régression);
    S --> |Y est catégorielle| C(Classification);
    R --> RE(Régression linéaire<br/>Support Vector Machine<br/>Random forest<br/>Gradient boosting<br/>Réseaux de neurones);
    C --> CE(Régression logistique<br/>Random forest<br/>Gradient boosting<br/>Réseaux de neurones);

    A[Learning] --> |Y n'existe pas| U(Unsupervised learning);
    U --> |Découvrir des structures cachées| X(Analyse de clusters) --> KE(K-means clustering<br/>Classification hiérarchique);
    U --> |Étudier les associations| Y(Analyse d'association) --> AP(Analyse d'association);
    U --> |Réduire la complexité| Z(Réduction de dimension) --> DE(Analyse en composantes principales);

Supervised learning (SL)

Dans le supervised learning, il existe une variable de résultat ($Y$) qui guide les algorithmes, lesquels peuvent ensuite servir à prédire $Y$. Le supervised learning étudie la relation entre $Y$ et une ou plusieurs variables ($X$). L'objectif est de prédire la valeur de Y, étant donné les valeurs de variables associées ($X_1$, $X_2$, $X_3$, $X_n$). À l'aide d'un algorithme, nous pouvons calculer comment $X_1$, $X_2$, $X_3$, $X_n$, etc., sont liées à $Y$, et en outre construire un modèle de prédiction pour prédire $Y$, étant donné les valeurs de $X_1$, $X_2$, $X_3$, $X_n$.

Exemple 1 : une analyse dans laquelle le risque de développer un diabète (Y) est étudié en fonction de l'âge (X1), du sexe (X2) et de l'IMC (X3).

Exemple 2 : une analyse dans laquelle le revenu annuel (Y) est étudié en fonction de l'âge (X1), du niveau d'études (X2) et de la profession (X3).

*En statistique classique, le terme régression désigne des modèles qui prédisent aussi bien des Y continues que des Y catégorielles.

Exemples d'algorithmes en supervised learning : régression linéaire, régression logistique, régression de Cox, random forest, deep learning (apprentissage profond), gradient boosting, etc.

Le supervised learning peut se subdiviser en régression et en classification.

Classification

La classification consiste à prédire une variable de résultat catégorielle. Voici des exemples de telles variables :

• Décès (oui/non)
• Diabète (oui/non)
• Faillite (oui/non)
• Catégorie de poids (poids normal, surpoids, obésité)

Régression

Le terme régression prête quelque peu à confusion : la statistique classique comprend une longue série de modèles de régression qui peuvent servir à prédire des variables de résultat aussi bien continues que catégorielles. En machine learning, en revanche, le terme désigne les modèles qui prédisent des variables de résultat continues (valeurs numériques). En voici des exemples :

• Âge (années)
• Poids (kg)
• Revenu (€)
• Prix (€)

Unsupervised learning (UL)

L'unsupervised learning met en évidence des motifs dans les données, sans tenir compte d'une variable de résultat (Y). L'unsupervised learning signifie donc que l'algorithme identifie des structures dans les données. Il n'est pas nécessaire de recueillir des informations sur Y, ce qui conduit souvent à disposer d'une grande quantité de données à analyser.

Exemple 1 : imaginez une étude portant sur le mode de vie, les habitudes alimentaires, l'activité physique et les facteurs de risque cardiovasculaire de milliers de personnes. Avec l'unsupervised learning, on peut identifier des groupes ou clusters (angl. cluster) d'individus qui se ressemblent au regard de ces variables.

Les types d'unsupervised learning sont les suivants :

• Analyse de clusters (cluster analysis) : l'analyse de clusters permet de découvrir des motifs et des groupes cachés dans les données.
• Association : les analyses d'association à proprement parler consistent à étudier comment les variables sont liées entre elles.
• Réduction de dimension (dimensionality reduction) : la réduction de dimension fait appel à des algorithmes pour éliminer les informations superflues des données. Il peut s'agir, par exemple, de réduire le nombre de variables d'un jeu de données en identifiant les variables qui n'apportent rien. Il peut également s'agir de remplacer les variables du jeu de données par de nouvelles variables, moins nombreuses, dérivées de ces données.