La Classification Ascendante Hiérarchique (CAH) permet de séparer des individus en groupes homogènes (les individus appartenant à une même classe ont des caractéristiques proches) et distincts les uns des autres (les groupes formés ne sont pas identiques). Cette méthode produit des partitions emboîtées d’hétérogénéité croissante. Plus simplement, la première partition produite est celle qui contient autant de classes que d’objets à classer. La dernière est celle qui comporte tous les objets à classer. Evidemment, la partition à choisir n’est ni la première, ni la dernière. En fonction de certains critères, le statisticien est capable de choisir le nombre qu’il lui faut !

• Quand utiliser une CAH ?

Dès que l’on dispose d’une notion de distance, et que l’on souhaite regrouper des individus semblables !

• Comment ?

Par des macros SAS développées par l’INSEE, ou grâce à SPAD et d’autres logiciels d’analyse de données (plus ou moins presse-boutons)… Le logiciel R, extrêmement performant et gratuit, en est aussi capable !

• Algorithme ?

Point de départ : aucune observation regroupée

1.       Pour chaque unité, on calcule les distances qui les séparent.

2.       On regroupe les 2 individus les plus proches en terme de distance. Les individus rassemblés forment une seule et même unité (classe).

Point final : quand toutes les observations de départ sont dans la même classe.

• Le nombre de classes ?

Il faut regarder le dendrogramme ! Celui ci est issu du best seller de Tufféry (http://data.mining.free.fr/)

La hauteur de deux branches jointes représente la perte d’inertie interclasse (entre les classes). Il faut alors « couper les branches avant qu’elles ne soient trop longues » comme dirait Michel Volle ! En réalité il faut que la perte d’inertie interclasse soit la plus faible possible, il faut donc couper où la hauteur des branches est élevée.

On remarque que selon la hauteur de la coupe on n’obtient pas le même nombre de classes, mais il faut garder en tête l’optimisation des critères de qualité statistique (inertie interclasse).

• Interprétation ?

Une fois, votre arbre coupé, vous disposez du nombre de classes. Tous les logiciels, vous donneront quelques élèments d’interprétation par classe. Pour chaque classe, il est intéressant d’observer :

1. Inertie intra (indicateur d’homogénéité de la classe)

2. Distance au centre de gravité (indicateur d’excentricité de la classe): tous les chiffres sont en millièmes, exceptés l’effectif absolu et le RHO2

Les variables les plus caractéristiques sont généralement les variables actives de l’ACP réalisée auparavant*, en particulier celles qui étaient les plus contributives aux axes de l’ACP.

• Caractérisation des classes par les variables ?

Le but est d’identifier les variables pour lesquelles chaque classe se distingue le plus de la moyenne. Ainsi, pour chaque classe, on compare les valeurs moyennes prises par les variables continues dans la classe avec leur moyenne dans l’échantillon total. Une fois écartée les statistiques non significatives (probabilité supérieure au seuil que l’on s’est fixé, souvent 5%), une valeur-test positive signifie que la moyenne dans la classe est supérieure à la moyenne générale et reciproquement.

• Introduction

L’Analyse en Composantes Principales appelée plus communément ACP constitue l’une des plus anciennes méthodes factorielles dont le principe remonte à Hotelling (1933). Cette technique permet d’analyser des tableaux de type individus-variables lorsque ces dernières sont quantitatives. La méthode la plus fréquemment utilisée est l’ACP sur données centrées réduites ou ACP normée. 

Le nuage individus-variables formé par les données contient toute l’information, mais celle-ci n’est pas interprétable à l’oeil nu. En effet il est impossible pour l’esprit humain de se représenter un espace à plus de 3 dimensions. Alors que faire quand on dispose de n individus ayant chacun des valeurs sur plus de trois variables? On souhaite alors projeter le nuage sur un nombre restreint d’axes! Mais on “écrase” ce nuage et on perd donc de l’information! Mais quelle horreur, pauvre nuage?! Heureusement des petits malins et surtout de grands scientifiques ont eu l’idée géniale de développer des méthodes d’analyse multidimensionnelle… Le critère retenu pour l’ACP est la maximisation de l’inertie. Celle-ci est définie comme la somme des distances à l’origine pour tous les individus, pondérée par leur masse. Il s’agit en fait de la forme globale du nuage (taille, étendue…). Ainsi on peut conserver toute l’information utile même en ”écrasant” le nuage, c’est à dire, en garantissant une perte minimale de l’information…

Il s’agit de construire un nouveau repère avec de nouveaux axes, qui seront des combinaisons linéaires des variables de départ. Techniquement pour les plus mathématiciens, pour le premier axe, on souhaite maximiser l’inertie du nuage projeté (nécessairement inférieure à l’inertie totale), c’est à dire déformer le moins possible le nuage des données. Le deuxième axe sera tel que l’inertie projetée sera maximale (mais inférieure à celle sur le premier axe) et cet axe sera orthogonal au premier. La méthode utilisée est celle des multiplicateurs de Lagrange (maximisation sous contrainte).

En résumé technique très rapide, une ACP est une diagonalisation d’une matrice définie positive puis un classement par ordre décroissant des valeurs propres, les vecteurs propres associés déterminant les axes du nouveau repère. Ouf! On ne le fait pas à la main… Il existe des macros sous Excel (Tanagra) et SAS (développées par l’INSEE!!!)

• Nombre d’axes à interpréter           

On peut utiliser plusieurs critères. Le permier consiste à repérer un coude sur l’histogramme des valeurs-propres. Le deuxième est de calculer les différences secondes entre les valeurs propres et de choisir le nombre d’axe qui correspond à un changement de signe de cette différence. Enfin certains préféreront peut-être la comparaison à l’inertie moyenne, qui correspond en gros à choisir les axes qui ont une valeur propre supérieure à 1 (inertie moyenne que l’on obtiendrait si tous les axes portaient la même quantité d’inertie), ou encore se fixer un seuil en terme d’inertie cumulée. En réalité il faut interpréter les axes jusqu’à ce qu’ils ne soient plus interprétables…

•  Interprétation

Pour chaque individu et variable, on dispose de la nouvelle coordonnée dans le nouvel espace et de sa masse. Deux éléments sont essentiels dans l’interprétation d’un axe factoriel : la contribution et la qualité de représentation.

1. la contribution indique la participation d’un élément à la formation de l’axe, à son orientation.
2. la qualité de représentation, indicateur de la distance entre le point d’origine, dans l’espace des variables et sa projection sur le nouvel axe.

Résultats pour les variables

=> Les coordonnées les plus fortes correspondent aux variables les plus contributives et les mieux représentées.

Il faut sélectionner les variables les plus contributives en se fixant comme limite la contribution moyenne (si toutes les variables contribuaient de la même façon à la formation de l’axe : 1/”nombre de variables actives”). 

Résultats pour les individus

Dans le nuage des individus, la coordonnée n’implique pas automatiquement la contribution (la masse éventuellement inégale des individus intervient), ni la qualité qui fait intervenir la norme des individus.

- on peut donc trouver des individus contributifs mal représentés. Ces individus contribueront certainement à un autre axe (ils étaient assez éloignés de cet axe, tout en ayant une influence sur son orientation, du fait de leur forte particularité)

- peu contributifs mais bien représentés, ceci signifie qu’ils sont bien illustrés par l’axe, sans avoir réellement participé à son orientation

- fortement contributifs et bien représentés sur un axe, ils ne participeront vraisemblablement pas à la formation des autres axes.

=> Les individus qui se projettent d’un même côté de l’axe auront des caractéristiques proches du point de vue des variables les plus contributives à cet axe.