from sklearn.datasets import load_iris
# Load the Iris dataset
= load_iris() iris
Introduction à l’apprentissage automatique
CSI 4506 - Automne 2025
Préambule
Citation du jour
The 100 Most Influential People in AI 2024, TIME, 5 septembre, 2024
TIME a récemment publié sa liste des 100 personnes les plus influentes en IA pour 2024.
Citation du jour (suite)
Encore une fois cette année, Yoshua Bengio de l’Université de Montréal figure sur la liste. Bengio, avec Geoffrey Hinton et Yann LeCun, a reçu le prix Turing de l’ACM en 2018 pour leurs contributions pionnières dans le domaine. Le trio est souvent appelé les “Pères de l’apprentissage profond”. Geoffrey Hinton est professeur à l’Université de Toronto.
J’ai mentionné François Chollet lors du premier cours. En plus de créer Keras, un framework d’apprentissage profond largement utilisé, François est le co-initiateur du défi ARC d’un million de dollars, qui vise à mesurer l’acquisition de compétences. Plus d’informations sur ARC peuvent être trouvées ici : ARC.
;document.getElementById("tweet-41962").innerHTML = tweet["html"];Enfin, certains d’entre vous sont inscrits à ce cours pour remettre en question la logique derrière la construction des systèmes d’IA. Vous cherchez à comprendre plus profondément la technologie afin de former une opinion éclairée. Certains d’entre vous sont préoccupés par les impacts sociétaux et écologiques de l’IA. Sasha Luccioni est la Responsable Climat et IA chez Hugging Face. Elle réside à Montréal avec sa famille.
Citation du jour (suite)
Ilya Sutskever et Andrej Karpathy, que j’ai mentionnés lors du premier cours, sont des cofondateurs notables d’OpenAI. Ilya Sutskever a terminé ses études de premier cycle, de maîtrise et de doctorat à l’Université de Toronto, où il a été supervisé par Geoffrey Hinton. Hinton décrit Ilya comme un visionnaire.
Andrej Karpathy a obtenu son diplôme de premier cycle à l’Université de Toronto, une maîtrise à l’Université de la Colombie-Britannique et un doctorat à Stanford sous la supervision de Fei-Fei Li. Il a occupé le poste de directeur principal de l’IA chez Tesla et est renommé pour ses contributions significatives à l’éducation en IA. Vous en apprendrez plus sur Andrej Karpathy plus tard dans le cours.
Dans l’évolution de l’intelligence, l’apprentissage a été l’un des premiers jalons à émerger. C’est aussi l’un des mécanismes les plus compris dans l’intelligence naturelle.
Fondamentaux de l’apprentissage automatique
Dans ce cours, nous introduirons des concepts essentiels pour comprendre l’apprentissage automatique, y compris les types de problèmes (tâches).
Objectif général :
- Décrire les concepts fondamentaux de l’apprentissage automatique
Objectifs d’apprentissage
- Résumer les différents types et tâches en apprentissage automatique
- Discuter la nécessité des jeux de données d’entraînement et de test
Lectures
- Russell et Norvig (2020), Chapitre 19 : Apprentissage à partir d’exemples.
Introduction
Justification
Pourquoi un programme informatique devrait-il apprendre ?
Attribution: Gemini 1.5 Flash, 14 août, 2024, avec l’invite: “In the style of a children’s book, create the image of a cute robot holding a red flower.”
- Adaptabilité et amélioration continue :
Adaptabilité aux environnements dynamiques : Les programmes qui apprennent peuvent s’adapter aux conditions changeantes, assurant ainsi un fonctionnement efficace dans des environnements dynamiques.
- Exemple : Les voitures autonomes s’ajustant aux changements de trafic et de météo.
Amélioration continue : L’apprentissage permet aux systèmes de rester à jour avec les dernières données et tendances sans intervention humaine.
- Exemple : Les filtres anti-spam évoluant pour contrer les nouvelles techniques de spam.
- Performance et efficacité améliorées :
Performance améliorée : L’apprentissage permet aux programmes d’améliorer leurs performances en se basant sur des expériences passées ou des données.
- Exemple : Les systèmes de recommandation affinant leurs suggestions avec plus de données utilisateurs.
Rentabilité : L’automatisation du processus d’apprentissage réduit le besoin de mises à jour manuelles, entraînant des économies.
- Exemple : Les systèmes de maintenance prédictive minimisant les inspections manuelles.
- Résolution de problèmes complexes et découverte de motifs cachés :
Gestion des problèmes complexes : Les algorithmes d’apprentissage abordent des problèmes trop complexes pour les systèmes statiques basés sur des règles.
- Exemple : La reconnaissance d’images distinguant différents objets.
Découverte de motifs cachés : Les modèles d’apprentissage peuvent découvrir des relations cachées dans les données qui ne sont pas évidentes pour les analystes humains.
- Exemple : L’identification de relations génomiques complexes en bioinformatique.
- Personnalisation et évolutivité :
Personnalisation : L’apprentissage permet aux programmes de fournir des résultats adaptés aux utilisateurs individuels, améliorant ainsi l’expérience utilisateur.
- Exemple : Les assistants virtuels apprenant les préférences des utilisateurs.
Évolutivité : Les algorithmes d’apprentissage gèrent et analysent efficacement de grands ensembles de données, améliorant leur utilité.
- Exemple : Les moteurs de recherche optimisant la pertinence des résultats grâce au machine learning.
- Innovation et recherche :
Favoriser l’innovation : Les algorithmes d’apprentissage peuvent simuler de nouvelles idées, conduisant à des avancées et découvertes.
- Exemple : Les modèles d’apprentissage profond prédisant l’efficacité des médicaments en recherche pharmaceutique.
Définition
Tom M Mitchell. Machine Learning. McGraw-Hill, New York, 1997. (PDF)
Bien que ce livre ait été publié en 1997, il a exercé une influence considérable et reste pertinent. Contrairement à de nombreux autres livres sur l’apprentissage automatique, il est particulièrement captivant.
Cette définition particulière de l’apprentissage est souvent réutilisée.
Concepts
Types de problèmes
Il existe trois (3) types distincts de rétroaction :
- Apprentissage non supervisé : Aucune rétroaction n’est fournie à l’algorithme.
- Apprentissage supervisé : Chaque exemple est accompagné d’une étiquette.
- Apprentissage par renforcement : L’algorithme reçoit une récompense ou une punition après chaque action.
. . .
L’apprentissage supervisé est le type d’apprentissage le plus étudié et sans doute le plus intuitif. C’est généralement le premier type d’apprentissage introduit dans les contextes éducatifs.
Deux phases
- Apprentissage (construction d’un modèle)
- Inférence (utilisation du modèle)
Apprentissage (construction)
Inférence (utilisation du modèle)
Carp-e Diem! (exemple)
1. Problème : Vont-ils mordre aujourd’hui ?
Objectif : Développer un modèle prédictif pour évaluer la probabilité de succès d’une journée de pêche, classée en trois catégories : ‘Médiocre’, ‘Moyenne’ ou ‘Excellente’.
Attribution: Gemini 1.5 Flash, 10 septembre, 2024, avec l’invite: “In the style of a children’s book, generate the image of a fish with a farmer’s hat.”
L’apprentissage supervisé consiste à entraîner un modèle sur des données étiquetées afin qu’il puisse faire des prédictions sur de nouvelles données non vues.
La tâche spécifique est la classification.
“Médiocre”, “Moyenne” et “Excellente” sont des classes (pour la variable cible).
2. Attributs (caractéristiques)
Différentes sources, y compris The Old Farmer’s Almanac, suggèrent que la phase de la lune est un prédicteur fiable du succès de la pêche.
- Phase de la lune (catégorielle) : ‘Nouvelle lune’, ‘Premier quartier’, ‘Pleine lune’ et ‘Dernier quartier’.
- Prévisions météorologiques (catégorielles) : ‘Pluvieux’, ‘Nuageux’ et ‘Ensoleillé’.
- Température extérieure (numérique) : La température en Celsius.
- Température de l’eau (numérique) : La température de l’eau du lac ou de la rivière.
Évidemment, les applications réelles auront beaucoup plus d’attributs.
3. Données d’entraînement
Exemple | Phase de la lune | Prévisions météorologiques | Température extérieure (°C) | Température de l’eau (°C) | Probabilité d’une journée de pêche |
---|---|---|---|---|---|
1 | Pleine lune | Ensoleillé | 25 | 22 | Excellente |
2 | Nouvelle lune | Nuageux | 18 | 19 | Moyenne |
3 | Premier quartier | Pluvieux | 15 | 17 | Médiocre |
4 | Dernier quartier | Ensoleillé | 30 | 24 | Excellente |
5 | Pleine lune | Nuageux | 20 | 20 | Moyenne |
6 | Nouvelle lune | Pluvieux | 22 | 21 | Médiocre |
Ceci est identifié comme un problème d’apprentissage supervisé car la valeur de la variable cible est connue pour chaque instance d’entraînement. De plus, comme les valeurs de la variable cible sont catégorielles, ce problème est classé comme une tâche de classification.
Dans ce contexte, l’ensemble d’entraînement se compose de 6 exemples. Il est important de noter que les ensembles de données réels contiennent généralement un nombre beaucoup plus grand d’exemples pour garantir un entraînement et une validation robustes du modèle.
Le choix des attributs et la qualité des données sont essentiels pour la performance du modèle. Un attribut tel que la couleur de vos chaussettes n’a probablement pas un grand impact sur les prédictions.
Par conséquent, un projet d’apprentissage automatique commence généralement par une phase exploratoire, qui consiste à analyser les données, examiner les distributions et identifier les corrélations.
3. Données d’entraînement (suite)
Phase de la lune | Prévisions météorologiques | Température extérieure (°C) | Température de l’eau (°C) |
---|---|---|---|
Pleine lune | Ensoleillé | 25 | 22 |
Nouvelle lune | Nuageux | 18 | 19 |
Premier quartier | Pluvieux | 15 | 17 |
Dernier quartier | Ensoleillé | 30 | 24 |
Pleine lune | Nuageux | 20 | 20 |
Nouvelle lune | Pluvieux | 22 | 21 |
Probabilité d’une journée de pêche |
---|
Excellente |
Moyenne |
Médiocre |
Excellente |
Moyenne |
Médiocre |
- Représentation des données :
- Les données sont souvent présentées sous forme tabulaire (matrice), où chaque ligne représente un vecteur de caractéristiques (feature vector), généralement noté \(x_i\), correspondant au \(i\)-ème exemple dans l’ensemble d’entraînement.
- Représentation des étiquettes :
- Les étiquettes sont généralement représentées comme un vecteur colonne, avec \(y_i\) désignant l’étiquette pour le \(i\)-ème exemple.
4. Entraînement du modèle
L’entraînement du modèle consiste à utiliser des données étiquetées pour enseigner à un algorithme d’apprentissage automatique comment faire des prédictions. Ce processus ajuste les paramètres du modèle pour minimiser l’erreur entre les résultats prévus et les résultats réels.
4. Entraînement du modèle (suite)
- Journée de pêche excellente :
- Phase de la lune : Pleine lune ou Nouvelle lune
- Prévisions météorologiques : Ensoleillé
- Température extérieure : 20°C à 30°C
- Température de l’eau : 20°C à 25°C
\(\ldots\)
- Journée de pêche médiocre :
- Phase de la lune : Premier quartier ou Dernier quartier
- Prévisions météorologiques : Pluvieux
- Température extérieure : < 20°C ou > 30°C
- Température de l’eau : < 20°C ou > 25°C
5. Prédiction
Étant donné de nouvelles données non vues, prédisez si la journée sera réussie.
. . .
- Phase de la lune : Nouvelle lune
- Prévisions météorologiques : Ensoleillé
- Température extérieure : 24°C
- Température de l’eau : 21°C
Cycle de vie
- Collecte et préparation des données
- Ingénierie des attributs
- Entraînement
- Évaluation du modèle
- Déploiement du modèle
- Surveillance et maintenance
- La collecte des données et leur préparation sont des processus critiques et laborieux.
- Il doit y avoir une quantité suffisante de données.
- Les données doivent être de haute qualité ; par exemple, elles ne doivent pas être excessivement bruyantes.
- Il doit y avoir peu de valeurs manquantes.
- Plus important encore, les données doivent être représentatives. Nous nous attendons à ce que les nouvelles données soient générées par le même processus et aient la même distribution.
- L’importance de cela ne peut être surestimée.
- Pensez à un logiciel de classification d’images qui n’a pas été entraîné sur un échantillon diversifié en termes d’ethnicité, de genre, de taille corporelle ou de statut social.
- Pensez aux applications médicales et aux conséquences de jeux de données qui ne sont pas suffisamment diversifiés.
- L’ingénierie des caractéristiques est le processus de sélection, de transformation et de création de variables d’entrée (caractéristiques) pour améliorer la performance d’un modèle d’apprentissage automatique. Cela implique des techniques telles que la mise à l’échelle, le codage des variables catégorielles et la génération de nouvelles caractéristiques à partir de celles existantes pour améliorer la capacité du modèle à apprendre des schémas et à faire des prédictions précises.
- L’ingénierie des caractéristiques était autrefois une étape laborieuse. L’un des principaux avantages de l’apprentissage profond est qu’il peut apprendre automatiquement des caractéristiques.
- L’évaluation du modèle est le processus d’évaluation des performances d’un modèle d’apprentissage automatique en utilisant des métriques spécifiques, telles que l’exactitude, la précision, le rappel, le F1-score ou l’AUC-ROC. Cela implique généralement de tester le modèle sur un ensemble de validation ou de test séparé pour s’assurer qu’il se généralise bien aux données non vues et qu’il répond aux critères souhaités d’exactitude et de fiabilité.
- Le déploiement du modèle : Une application est construite en utilisant le modèle. Il est important de noter que la plupart du temps, les paramètres du système sont figés lors du déploiement. Premièrement, l’entraînement est coûteux et un nouvel entraînement est souvent inabordable. De plus, un nouvel entraînement peut entraîner une perte d’informations précédemment apprises, ce qui dégrade les performances sur les exemples déjà vus.
- La surveillance et la maintenance : Les performances du modèle doivent être continuellement surveillées. On observe souvent une dérive conceptuelle, nécessitant la réentraînement du système. La détection de spam est un bon exemple. Une fois le système déployé, les spammeurs s’adaptent et trouvent des moyens de contourner les mécanismes de détection de spam mis en place.
Définitions formelles
Apprentissage supervisé (notation)
L’ensemble de données (“expérience”) est une collection d’exemples étiquetés.
- \(\{(x_i, y_i)\}_{i=1}^N\)
- Chaque \(x_i\) est un vecteur de caractéristiques (attributs) avec \(D\) dimensions.
- \(x^{(j)}_i\) est la valeur de la caractéristique \(j\) de l’exemple \(i\), pour \(j \in 1 \ldots D\) et \(i \in 1 \ldots N\).
- L’étiquette \(y_i\) est soit une classe, prise d’une liste finie de classes, \(\{1, 2, \ldots, C\}\), soit un nombre réel, soit un objet complexe (arbre, graphe, etc.).
. . .
Problème : Étant donné l’ensemble de données en entrée, créer un modèle qui peut être utilisé pour prédire la valeur de \(y\) pour un \(x\) non vu.
Apprentissage supervisé (suite)
Lorsque l’étiquette \(y_i\) est une classe, prise d’une liste finie de classes, \(\{1, 2, \ldots, C\}\), nous appelons la tâche une tâche de classification.
Lorsque l’étiquette \(y_i\) est un nombre réel, nous appelons la tâche une tâche de régression.
Pouvez-vous penser à des exemples de tâches de régression ?
Voici plusieurs tâches de régression avec leurs applications dans le monde réel :
- Prévision du prix des maisons :
- Application : Estimer la valeur marchande des propriétés résidentielles en fonction de caractéristiques telles que la localisation, la taille, le nombre de chambres, l’âge et les commodités.
- Prévision du marché boursier :
- Application : Prédire les prix futurs des actions ou des indices en fonction des données historiques, des indicateurs financiers et des variables économiques.
- Prévision météorologique :
- Application : Estimer les températures futures, les précipitations et d’autres conditions météorologiques à l’aide de données météorologiques historiques et de variables atmosphériques.
- Prévision des ventes :
- Application : Prédire les volumes de ventes futurs de produits ou de services en analysant les données de ventes passées, les tendances du marché et les modèles saisonniers.
- Prévision de la consommation d’énergie :
- Application : Prévoir la consommation d’énergie future des ménages, des industries ou des villes en fonction des données historiques de consommation, des conditions météorologiques et des facteurs économiques.
- Estimation des coûts médicaux :
- Application : Prédire les coûts des soins de santé pour les patients en fonction de leur historique médical, de leurs informations démographiques et de leurs plans de traitement.
- Prévision du trafic routier :
- Application : Estimer les volumes de trafic futurs et les niveaux de congestion sur les routes et les autoroutes en utilisant des données historiques de trafic et des entrées de capteurs en temps réel.
- Estimation de la valeur à vie du client (CLV) :
- Application : Prédire le revenu total qu’une entreprise peut attendre d’un client sur la durée de leur relation, en fonction des comportements d’achat et des données démographiques.
- Prévision des indicateurs économiques :
- Application : Prédire les principaux indicateurs économiques tels que la croissance du PIB, les taux de chômage et l’inflation en utilisant des données économiques historiques et des tendances du marché.
- Prévision de la demande :
- Application : Estimer la demande future de produits ou de services dans diverses industries comme le commerce de détail, la fabrication et la logistique pour optimiser la gestion des stocks et de la chaîne d’approvisionnement.
- Évaluation immobilière :
- Application : Évaluer la valeur de marché des propriétés commerciales telles que les immeubles de bureaux, les centres commerciaux et les espaces industriels en fonction de la localisation, de la taille et des conditions du marché.
- Évaluation des risques d’assurance :
- Application : Prédire le risque associé à l’assurance des individus ou des propriétés, ce qui aide à déterminer les taux de prime, en se basant sur les données historiques des réclamations et les facteurs démographiques.
- Prédiction du taux de clics (CTR) des annonces :
- Application : Estimer la probabilité qu’un utilisateur clique sur une annonce en ligne en fonction du comportement de l’utilisateur, des caractéristiques de l’annonce et des facteurs contextuels.
- Prédiction du défaut de paiement de prêt :
- Application : Prédire la probabilité qu’un emprunteur fasse défaut sur un prêt en fonction de son historique de crédit, de ses revenus, du montant du prêt et d’autres indicateurs financiers.
Voici quelques applications de tâches de régression que l’on trouve généralement dans les applications mobiles :
- Prédiction de l’autonomie de la batterie :
- Application : Estimer l’autonomie restante de la batterie en fonction des habitudes d’utilisation, des applications en cours d’exécution et des paramètres de l’appareil.
- Suivi de la santé et de la forme physique :
- Application : Prédire la consommation de calories, la fréquence cardiaque ou la qualité du sommeil en fonction de l’activité de l’utilisateur, des biométries et des données de santé historiques.
- Gestion des finances personnelles :
- Application : Prévoir les dépenses ou les économies futures en fonction des habitudes de dépenses, des modèles de revenus et des objectifs budgétaires.
- Prévision météorologique :
- Application : Fournir des prévisions météorologiques personnalisées en fonction de la localisation actuelle et des données météorologiques historiques.
- Estimation du temps de trajet et de la circulation :
- Application : Prédire les temps de trajet et suggérer des itinéraires optimaux en fonction des données historiques de trafic, des conditions en temps réel et du comportement de l’utilisateur.
- Amélioration de la qualité des images et des vidéos :
- Application : Ajuster les paramètres de qualité des images ou des vidéos (par exemple, la luminosité, le contraste) en fonction des conditions d’éclairage et des préférences de l’utilisateur.
- Atteinte des objectifs de remise en forme :
- Application : Estimer le temps nécessaire pour atteindre des objectifs de remise en forme tels que la perte de poids ou le gain musculaire en fonction de l’activité de l’utilisateur et des apports alimentaires.
- Optimisation des performances de l’appareil mobile :
- Application : Prédire les paramètres optimaux pour les performances de l’appareil et l’autonomie de la batterie en fonction des habitudes d’utilisation et de l’activité des applications.
Ces applications exploitent les tâches de régression pour fournir des services personnalisés, efficaces et contextuels qui améliorent l’expérience utilisateur sur les appareils mobiles.
Exemple avec du code
Scikit-learn
Nous utiliserons Scikit-learn
pour notre prochain exemple, mais également au cours des semaines à venir.
Scikit-learn
Attribution: Choosing the right estimator
Exemple: iris data set
Attribution: Diego Mariano, CC BY-SA 4.0, via Wikimedia Commons. Voir ici pour des informations sur cet ensemble de données.
Exemple: charger les données
Lorsque vous utilisez votre propre ensemble de données, vous devrez télécharger les fichiers comme nous l’avons fait dans le cahier Jupyter sur la température de la rivière des Outaouais.
Exemple: Utilisant un arbre de décision
from sklearn import tree
= tree.DecisionTreeClassifier() clf
Il existe des dizaines de classificateurs, y compris ceux-ci : arbres de décision, machines à vecteurs de support, k-plus proches voisins, régression logistique, et réseaux de neurones.
Dans un DecisionTreeClassifier
, chaque nœud interne de l’arbre représente une décision basée sur un attribut, chaque branche représente le résultat de cette décision, et chaque nœud terminal représente une étiquette de classe. L’arbre de décision fait des prédictions en parcourant de la racine à un nœud terminal, en suivant les règles de décision définies à chaque nœud. Les arbres de décision sont intuitifs et faciles à interpréter mais peuvent être sujets au surapprentissage s’ils ne sont pas correctement régulés.
Exemple: Entraînement
# It is customary to use X and y for the data and labels
= iris.data, iris.target
X, y
# Training
= clf.fit(X, y) clf
Tous les classificateurs héritent de sklearn.base.BaseEstimator
et sklearn.base.ClassifierMixin
. Par conséquent, tous les classificateurs implémentent fit
, predict
, et score
.
Exemple: Visualiser l’arbre (1/2)
import matplotlib.pyplot as plt
tree.plot_tree(clf) plt.show()
Exemple: Visualiser l’arbre (2/2)
tree.plot_tree(clf, =iris.feature_names,
feature_names=iris.target_names,
class_names='none',
label=True)
filled plt.show()
Dans un DecisionTreeClassifier
, chaque nœud interne de l’arbre représente une décision basée sur un attribut, chaque branche représente le résultat de cette décision, et chaque nœud feuille représente une étiquette de classe. L’arbre de décision fait des prédictions en parcourant de la racine à un nœud feuille, suivant les règles de décision définies à chaque nœud. Les arbres de décision sont intuitifs et faciles à interpréter, mais peuvent être sujets au surapprentissage s’ils ne sont pas correctement régulés.
Pour construire un arbre de décision, la méthode fit
suit les étapes suivantes :
Sélectionner le Meilleur Attribut : Choisir l’attribut qui divise le mieux les données en fonction d’un critère comme l’entropie, l’Indice de Gini (par défaut), ou la Log Loss.
Créer un Nœud : Faire de cet attribut le nœud racine de l’arbre, et créer des branches pour chaque valeur possible de l’attribut.
Diviser le Jeu de Données : Diviser le jeu de données en sous-ensembles, un pour chaque branche, en fonction des valeurs de l’attribut.
Répéter Récursivement : Pour chaque sous-ensemble, répéter les étapes 1 à 3 en utilisant uniquement les données de ce sous-ensemble et en excluant l’attribut utilisé au nœud parent.
Conditions d’Arrêt : Arrêter la récursion lorsque l’une des conditions suivantes est remplie :
- Toutes les instances dans un sous-ensemble appartiennent à la même classe.
- Il n’y a plus d’attributs disponibles pour diviser.
- Une limite de profondeur prédéfinie ou un nombre minimum d’instances par nœud est atteint.
- Attribuer des Étiquettes : Pour chaque nœud feuille, attribuer une étiquette de classe basée sur la classe majoritaire des instances dans ce sous-ensemble.
Ce processus aboutit à un arbre où chaque chemin de la racine à une feuille représente une règle de classification.
Dans la figure ci-dessus, les nœuds de décision contiennent les informations suivantes :
- La règle de décision, par exemple
largeur des pétales (cm) <= 0.8
- Le score Gini.
- Le nombre d’exemples dans le sous-ensemble correspondant à ce nœud de l’arbre.
- Le nombre d’exemples pour chacune des classes, dans le sous-ensemble correspondant à ce nœud de l’arbre.
- Une prédiction.
Les arbres de décision sont construits en ajoutant progressivement des nœuds de décision, guidés par des exemples d’entraînement étiquetés pour déterminer les divisions optimales. Une règle de décision efficace segmente idéalement les exemples d’entraînement parfaitement dans leurs classes respectives. Par exemple, la règle largeur des pétales (cm) <= 0.8
illustre ce principe : lorsque la règle est vraie (enfant gauche), toutes les instances sont classées comme Setosa. Inversement, lorsque la règle n’est pas vraie (enfant droit), le sous-ensemble contient uniquement Versicolor et Virginica, sans aucune instance de Setosa. En essence, une bonne règle de décision est celle qui réduit significativement l’entropie.
Voir :
Exemple: Prédiction
# Creatingg 2 test examples
# 'sepal length (cm)', 'sepal width (cm)', 'petal length (cm)', 'petal width (cm)'
= [[5.1, 3.5, 1.4, 0.2],[6.7, 3.0, 5.2, 2.3]]
X_test
# Prediction
= clf.predict(X_test)
y_test
# Printing the predicted labels for our two examples
print(iris.target_names[y_test])
['setosa' 'virginica']
Exemple: Complet
= load_iris()
iris = tree.DecisionTreeClassifier()
clf = iris.data, iris.target
X, y = clf.fit(X, y)
clf
tree.plot_tree(clf)= [[5.1, 3.5, 1.4, 0.2],[6.7, 3.0, 5.2, 2.3]]
X_test = clf.predict(X_test)
y_test print(iris.target_names[y_test])
['setosa' 'virginica']
Exemple: Performance
from sklearn.metrics import classification_report, accuracy_score
# Make predictions
= clf.predict(X)
y_pred
# Evaluate the model
= accuracy_score(y, y_pred)
accuracy = classification_report(y, y_pred, target_names=iris.target_names)
report
print(f'Accuracy: {accuracy:.2f}')
print('Classification Report:')
print(report)
Accuracy: 1.00
Classification Report:
precision recall f1-score support
setosa 1.00 1.00 1.00 50
versicolor 1.00 1.00 1.00 50
virginica 1.00 1.00 1.00 50
accuracy 1.00 150
macro avg 1.00 1.00 1.00 150
weighted avg 1.00 1.00 1.00 150
The performance of this classifier appears to be perfect at first glance. However, is it really?
Exemple: Discussion
Nous avons vu un exemple complet :
- Chargement des données
- Sélection d’un classificateur
- Entraînement du modèle
- Visualisation du modèle
- Réalisation d’une prédiction
Cependant, plusieurs simplifications ont été faites au cours de ce processus.
Exemple: Prise 2
from sklearn.metrics import classification_report, accuracy_score
# Make predictions
= clf.predict(X)
y_pred
# Evaluate the model
= accuracy_score(y, y_pred)
accuracy = classification_report(y, y_pred, target_names=iris.target_names)
report
print(f'Accuracy: {accuracy:.2f}')
print('Classification Report:')
print(report)
Cet exemple est trompeur, voire même fautif!
The performance of this classifier appears to be perfect at first glance. However, is it really?
Exemple: Exploration
print(f'Dataset Description:\n{iris["DESCR"]}\n')
Dataset Description:
.. _iris_dataset:
Iris plants dataset
--------------------
**Data Set Characteristics:**
:Number of Instances: 150 (50 in each of three classes)
:Number of Attributes: 4 numeric, predictive attributes and the class
:Attribute Information:
- sepal length in cm
- sepal width in cm
- petal length in cm
- petal width in cm
- class:
- Iris-Setosa
- Iris-Versicolour
- Iris-Virginica
:Summary Statistics:
============== ==== ==== ======= ===== ====================
Min Max Mean SD Class Correlation
============== ==== ==== ======= ===== ====================
sepal length: 4.3 7.9 5.84 0.83 0.7826
sepal width: 2.0 4.4 3.05 0.43 -0.4194
petal length: 1.0 6.9 3.76 1.76 0.9490 (high!)
petal width: 0.1 2.5 1.20 0.76 0.9565 (high!)
============== ==== ==== ======= ===== ====================
:Missing Attribute Values: None
:Class Distribution: 33.3% for each of 3 classes.
:Creator: R.A. Fisher
:Donor: Michael Marshall (MARSHALL%PLU@io.arc.nasa.gov)
:Date: July, 1988
The famous Iris database, first used by Sir R.A. Fisher. The dataset is taken
from Fisher's paper. Note that it's the same as in R, but not as in the UCI
Machine Learning Repository, which has two wrong data points.
This is perhaps the best known database to be found in the
pattern recognition literature. Fisher's paper is a classic in the field and
is referenced frequently to this day. (See Duda & Hart, for example.) The
data set contains 3 classes of 50 instances each, where each class refers to a
type of iris plant. One class is linearly separable from the other 2; the
latter are NOT linearly separable from each other.
.. dropdown:: References
- Fisher, R.A. "The use of multiple measurements in taxonomic problems"
Annual Eugenics, 7, Part II, 179-188 (1936); also in "Contributions to
Mathematical Statistics" (John Wiley, NY, 1950).
- Duda, R.O., & Hart, P.E. (1973) Pattern Classification and Scene Analysis.
(Q327.D83) John Wiley & Sons. ISBN 0-471-22361-1. See page 218.
- Dasarathy, B.V. (1980) "Nosing Around the Neighborhood: A New System
Structure and Classification Rule for Recognition in Partially Exposed
Environments". IEEE Transactions on Pattern Analysis and Machine
Intelligence, Vol. PAMI-2, No. 1, 67-71.
- Gates, G.W. (1972) "The Reduced Nearest Neighbor Rule". IEEE Transactions
on Information Theory, May 1972, 431-433.
- See also: 1988 MLC Proceedings, 54-64. Cheeseman et al"s AUTOCLASS II
conceptual clustering system finds 3 classes in the data.
- Many, many more ...
Exemple: Exploration
print(f'Feature Names: {iris.feature_names}')
Feature Names: ['sepal length (cm)', 'sepal width (cm)', 'petal length (cm)', 'petal width (cm)']
print(f'Target Names: {iris.target_names}')
Target Names: ['setosa' 'versicolor' 'virginica']
print(f'Data Shape: {iris.data.shape}')
Data Shape: (150, 4)
print(f'Target Shape: {iris.target.shape}')
Target Shape: (150,)
Exemple: Utilisant Pandas
import pandas as pd
# Create a DataFrame
= pd.DataFrame(iris.data, columns=iris.feature_names)
df 'species'] = iris.target df[
Exemple: Utilisant Pandas
(suite)
# Display the first few rows of the DataFrame
print(df.head())
sepal length (cm) sepal width (cm) petal length (cm) petal width (cm) \
0 5.1 3.5 1.4 0.2
1 4.9 3.0 1.4 0.2
2 4.7 3.2 1.3 0.2
3 4.6 3.1 1.5 0.2
4 5.0 3.6 1.4 0.2
species
0 0
1 0
2 0
3 0
4 0
Exemple: Utilisant Pandas
(suite)
# Summary statistics
print(df.describe())
sepal length (cm) sepal width (cm) petal length (cm) \
count 150.000000 150.000000 150.000000
mean 5.843333 3.057333 3.758000
std 0.828066 0.435866 1.765298
min 4.300000 2.000000 1.000000
25% 5.100000 2.800000 1.600000
50% 5.800000 3.000000 4.350000
75% 6.400000 3.300000 5.100000
max 7.900000 4.400000 6.900000
petal width (cm) species
count 150.000000 150.000000
mean 1.199333 1.000000
std 0.762238 0.819232
min 0.100000 0.000000
25% 0.300000 0.000000
50% 1.300000 1.000000
75% 1.800000 2.000000
max 2.500000 2.000000
Exemple: Utilisant Seaborn
import seaborn as sns
# Map target values to species names
'species'] = df['species'].map({0: 'setosa', 1: 'versicolor', 2: 'virginica'})
df[
# Pairplot using seaborn
='species', markers=["o", "s", "D"])
sns.pairplot(df, hue"Pairwise Scatter Plots of Iris Features", y=1.02)
plt.suptitle( plt.show()
Quelles perspectives peut-on tirer de l’examen des graphiques?
L’image présente tous les diagrammes de dispersion par paire pour les caractéristiques de l’ensemble de données iris, avec les histogrammes pour chaque caractéristique individuelle sur la diagonale. Chaque point représente un exemple (\(x\)), et les couleurs indiquent les étiquettes correspondantes (\(y\)).
Considérons d’abord les éléments diagonaux :
- Est-il possible de classer les exemples en utilisant une seule caractéristique ?
- Nous observons que la longueur ou la largeur du sépale seule ne peut pas distinguer les classes.
- Cependant, la longueur et la largeur du pétale nous permettent de différencier setosa des deux autres variétés, bien qu’elles ne séparent pas efficacement versicolor et virginica.
La classe setosa forme fréquemment un groupe distinct.
Exemple: Ensemble d’entraînement et ensemble de test
from sklearn.model_selection import train_test_split
# Split the dataset into training and testing sets
= train_test_split(X, y, test_size=0.2, random_state=7) X_train, X_test, y_train, y_test
Notre classificateur initial, un arbre de décision, a été construit en utilisant l’ensemble des données complet. Bien qu’il fournisse le “meilleur” “ajustement” pour les données, nous ne pouvons pas déterminer sa performance sans une évaluation supplémentaire.
Nous aurons beaucoup plus à dire sur les tests dans les semaines à venir.
Pratique : Expérimentez avec différentes valeurs pour random_state
. Qu’observez-vous ? Pourquoi pensez-vous que cela se produit ? Pourquoi est-il important de définir la valeur de random_state
?
Exemple: Créer un nouvel arbre
# Train the model
= tree.DecisionTreeClassifier() clf
Exemple: Entraîner le modèle
# Train the model
clf.fit(X_train, y_train)
DecisionTreeClassifier()In a Jupyter environment, please rerun this cell to show the HTML representation or trust the notebook.
On GitHub, the HTML representation is unable to render, please try loading this page with nbviewer.org.
Parameters
criterion | 'gini' | |
splitter | 'best' | |
max_depth | None | |
min_samples_split | 2 | |
min_samples_leaf | 1 | |
min_weight_fraction_leaf | 0.0 | |
max_features | None | |
random_state | None | |
max_leaf_nodes | None | |
min_impurity_decrease | 0.0 | |
class_weight | None | |
ccp_alpha | 0.0 | |
monotonic_cst | None |
Exemple: Prédictions
# Make predictions
= clf.predict(X_test) y_pred
Exemple: mesurer la performance
from sklearn.metrics import classification_report, accuracy_score
# Make predictions
# Evaluate the model
= accuracy_score(y_test, y_pred)
accuracy = classification_report(y_test, y_pred, target_names=iris.target_names)
report
print(f'Accuracy: {accuracy:.2f}')
print('Classification Report:')
print(report)
Accuracy: 0.87
Classification Report:
precision recall f1-score support
setosa 1.00 1.00 1.00 7
versicolor 0.83 0.83 0.83 12
virginica 0.82 0.82 0.82 11
accuracy 0.87 30
macro avg 0.88 0.88 0.88 30
weighted avg 0.87 0.87 0.87 30
Voici une discussion sur la persistance des modèles pour les modèles scikit-learn.
Résumé
- Nous avons introduit la terminologie pertinente.
- Nous avons examiné un exemple hypothétique.
- Ensuite, nous explorerons un exemple complet en utilisant scikit-learn.
- Nous avons effectué une exploration détaillée de nos données.
- Enfin, nous avons reconnu la nécessité d’un ensemble de test indépendant pour mesurer précisément la performance.
Prologue
Lectures supplémentaires (1/3)
- The Hundred-Page Machine Learning Book (Burkov 2019) est un manuel succinct et ciblé qui peut être lu en une semaine, ce qui en fait une excellente ressource d’introduction.
- Disponible sous un modèle « lire d’abord, acheter ensuite », permettant aux lecteurs d’évaluer son contenu avant de l’acheter.
- Son auteur, Andriy Burkov, a obtenu son doctorat en IA à l’Université Laval.
Lectures supplémentaires (2/3)
- Hands-on Machine Learning with Scikit-Learn, Keras, and TensorFlow (Géron 2022) fournit des exemples pratiques et exploite des frameworks Python prêts pour la production.
- La couverture complète inclut non seulement les modèles, mais aussi des bibliothèques pour le réglage des hyperparamètres, le prétraitement des données et la visualisation.
- Exemples de code et solutions aux exercices disponibles sous forme de Jupyter Notebooks sur GitHub.
- Aurélien Géron est un ancien chef de produit YouTube, qui a dirigé la classification vidéo pour la recherche et la découverte.
Lectures supplémentaires (3/3)
- Mathematics for Machine Learning (Deisenroth, Faisal, et Ong 2020) vise à fournir les compétences mathématiques nécessaires pour lire des livres sur l’apprentissage automatique.
- PDF du livre
- “Ce livre offre une excellente couverture de tous les concepts mathématiques de base pour l’apprentissage automatique. J’ai hâte de le partager avec les étudiants, les collègues et toute personne intéressée à acquérir une compréhension solide des fondamentaux.” Joelle Pineau, Université McGill et Facebook
Références
Prochain cours
- Régression linéaire
- Descente de gradient
- Régression logistique
Marcel Turcotte
École de science informatique et de génie électrique (SIGE)
Université d’Ottawa