Dans ce tutoriel, nous allons explorer l’algorithme des k-plus proches voisins (KNN) en utilisant Python et la bibliothèque Scikit-learn. KNN est un algorithme d’apprentissage supervisé utilisé pour la classification et la régression.
L’algorithme des k-plus proches voisins est basé sur le principe que les points de données similaires tendent à être proches les uns des autres. Dans la classification KNN, lorsque nous devons attribuer une classe à un nouvel échantillon, nous regardons les k échantillons les plus proches (en termes de distance) et attribuons la classe majoritaire parmi ces voisins.
Nous utiliserons la bibliothèque Scikit-learn pour implémenter KNN.
Tout d’abord, assurez-vous d’installer Scikit-learn s’il n’est pas déjà installé :
pip install scikit-learn
Ensuite, voici un exemple simple d’implémentation KNN pour la classification :
# Import des bibliothèques nécessaires
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier
from sklearn import metrics
# Charger l'ensemble de données Iris
iris = load_iris()
X = iris.data
y = iris.target
# Diviser l'ensemble de données en ensembles de formation et de test
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# Initialiser le classificateur KNN avec k=3
knn = KNeighborsClassifier(n_neighbors=3)
# Entraîner le classificateur sur l'ensemble de formation
knn.fit(X_train, y_train)
# Prédire les classes pour l'ensemble de test
y_pred = knn.predict(X_test)
# Calculer la précision
accuracy = metrics.accuracy_score(y_test, y_pred)
print("Précision :", accuracy)
Dans cet exemple, nous utilisons l’ensemble de données Iris, divisons les données en ensembles de formation et de test, initialisons un classificateur KNN avec k=3, entraînons le modèle sur l’ensemble de formation et évaluons la précision sur l’ensemble de test.
Voici comment ces cas particuliers peuvent être accompagnés de code Python utilisant l’algorithme KNN :
from sklearn.datasets import make_moons
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
# Générer un jeu de données non linéairement séparables
X, y = make_moons(n_samples=1000, noise=0.3, random_state=42)
# Diviser l'ensemble de données en ensembles de formation et de test
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# Initialiser le classificateur KNN
knn = KNeighborsClassifier(n_neighbors=5)
# Entraîner le classificateur sur l'ensemble de formation
knn.fit(X_train, y_train)
# Prédire les classes pour l'ensemble de test
y_pred = knn.predict(X_test)
# Calculer la précision
accuracy = accuracy_score(y_test, y_pred)
print("Précision :", accuracy)
from sklearn.datasets import make_classification
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
# Générer un jeu de données déséquilibré
X, y = make_classification(n_samples=1000, n_features=20, weights=[0.1, 0.9], random_state=42)
# Diviser l'ensemble de données en ensembles de formation et de test
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# Initialiser le classificateur KNN
knn = KNeighborsClassifier(n_neighbors=5)
# Entraîner le classificateur sur l'ensemble de formation
knn.fit(X_train, y_train)
# Prédire les classes pour l'ensemble de test
y_pred = knn.predict(X_test)
# Calculer la précision
accuracy = accuracy_score(y_test, y_pred)
print("Précision :", accuracy)
from sklearn.datasets import make_classification
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split
from sklearn.decomposition import PCA
from sklearn.metrics import accuracy_score
# Générer un jeu de données à haute dimensionnalité
X, y = make_classification(n_samples=1000, n_features=100, random_state=42)
# Réduire la dimensionnalité avec l'analyse en composantes principales (PCA)
pca = PCA(n_components=10)
X_pca = pca.fit_transform(X)
# Diviser l'ensemble de données en ensembles de formation et de test
X_train, X_test, y_train, y_test = train_test_split(X_pca, y, test_size=0.2, random_state=42)
# Initialiser le classificateur KNN
knn = KNeighborsClassifier(n_neighbors=5)
# Entraîner le classificateur sur l'ensemble de formation
knn.fit(X_train, y_train)
# Prédire les classes pour l'ensemble de test
y_pred = knn.predict(X_test)
# Calculer la précision
accuracy = accuracy_score(y_test, y_pred)
print("Précision :", accuracy)
from sklearn.datasets import load_iris
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
# Charger l'ensemble de données Iris
iris = load_iris()
X = iris.data
y = iris.target
# Diviser l'ensemble de données en ensembles de formation et de test
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.9, random_state=42)
# Initialiser le classificateur KNN
knn = KNeighborsClassifier(n_neighbors=5)
# Entraîner le classificateur sur l'ensemble de formation
knn.fit(X_train, y_train)
# Prédire les classes pour l'ensemble de test
y_pred = knn.predict(X_test)
# Calculer la précision
accuracy = accuracy_score(y_test, y_pred)
print("Précision :", accuracy)
KNN peut être adapté pour prendre en compte les changements fréquents en réentraînant simplement le modèle avec les nouvelles données.
Ces exemples illustrent comment l’algorithme KNN peut être utilisé dans différents cas particuliers avec du code Python.
KNN est un algorithme simple mais puissant pour la classification et la régression. En utilisant Python et Scikit-learn, nous pouvons facilement implémenter et expérimenter avec cet algorithme sur divers ensembles de données. N’hésitez pas à ajuster la valeur de k et à explorer d’autres fonctionnalités de Scikit-learn pour approfondir votre compréhension de KNN et de l’apprentissage automatique en général.
Le commentaire composé est un exercice littéraire qui consiste à analyser un texte en respectant…
Les adjectifs liés en français sont les adjectifs qui s’accordent en genre (masculin/féminin) et en…
Voici une liste étendue de mots piégeux en français, avec leurs genres et des explications…
Apprendre à distinguer le genre des noms en français peut être un véritable défi pour…
1. Informations Générales Nom complet : Charles-Louis de Secondat, Baron de La Brède et de…
Introduction L’Art de la Guerre (Dell’arte della guerra), publié en 1521, est l’un des ouvrages…
This website uses cookies.