Алгоритм K-NN порівнює новий запис даних зі значеннями в даному наборі даних (з різними класами або категоріями). На основі близькості або подібності в заданому діапазоні (K) сусідів алгоритм призначає нові дані класу або категорії в наборі даних (навчальні дані).
Алгоритм k-найближчих сусідів (KNN). непараметричний класифікатор із контрольованим навчанням, який використовує близькість для класифікації або прогнозування щодо групування окремої точки даних. Це один із популярних і найпростіших класифікаторів і класифікаторів регресії, які використовуються сьогодні в машинному навчанні.
KNN — це алгоритм, який класифікує нові точки на основі їх подібності або близькості до інших груп кластерів. Він розраховує відстані точки за допомогою методу евклідової відстані.
Оскільки алгоритм KNN не потребує навчання перед прогнозуванням, нові дані можна безперешкодно додавати, що не вплине на точність алгоритму. KNN дуже легко реалізувати. Є лише два параметри, необхідні для реалізації KNN: значення K і функція відстані (наприклад, Евклідова, Манхеттенська тощо).
Ви також можете використовувати деякі параметри чи методи, щоб зробити модель KNN більш стійкою до викидів, наприклад, вибрати більше значення k, кількість сусідів, щоб зменшити вплив окремих викидів, або використовувати функцію зваженої відстані, таку як зворотна. відстань або ядро Гауса, щоб призначити більшу вагу …
KNN працює у три основні етапи: (1) обчислення відстані між точкою запиту та кожною точкою навчання, (2) вибір k-найближчих сусідів до точки запиту та (3) прогнозування класу або значення точки запиту на основі на мажоритарний клас або середнє значення сусідів відповідно.