> k- 最近傍法(k-NN)アルゴリズムは、最も単純な学習アルゴリズムであると言われる。モデルの 構築は、訓練データセットを格納するだけだ。新しいデータポイントに対する予測を行う際には、訓練データセットの中から一番近い点つまり「最近傍点」を見つける。
[[📖Pythonではじめる機械学習]]より引用
---
[[📖Python機械学習プログラミング 達人データサイエンティストによる理論と実践]]
- KNNは[[怠惰学習]](lazy learn)
- 判別関数(入力を直接)を学習せず、トレーニングセットを暗記する。
1. kの値と距離指標を選択する。
2. 分類したいサンプルからk個の最近傍のデータ点を見つけ出す。
3. 多数決によりクラスラベルを割り当てる。
最悪ケースでは、分類のための計算量が、トレーシングのデータ点の個数に比例して増加することもある
---
[Create a K-Nearest Neighbors Algorithm from Scratch in Python | by Turner Luke | Apr, 2022 | Towards Data Science](https://towardsdatascience.com/create-your-own-k-nearest-neighbors-algorithm-in-python-eb7093fc6339)
- kNNアルゴリズムをPythonでスクラッチ実装