軽量化シリーズ #2 — ニューラルネット量子化

学習済みの32ビットニューラルネットワークの重みを、K-Means(非均等)とLinear(均等・整数演算)の2つの方式で2〜8ビットまで削ってみます。アフィン写像 r=S(q−Z) から圧縮率・精度のトレードオフまで、MNIST MLPで実際にコードを回して測定したplotとともに。

2026年4月20日 · 3 分 · rick