http://blog.caveduck.io/ja/tags/%E9%87%8F%E5%AD%90%E5%8C%96/Recent content in 量子化 on Warpspace ブログHugo -- 0.154.5ja-JPMon, 20 Apr 2026 00:00:00 +0000http://blog.caveduck.io/ja/posts/neural-net-quantization/Mon, 20 Apr 2026 00:00:00 +0000http://blog.caveduck.io/ja/posts/neural-net-quantization/学習済みの32ビットニューラルネットワークの重みを、K-Means（非均等）とLinear（均等・整数演算）の2つの方式で2〜8ビットまで削ってみます。アフィン写像 r=S(q−Z) から圧縮率・精度のトレードオフまで、MNIST MLPで実際にコードを回して測定したplotとともに。http://blog.caveduck.io/ja/posts/deep-learning-data-types/Mon, 13 Apr 2026 00:00:00 +0000http://blog.caveduck.io/ja/posts/deep-learning-data-types/INT8、FP16、BF16、FP8(E4M3/E5M2)、FP4 — ディープラーニングのモデルカードにあふれるデータ型が実際に何を意味するのか、ビットがどのように数値へ解釈されるのかを一つずつ紐解きます。ビットを直接クリックすると計算式と値がリアルタイムに変わるウィジェットとともに。