http://blog.caveduck.io/ja/tags/sparsity/Recent content in Sparsity on Warpspace ブログHugo -- 0.154.5ja-JPMon, 27 Apr 2026 00:00:00 +0000http://blog.caveduck.io/ja/posts/neural-net-pruning/Mon, 27 Apr 2026 00:00:00 +0000http://blog.caveduck.io/ja/posts/neural-net-pruning/1989年、LeCunのOptimal Brain Damageから始まる、重みを刈り込んで(pruning)モデルを小さくする物語。何を・どうやって・どれだけ削るのか、再学習すれば95%削ってもびくともしない圧縮の驚き、そしてハードウェア(NVIDIA 2:4)が支えて初めて実利益が出るところまで — MNIST MLPで実測したplotとともに。