# QuantNoise

총 2개의 포스트

[PaperReview] A Survey of Quantization Methods for Efficient Neural Network Inference

폭 넓은 문제의 분야에서 Neural Network 의 정확도는 필요 이상의 수 많은 파라미터들로 크게 개선되었다. 문제를 해결하는데 중점을 두어 모델의 복잡도와 계산 복잡도까지 고려를 해서 발달되지는 않은 것으로 해석 할 수 있을 것 같다.NN이 개선되며 발달한

HAWQ QAT QN QuantNoise finetune finetuning quantization survey 논문조사 양자화

2022년 11월 25일

0개의 댓글

hskang

[PaperReview] Training with Quantization Noise for Extreme Model Compression

매 iteration forward 때 마다 서로 다른 가중치의 일부분에 양자화 하는 방법이다. 이렇게 할 경우 편향성 없는 gradient를 다른 가중치에 흐르게 할 수 있다.실 생활에서 쓰이는 성능 좋은 대부분의 NN architecture는 수 많은 파라미터를 가

QuantNoise bit width facebook finetuning low bit precision quantization 양자화

2022년 11월 25일

0개의 댓글