통계(statistics)라고 번역되는 의미 외에 statistics는 샘플이 가진 특징을 통털어 칭하는 것이기도 하다. 이와 대비하여 모집단(population)의 특징은 parameter라고 한다. 가령 population의 $ \mu $, $ \sigma $ 등을 parameter라고 하고 이에 대비되는 $ \bar{X} $, $ s $는 샘플의 statistics이다.