Насколько улучшает разрядность "режим высокого разрешения"?
FAQ - Характеристики

Теоретически, улучшение разрядности описывается формулой: 0,5*log2(N) , где N - количество выборок на один интервал дискретизации. Например, 16кратное усреднение повышает разрядность до 10 бит.

Практически, в "Режиме высокого разрешения" на один отсчет отводится два байта, то есть даже на медленных развертках и периодическом сигнале достижимо не более 16бит. Из этих 16ти бит - один бит отведен под знак, и один-два бита следует игнорировать, так как их достоверность может быть сомнительна в результате ошибок округления. Таким образом, практический предел - 13бит.


Использованы материалы Tektronix