Specificaţii privind precizia

Funcţie de măsurare	Domeniu de măsurare	Rezoluţie	Precizie ± ([% din valoarea măsurată] + [valori contorizate])
Tensiune alternativă (V CA)	600,0 mV	0,1 mV	± (1,0% + 3) (45−500 Hz) ± (2,0% + 3) (500−1000 Hz)
	6,000 V	0,001 V
	60,00 V	0,01 V
	600,0 V	0,1 V
Curent alternativ (A CA)	6,000 A	0,001 A	± (1,5% + 3) (45−500 Hz)
Curent alternativ (A CA)	10,00 A	0,01 A	± (1,5% + 3) (45−500 Hz)
Frecvenţă (V CA: 10 V ... 600 V) (A CA: 600 mA ... 10 A)	99,99 Hz	0,01 Hz	± (0,1% + 2)
	999,9 Hz	0,1 Hz
	9,999 kHz	0,001 kHz
	50,00 kHz	0,01 kHz
Tensiune continuă (V CC)	600,0 mV	0,1 mV	± (0,5% + 2)
	6,000 V	0,001 V
	60,00 V	0,01 V
	600,0 V	0,1 V
Curent continuu (A CC)	6,000 A	0,001 A	± (1,0% + 3)
Curent continuu (A CC)	10,00 A	0,01 A	± (1,0% + 3)
Rezistenţă	600,0 Ω	0,1 Ω	± (1,0% + 5)
	6,000 kΩ	0,001 kΩ
	60,00 kΩ	0,01 kΩ
	600,0 kΩ	0,1 kΩ
	6,000 MΩ	0,001 MΩ
	40,00 MΩ	0,01 MΩ	±(2,0% + 5)
Capacitate	100,0 µF	0,1 µF	± (1,9% + 2)
Capacitate	1000 µF	1 µF	± (1,9% + 2)
Continuitate	−	0,1 Ω	± (1,0% + 5) ≤ 30 Ω: semnal sonor ≥ 50 Ω: fără semnal sonor

Precizia este garantată pentru o perioadă de un an de la calibrare, în cazul unor temperaturi de funcţionare cuprinse între −10 °C şi 50 °C şi al unei umidităţi relative a aerului cuprinse între 0% şi 90%.

Specificaţiile sunt valabile pentru o temperatură ambientală cuprinsă între 18 °C şi 28 °C şi o umiditate relativă a aerului ≤ 75%. Dacă temperatura se află în afara domeniului specificat anterior, trebuie să fie luat în considerare un factor suplimentar de eroare a temperaturii de 0,1 x precizie specificată per 1 °C.