Kalibrierung eines 10 kΩ Normalwiderstandes

Autor: DKD
Dieses Beispiel wurde der DKD-3-E1 entnommen (siehe unter S3).

Der Widerstand eines Vierpol-Normalwiderstandes wird nach der Substitutionsmethode durch Vergleich mit einem als Referenznormal wirkenden, kalibrierten Vierpol-Normalwiderstand desselben Nennwertes unter Zuhilfenahme eines 7½-stelligen Digitalmultimeters im Widerstandsmessbereich bestimmt. Die Widerstände befinden sich in einem gut gerührten Ölbad, dessen Temperatur von 23 °C mit einem zentrisch angeordneten Quecksilberthermometer registriert wird. Vor der Messung wird den Widerständen ausreichend Zeit gelassen, sich thermisch zu stabilisieren. Die Vierpolanschlüsse der einzelnen Widerstände werden nacheinander mit den Klemmen des DMM verbunden. Es ist überprüft worden, dass bei dem Messstrom von 100 µA im 10 kΩ- Messbereich des DMM nennenswerte Effekte durch Eigenerwärmung der Widerstände nicht auftreten. Das Messverfahren stellt auch sicher, daß sich äußere Leckwiderstände nur unwesentlich auf das Messergebnis auswirken.

Modellgleichung:

RX = ( RS + δRD + δRTS ) × rC × r - δRTX

Liste der Größen:

Größe Einheit Definition
RX Ω Wert des zu kalibrierenden Widerstandes
RS Ω Wert des Referenzwiderstandes
δRD Ω Drift des Wertes des Referenzwiderstandes seit seiner letzten Kalibrierung
δRTS Ω temperaturabhängige Widerstandsänderung des Referenzwiderstandes
δRTX Ω temperaturabhängige Widerstandsänderung des zu kalibrierenden Widerstandes
rC   Korrektionsfaktor für Störspannungen und das Auflösungsvermögen des Digitalmultimeters
r   =Rix/Ris Verhältnis der angezeigten Werte des zu kalibrierenden Widerstandes und des Referenzwiderstandes

RS: Typ B Normalverteilung
Wert: 10000.053 Ω
Erweiterte Messunsicherheit: 5·10-3 Ω
Erweiterungsfaktor: 2
Referenznormal: Der Kalibrierschein des Referenznormals gibt einen Widerstandswert von 10 000,053 Ω ±5 mΩ (Erweiterungsfaktor k = 2) bei der Bezugstemperatur von 23 °C an.

δRD: Typ B Rechteckverteilung
Wert: +20·10-3 Ω
Halbbreite der Grenzen: 10·10-3 Ω
Drift des Widerstandswertes des Referenznormals: Die Drift des Widerstandwertes des Referenzwiderstandes seit seiner letzten Kalibrierung wird aus seiner Kalibriergeschichte auf +20 mΩ mit Abweichungen innerhalb von ±10 mΩ geschätzt.

δRTS: Typ B Rechteckverteilung
Wert: 0 Ω
Halbbreite der Grenzen: 2.75·10-3 Ω
Temperaturkorrektion: Die Temperatur des Ölbades wird mit einem kalibrierten Thermometer zu 23,00 °C registriert. Unter Berücksichtigung der messtechnischen Charakteristika des verwendeten Thermometers und der Temperaturgradienten im Ölbad wird geschätzt, daß die Temperatur der Widerstände innerhalb von ±0,055 K mit der registrierten Temperatur übereinstimmt. Damit ergibt der bekannte Wert 5·10-6 K-1 des Temperaturkoeffizienten (TK) des Referenzwiderstandes die Grenzen von ±2,75 mΩ für Abweichungen vom kalibrierten Widerstandswert, die auf mögliche Abweichungen von der gemessenen Badtemperatur zurückzuführen sind.

δRTX: Typ B Rechteckverteilung
Wert: 0 Ω
Halbbreite der Grenzen: 5.5·10-3 Ω
Temperaturkorrektionen: Die Temperatur des Ölbades wird mit einem kalibrierten Thermometer zu 23,00 °C registriert. Unter Berücksichtigung der messtechnischen Charakteristika des verwendeten Thermometers und der Temperaturgradienten im Ölbad wird geschätzt, daß die Temperatur der Widerstände innerhalb von ±0,055 K mit der registrierten Temperatur übereinstimmt. Aufgrund der Herstellerangaben wird geschätzt, daß der TK des unbekannten Widerstandes nicht größer als 10·10-6 K-1 ist, so dass Widerstandsabweichungen des zu kalibrierenden Widerstandes aufgrund möglicher Temperaturabweichungen auf maximal ±5,5 mΩ geschätzt werden.

rC: Typ B Dreieckverteilung
Wert: 1.0
Halbbreite der Grenzen: 1.0·10-6
Widerstandsmessungen: Da für die Beobachtung von Rix und Ris dasselbe DMM verwendet wird, sind die Unsicherheitsbeiträge korreliert. Dieser Effekt führt, da das Verhältnis der Widerstände auftritt zu einer Verringerung des Unsicherheitsbeitrages, indem nur die relative Differenz zwischen den Widerstandsanzeigen, die ihre Ursache in systematischen Effekten wie Störspannungen und Geräteauflösung haben, berücksichtigt werden müssen. Die Abweichungen für diese Effekte werden für die einzelnen Anzeigen mit 0.5·10-6 abgeschätzt. Für das Verhältnis ergibt sich eine Dreieckverteilung mit dem Erwartungswert von 1,000 000 0 und Grenzen von ±1,0·10-6 .

r: Typ A
Methode der Beobachtung: Direkt
Anzahl der Beobachtungen: 5
Nr. Beobachtung
1 1.0000104
2 1.0000107
3 1.0000106
4 1.0000103
5 1.0000105

Arithmetischer Mittelwert: 1.0000105000
Standardabweichung der Einzelbeobachtung: 160·10-9
Standardmessunsicherheit: 70.7·10-9
Freiheitsgrad: 4

Messunsicherheits-Budgets:

RX: Wert des zu kalibrierenden Widerstandes
Größe Wert Standardmess-
unsicherheit
Verteilung Sensitivitäts-
koeffizient
Unsicher-
heitsbeitrag
Index
RS 10000.05300 Ω 2.50·10-3 Ω Normal 1.0 2.5·10-3 Ω 9.0 %
δRD 0.02000 Ω 5.77·10-3 Ω Rechteck 1.0 5.8·10-3 Ω 48.1 %
δRTS 0.0 Ω 1.59·10-3 Ω Rechteck 1.0 1.6·10-3 Ω 3.6 %
δRTX 0.0 Ω 3.18·10-3 Ω Rechteck -1.0 -3.2·10-3 Ω 14.5 %
rC 1.000000000 408·10-9 Dreieck 10000 4.1·10-3 Ω 24.0 %
r 1.0000105000 70.7·10-9 Normal 10000 710·10-6 Ω 0.7 %
RX 10000.17800 Ω 8.33·10-3 Ω

Ergebnisse:

Größe Wert Erweiterte
Messunsicherheit
Erweiter-
ungsfaktor
Überdeckung
RX 10000.178 Ω 0.017 Ω 2.00 95% (t-Tabelle 95.45%)

  • Kontakt
  • Links
  • Impressum
  • Suche