2 Genauigkeit im Chemischen Rechnen
2.1 Bedeutung der Stellen einer Zahl - Runden

 

Zahlenwerte im Chemischen Rechnen beruhen auf Messungen.

Die Genauigkeit eines Zahlenwertes richtet sich nach der Genauigkeit

(1) des Meßgerätes

(2) des Meßverfahrens.

(s. auch 2.2)

So gestatten Analysenwaagen Wägungen auf ein zehntel Milligramm genau, Dezimalwaagen für rohe technische Wägungen nur Wägungen auf etwa 500 g genau.

Für die Angabe des Zahlenwertes bei Messungen gilt die Regel:

Die vorletzte Stelle der Zahl ist sicher (genau), die letzte Stelle kann unsicher (ungenau) sein.

 

Auf einer "Präzisionswaage" wurde das Wägeergebnis "2,57g" abgelesen. Die vorletzte Stelle "5" ist sicher, die letzte Stelle "7" ist geschätzt und daher unsicher.

 

Rechnen mit Meßwerten - Abrunden und Aufrunden

Aufgabe:

 

Addiere folgende Massen

 

 

a)

  2,37

g

b)

2,370

 g

c)

2,37

 g

d)

2,37

 g

e)

2,37

 g
  + 3,210 g + 3,210 g + 3,213 g + 3,216 g + 3,2148 g
                               
nicht   5,580 g     g   5,583 g   5,586 g   5,5848 g
sondern   5,58 g   5,580 g   5,58 g   5,59 g   5,58 g
                               

Begründung: Die Werte wurden durch Wägungen als Meßverfahren erhalten.

In jedem der zu addierenden Zahlenwerte ist die letzte Stelle unsicher. Im Zahlenwert "2,37 g" also die "7". Diese Unsicherheit in der 2. Stelle nach dem Komma überträgt sich auf das Additionsergebnis.

zu a) Das Ergebnis kann nur mit zwei Stellen nach dem Komma angegeben werden. Die Angabe der Null wäre falsch. Sie würde bedeuten, daß die zweite Stelle nach dem Komma sicher wäre, was ja nicht der Fall ist.

Die anzugebende Stellenzahl eines Rechenergebnisses hängt von derjenigen Größe in der Rechnung ab, deren Zahlenwert am wenigsten genau ist.

zu b) Hier muß das Ergebnis "5,580 g" lauten. Die Null als 3. Stelle nach dem Komma darf nicht entfallen, denn die 2. Stelle ist sicher.

zu c) und e) Hier wird das Ergebnis auf zwei Stellen nach dem Komma "abgerundet".

zu d) Hier wird das Ergebnis auf zwei Stellen nach dem Komma "aufgerundet".

Runden heißt, die rechnerisch erhaltene Stellenzahl auf die anzugebende Stellenzahl zu verringern.

Die letzte anzugebende Stelle behält ihren Wert, wenn ihr 4 oder eine niedere Ziffer folgt (Abrunden).

Der Wert der letzten anzugebenden Stelle erhöht sich um 1, wenn ihr 5 oder eine höhere Ziffer folgt (Aufrunden).

DIN 1333

Beachte das Ergebnis von e)!

 

Übungen

2-1. Runde nachstehende Größen jeweils auf eine, zwei und drei Stellen nach dem Komma.

a) 21,2473 g    b) 4,0388 l    c) 10,0037 kg    d) 0,4945 g    e) 18,40897 m3    f) 2,4608 g

Lösungen

 

Aufgabe:

Welches Volumen hat ein zylindrisches Gefäß, dessen Radius r der Bodenfläche mit einem Bandmaß zu 30 cm, die Höhe h zu 90 cm gemessen wurde?

Rechengang und Überlegung

Rechnerisch wird erhalten (vgl. 13.9)

V = r2 * π * h = (30 cm)2 * π * 90 cm = 254469,0 cm3 = 0,2544690 m3

Das  Ergebnis in dieser Genauigkeit angeben zu wollen, wäre widersinnig; es muß gerundet angegeben werden. Um entscheiden zu können, auf wie viele Stellen zu runden ist, damit die vorletzte Stelle als sicher gelten kann, müssen die Grenzen der Meßgenauigkeit bekannt sein.

Es wird geschätzt, daß die Messung des Radius um ± 0,1 cm, die der Höhe um ± 0,3cm fehlerhaft sein könnte.

Dann ergibt sich rechnerisch mit den jeweils höheren Werten

r = 30,1 cm und h = 90,3 cm

V = (30,1 cm)2 * π * 90,3 cm = 257022,2 cm3 = 0,2570222 m3

und den niederen Werten

r = 29,9 cm und h = 89,7 cm

V = (29,9 cm)2 * π * 89,7 cm = 251932,8 cm3 = 0,2519328 m3

    sicher unsicher     sicher unsicher  
Die Gegenüberstellung des Ergebnisses   0,25 44690 m3 = 25 4469,0 cm3
und der Vergleichswerte { 0,25 70222 m3 = 25 7022,2 cm3
0,25 19328 m3 = 25 1932,8 cm3
zeigt die gemeinsame und damit sicheren Stellen auf.    

|

      

|

  

Als Ergebnis ist anzugeben:

   0,25 4 m3 = 25 4000 cm3

 

Übungen

Die Ergebnisse der vollständigen Berechnungen sind auf die richtige Stellenzahl zu runden.

2-2. Die Dichte einer Natronlauge wurde zu ρ = 1,123 g/ml gemessen (vgl. 3.1.). Welche Masse haben 500 ml (740,5 ml) dieser Lauge?

2-3. Die Molare Masse eines Metall-Ions ist die Differenz aus der Molaren Masse des betreffenden Atoms und der Molaren Masse der Elektronen (vgl. 4.1.2.4).

a) M(Na+) = M(Na) - M(e-)

b) M(Al3+) = M(Al) - 3 * M(e-)

Berechne M(Na+) und M(Al3+).

M(Na) = 22,98977 g/mol; M(Al) = 26,98154; M(e-) = 0,0005486 g/mol

2-4. Welche Masse Eisen (Aluminium) enthalten 216,0 mg Eisen (III)-oxid Fe2O3 (318 g Aluminiumoxid Al2O3), wenn zur Berechnung das Wägeergebnis mit dem tabellierten "Faktor" (vgl.7.1) 0,6994 (0,5293) multipliziert werden muss?

2-5. Wieviel Milligramm Kaliumhydroxid werden neutralisiert, wenn bei einer volumetrischen Bestimmung (s. 8.4) 17,8 ml (18,34 ml) einer Salzsäure gebraucht werden, von der 1 ml nach Tabelle 5,6109 mg Kaliumhydroxid neutralisiert?

2-6. Welche Kühlfläche hat ein Kühlrohr innen (außen), wenn seine Länge zu 700 mm und sein Innendurchmesser zu 10 mm (sein Außendurchmesser zu 14 mm) vermessen wurden? Die Messungen können bis zu 1% fehlerhaft sein.

 

Lösungen