#1 Nachkommastellen

[Florian Siegel]

Hallo Sepp62,
nach intensiver Arbeit mit deiner Library ist mir hinsichtlich der Nachkommastellen deiner Sensorwerte das folgende aufgefallen:

File: JetiExProtocol.cpp
Line: 91ff.
Anliegen:
Es gibt im Code die Möglichkeiten der Präzision 0, 1, 2 die mit 2 bit dargestellt werden.
Gibt es einen Grund, dass Werte mit 3 Nachkommastellen nicht abgebildet werden können?
Prinzipiell wäre. es ja möglich, wenn du das folgende annimmst:

Wert 12
0x00 -> Keine Nachkommastellen -> (0x00 >> 5) = 0 -> 12
0x20 -> Eine Nachkommastelle -> (0x20 >> 5) = 1 ->1.2
0x40 -> Zwei Nachkommastellen -> (0x40 >> 5) = 2 -> 0.12
0x60 -> Drei Nachkommastellen -> (0x60 >> 5) = 3-> 0.012

[Sepp62]

Nein, dafür gibt es keinen Grund, ich habe das einfach übersehen. Das ist in 1.0.6 bereits geändert (habe ich noch nicht hochgeladen).

Der Code sieht dann so aus:

// 0...3 decimal places
switch( constData.precision )
{
case 0: m_precision = 0x00; break;
case 1: m_precision = 0x20; break;
case 2: m_precision = 0x40; break;
case 3: m_precision = 0x60; break;
}

[Florian Siegel]

Alles klar!

Merci =)