Industry Online Support
Technical Forum
Navigation
Nachweis das Arithmetische Einheit intern mit 32Bit rechnet
Erstellt von: ernstho am: 08.01.2019 18:53 (0 Antworten)
Bewertung 
Dank 1
1 Einträge
| 08.01.2019 18:53 | |
Beigetreten: 13.08.2016 Letzter Bes: 28.03.2023 Beiträge: 1236 Bewertung:
|
Anbei eine Prozentberechnung mit zwei Kommastellen. Da die Logo nur über eine Ganzzahldivision verfügt entstehen bei kleineren Zahlen normalerweise hohe Fehler. zB.: Grundformel: ( 1 - (Min. / Max) ) * 100 = Abweichung in Prozent Formel optimiert für LOGO: ((Min * -10000) / Max)+10000 recht genau - Prozent mit 2 Kommastellen ... vor einer Division (Ganzzahldivision) sollte mit zB 10000 (oder mit 32767) multipliziert werden innerhalb der Arithmetischen Einheit darf das Zwischenergebnis +/- 2 147 483 647 (32bit) betragen - ansonsten nur die +/- 32767 DateianhangLogo-Arithmetische32Bit-Einheit.zip (50 Downloads) |
Zuletzt bearbeitet von: ernstho am: 08.01.2019 18:54:23 |
|
Für diesen Beitrag bedanken sich
|
|
Folgen Sie uns auf