|
|
| Georg J |
Forum-Century
|
 |
Beiträge: 113
|
|
|
|
Anmeldedatum: 22.06.11
|
|
|
|
Wohnort: ---
|
|
|
|
Version: R2008a
|
|
|
|
 |
|
Verfasst am: 25.05.2012, 11:31
Titel: Bug im sprintf?
|
 |
Hallo,
Ich versuche mit sprintf die Zahlen 1.05, 2.05, 3.05... 10.05 und 90.05 auf eine Nachkommastelle zu runden.
sprintf('%0.1f',1.05) ==> 1.1
sprintf('%0.1f',2.05) ==> 2.0
sprintf('%0.1f',3.05) ==> 3.0
sprintf('%0.1f',4.05) ==> 4.0
sprintf('%0.1f',5.05) ==> 5.0
sprintf('%0.1f',6.05) ==> 6.0
sprintf('%0.1f',7.05) ==> 7.0
sprintf('%0.1f',8.05) ==> 8.1
sprintf('%0.1f',9.05) ==> 9.1
sprintf('%0.1f',10.05) ==> 10.1
sprintf('%0.1f',90.05) ==> 90.0
Die Ergebnisse sind inkonsistent. Eigentlich müsste für alle Zahlen die Nachkommastelle 1 sein!
Wo liegt das Problem?
Gruss, Georg
|
|
|
|
|
|
| Harald |
Forum-Meister
|
|
Beiträge: 24.492
|
|
|
|
Anmeldedatum: 26.03.09
|
|
|
|
Wohnort: Nähe München
|
|
|
|
Version: ab 2017b
|
|
|
|
|
|
|
Verfasst am: 25.05.2012, 11:41
Titel:
|
|
Hallo,
das Problem liegt darin, dass Zahlen wie 2.05 im Binärsystem nicht exakt darstellbar sind. Sobald eine solche Zahl eingegeben wird, wird sie also durch die nächste darstellbare Zahl ersetzt. Diese kann minimal kleiner als die ursprüngliche Zahl sein, und damit wird ab- statt aufgerundet.
Was kann man tun? Die ursprünglichen Zahlen etwas vergrößern, z.B. durch Multiplikation mit 1+eps, so dass nicht fälschlich abgerundet wird. Natürlich kann es dann passieren, dass 2.4499999999999999 fälschlich aufgerundet wird, aber damit muss man sich beim Arbeiten mit einer begrenzten Genauigkeit wohl abfinden.
Grüße,
Harald
|
|
|
|
|
|
|
Einstellungen und Berechtigungen
|
|
Du kannst Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.
Du kannst Dateien in diesem Forum posten
Du kannst Dateien in diesem Forum herunterladen
|
|
Impressum
| Nutzungsbedingungen
| Datenschutz
| FAQ
|  RSS
Hosted by:
Copyright © 2007 - 2024
goMatlab.de | Dies ist keine offizielle Website der Firma The Mathworks
MATLAB, Simulink, Stateflow, Handle Graphics, Real-Time Workshop, SimBiology, SimHydraulics, SimEvents, and xPC TargetBox are registered trademarks and The MathWorks, the L-shaped membrane logo, and Embedded MATLAB are trademarks of The MathWorks, Inc.
|
|
