|
|
|
Probleme mit Matlabs Genauigkeit |
|
| TomTom0815 |
Forum-Newbie
|
 |
Beiträge: 1
|
|
|
|
Anmeldedatum: 08.07.11
|
|
|
|
Wohnort: ---
|
|
|
|
Version: ---
|
|
|
|
 |
|
Verfasst am: 08.07.2011, 16:29
Titel: Probleme mit Matlabs Genauigkeit
|
 |
Hi,
ich habe ein kleines Problem mit der Fließkommagenauigkeit von Matlab:
Bei folgender Rechnung:
12*0.05-0.6
... erhalte ich folgendes Ergebnis:
1.110223024625157e-016
... anstelle dem Richtigen: 0.
a) Warum passiert das ?
b) Wie kann ich solche Probleme in zukunft vermeiden bzw. erkennen wenn es mit den Standardeinstellungen gefährlich wird ?
Mein aktueller Workaround für diesen Fall sieht übrigens so aus:
single(12)*single(0.05)-single(0.6)
---> 0
Für jede Hilfe vielen Dank !
|
|
|
|
|
|
| Bijick |
Ehrenmitglied
|
|
Beiträge: 914
|
|
|
|
Anmeldedatum: 18.06.07
|
|
|
|
Wohnort: Nürnberg
|
|
|
|
Version: R2006b, R2008b
|
|
|
|
|
|
|
Verfasst am: 08.07.2011, 20:03
Titel:
|
|
|
|
|
| Jan S |
Moderator
|
|
Beiträge: 11.057
|
|
|
|
Anmeldedatum: 08.07.10
|
|
|
|
Wohnort: Heidelberg
|
|
|
|
Version: 2009a, 2016b
|
|
|
|
|
|
|
Verfasst am: 08.07.2011, 21:50
Titel: Re: Probleme mit Matlabs Genauigkeit
|
|
Hallo TomTom0815,
Herzlich willkommen in der Welt der Numerik mit begrenzter Genauigkeit. Das Ergebnis 1.110223024625157e-016 für 12*0.05-0.6 ist durchaus korrekt.
Die Verwendung von SINGLEs macht das Problem übrigens im Allgemeinen größer, da die Rundungsfehler zunehmen.
Gruß, Jan[/i]
|
|
|
|
|
|
|
Einstellungen und Berechtigungen
|
|
Du kannst Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.
Du kannst Dateien in diesem Forum posten
Du kannst Dateien in diesem Forum herunterladen
|
|
Impressum
| Nutzungsbedingungen
| Datenschutz
| FAQ
|  RSS
Hosted by:
Copyright © 2007 - 2025
goMatlab.de | Dies ist keine offizielle Website der Firma The Mathworks
MATLAB, Simulink, Stateflow, Handle Graphics, Real-Time Workshop, SimBiology, SimHydraulics, SimEvents, and xPC TargetBox are registered trademarks and The MathWorks, the L-shaped membrane logo, and Embedded MATLAB are trademarks of The MathWorks, Inc.
|
|
