|
|
|
Rechengenauigkeit subtraktion |
|
| Matlab newbie |
Gast
|
 |
Beiträge: ---
|
|
|
|
Anmeldedatum: ---
|
|
|
|
Wohnort: ---
|
|
|
|
Version: ---
|
|
|
|
 |
|
Verfasst am: 11.05.2011, 22:03
Titel: Rechengenauigkeit subtraktion
|
 |
Hallo zusammen. Ich habemal ne Frage. Wenn ich 2 zahlen subtrahiere, die sehr klein sind, ab wann rundet matlab? Also wenn ich zum Beispiel die zahlen 0,000000008 - 0,000000000006 subtrahiere. Ab welcher nachkommastelle würd gerundet? Und wenn ja, kann ich das ändern?
Gruß
Sara
|
|
|
|
|
|
| Jan S |
Moderator
|
|
Beiträge: 11.057
|
|
|
|
Anmeldedatum: 08.07.10
|
|
|
|
Wohnort: Heidelberg
|
|
|
|
Version: 2009a, 2016b
|
|
|
|
|
|
|
Verfasst am: 12.05.2011, 00:04
Titel: Re: Rechengenauigkeit subtraktion
|
|
Hallo,
Matlab verwendet IEEE-754 Floating Point Arithmetik, wie praktisch jede Software, die für wissenschaftliche Zwecke genutzt wird. Dabei werden Zahlen mit etwa 16 Ziffern gespeichert. Ob die nun vor oder nach dem Komma stehen, ist dabei egal, da führende Nullen nicht gespeichert werden. Statt dessen wird ein Exponent gespeichert. Man hat also für 0.000000008 die interne Darstellung:
0.8000000000000000 * 10^-8
Es wird also, wie immer, nach der 16. Nachkommastelle gerundet.
Wikipedia und Google finden zu den Stichwörtern "IEEE754" und "floating point arithmetics" Berge von Information zu diesem wieten Thema.
Allerdings gibt es in Matlab noch eine Fixed-Point-Toolbox. Damit kann man auch mit fester Dezimal-Komma-Position rechnen.
Gruß, Jan
|
|
|
|
|
|
|
Einstellungen und Berechtigungen
|
|
Du kannst Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.
Du kannst Dateien in diesem Forum posten
Du kannst Dateien in diesem Forum herunterladen
|
|
Impressum
| Nutzungsbedingungen
| Datenschutz
| FAQ
|  RSS
Hosted by:
Copyright © 2007 - 2024
goMatlab.de | Dies ist keine offizielle Website der Firma The Mathworks
MATLAB, Simulink, Stateflow, Handle Graphics, Real-Time Workshop, SimBiology, SimHydraulics, SimEvents, and xPC TargetBox are registered trademarks and The MathWorks, the L-shaped membrane logo, and Embedded MATLAB are trademarks of The MathWorks, Inc.
|
|
