Απ: Ανακριβή αποτελέσματα σε Double

Παναγιώτης Καναβός — Wed, 03 Sep 2008 23:41:59 GMT

Γιατί ... δεν είναι λάθος! Οι floating point αριθμοί δεν έχουν εγγυημένη ακρίβεια καθώς αναπαριστούν κάθε αριθμό ως γινόμενο ενός πολλαπλασιαστή με μία δύναμη του 10. Αν δεν υπάρχουν αρκετά bits για να παρουσιαστεί ο πολλαπλασιαστής, θα εμφανιστούν τέτοια προβλήματα. Γι αυτό και ποτέ δεν ελέγχουμε floating point αριθμούς για ισότητα, αλλά ελέγχουμε αν διαφέρουν κατά μία πολύ μικρή τιμή.

Αν θέλεις κάποιο τύπο ο οποίος αναπαριστά δεκαδικούς χωρίς προβλήματα προσέγγισης, χρησιμοποίησε τον decimal.

Ανακριβή αποτελέσματα σε Double

akakos — Wed, 03 Sep 2008 23:00:19 GMT

Γιατί το αποτέλεσμα του παρακάτω βγαίνει λάθος;
Dim dbl As Double
dbl = 2.4 - 1.1 (αποτέλεσμα 1.2999999999999999999)
dbl -= 1.3
Αν τώρα πούμε
if dbl <0 Then ...Την πατήσαμε γιατί το dbl είναι μικρότερο του 0.

Πρώτα Βήματα - Αρχές προγραμματισμού

Απ: Ανακριβή αποτελέσματα σε Double

Ανακριβή αποτελέσματα σε Double