Avatar billede chrisbuchholz Nybegynder
18. februar 2009 - 01:54 Der er 1 kommentar og
1 løsning

Hvorfor er 0.8 - 0.1 = 0.7000000000000001

Hej,

jeg er flere gange løbet ind i problemet at 0.8 - 0.1 af en eller anden grund giver 0.7000000000000001.
Jeg har aldrig fundet ud af hvorfor det lige pludselig begynder at virker (det giver 0.7), men ligeså pludseligt som det dukker op, lige så pludseligt forsvinder det igen.

Jeg har prøvet en masse forskellige ting, så som at oprette et nyt dokument og blot kører alert(0.8 - 0.1) og det giver bare hele tiden 0.7000000000000001.

Hvorfor gør det det?
Avatar billede chrisbuchholz Nybegynder
18. februar 2009 - 02:11 #1
Ah, problemet er simpelthen måden computere tyder floating points numbers på, hvilket gør at de ikke er gode at regne med.

Løsningen er bare at tage tallene som integers og så dividere dem med 10 når de skal bruges i floating point form.

http://www.codingforums.com/archive/index.php/t-52075.html
Avatar billede chrisbuchholz Nybegynder
18. februar 2009 - 02:11 #2
og svar
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
Vi tilbyder markedets bedste kurser inden for webudvikling

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Du kan også logge ind via nedenstående tjenester