Forklar lige dette

hvorfor bruger du int (int er heltal)

Kører du med en tidlig Pentium?

:)

Min gør det også!

Sjov ting:

int(gurli*10) giver 46
int(gurli*100) giver 459

Begge mine maskiner er PII.

Dette er bare et eksempel

Endnu mere mærkeligt: int(gurli*1000) giver 4600

Double >>brug den.

>> jelzin101:
Jeg er interesseret i at trunkere tallet med 2 decimaler. Det kan jeg gøre på anden måde, men dette forbander mig en smule.

ah ok. så kan jeg desv. ikke hjælpe sorry :)

gør sådan her
dim gurli
gurli = Math.Round(23 / 5, 2)
Response.Write((gurli*100)/100)

Hvis der er for at udskrive tallet så kan du også gøre dette.

dim gurli
gurli= 23/5
Response.Write int(gurli) & \".\" & ((gurli * 100) mod 100)

Det er vel mere det at Int(gurli*100) regner forkert - det er jo interessant.

Sone:> Int regner ikke forkert!    ;)
Problemet er at 4,6, så vidt jeg kan regne ud, er en uendelig decimal brøk i det binære talsystem, og den måde som decimaler bliver lagret på internt giver afrundingsfejl ved visse tal.
Som MS siger det er ikke en fejl, det er \'behaviour by design\'

oswald:> Uden at have regnet efter, kunne jeg være tilbøjelig til at give dig ret, men...
Hvordan forklarer du, at det i dette eksempel kun er for en faktor 100, det går galt. Og hvis dit eget eksempel holder, så kun for Int() funktionen?

Mit eksempel laver også regnefejlen.
Det er ikke kun faktor 100 der går galt, int(gurli * 100000) giver 459999 og int(test * 100000000) giver 459999999.
Når vi snakker om meget små afrundingsfejl vil forskellen altid opstå på sidste decimal.

Den eneste måde at sikre sig mod den type afrundingsfejl er ved at sørge for at holder alle betydende cifre i integer delen. I denne tilfælde vil det betyde at det oprindelige regnestylle skylle være noget i stilen med.

dim gurli
gurli= 23/5  * 100
Response.Write (gurli \\ 100) & \".\" & (gurli mod 100)

--- lidt historie ---
Den første version af windows calculator lavede faktisk en lignende fejl. Hvis man dividerede 1 med 10 og lage resultatet til sig selv 10 gange fik man ikke 1 men 0,999.... :)

Har du en stor sentimental tilknytning til din Points ;) eller vil du have en yderligere uddybning?