Under double opførsel

Projekt 1 er et lille testprojekt.

Projekt 2 er en del af en større applikation.

det afhænger af hvad din doubleprice variabel er (mon doublePrice1 og doublePrice skulle være det samme) og hvordan du vælger at formattere/udskrive resultat... (du skriver heller ikke hvilke type resultat er i de to tilfælde (om det er double)

Er både doubleprice og resultat defineret som double i begge projekter?

Projekt 1:
double doublePrice1 = 0.19;
doublePrice1 *= 10.0;
Resultat: 1.9 // som forventet

Projekt 2:
double doublePrice1 = 0.19;
doublePrice1 *= 10.0;
Resultat: 1.8999999761581421 // Ikke forventet

Det er samme variabel. Det er det der gør det underligt.

Hvordan det udskrives har ikke noget at sige. Og resultatet er doublePrice1.

hvordan finder du ud af hvad resultatet er? i hvert tilfælde

:) Som sagt har det ingen indflydelse på det, men hvis du absolut vil vide så:

- Trace.WriteLine (doublePrice1);
- textbox.Text = doublePrice1.ToString();
- Gemt i databasen uden konvertering
- Debugger (QuickWatch)

Alle med samme resultat.

er du 112% sikker paa at den "forkerte" koden ikke bruger 0.19f og 10.0f ?

f betyder floar konstant og ikke double konstant og giver praecis det "forkerte" resultat

float konstant

Hej mikkelbm,

Hvis du skriver præcis det her i begge projekter:


double doublePrice1 = 0.19;
doublePrice1 *= 10.0;
Console.WriteLine(doublePrice1);


Udskriver den da 1.9 i det lille projekt og 1.8999999761581421 i det andet?


Det er meget vigtigt at 0.19 og 10.0 sættes som de gør i begge projekter og du ikke får dem et andet sted fra (som f.eks. en database) i et af projekterne. Hvis du indsætter de 3 linjer ovenover i begge projekter burde den udskrive 1.9 i consolen begge steder. :)


Mvh.

- Snap

men ioevrigt boer du bruge decimal til priser !!!!!!!!!

Hov og det er med den forudsætning at du kører det på samme hardware (samme computer)
:)

Mvh.

- Snap

Ta lige et kig her:  http://www.yoda.arachsys.com/csharp/floatingpoint.html

Samt at de begge skal køre i samme mode, altså begge i debug mode eller begge i release mode. :)

arne_v
15/05-2007 10:52:03
Jeg har prøvet at køre koden som jeg skrev i spørgsmålet, så det er jeg temmelig sikker på, ja.

crazysnap
15/05-2007 10:53:22
Jeg har prøvet at hardcode de samme værdier i begge projekter, og resultatet er det samme.

arne_v
15/05-2007 10:53:24
Værdierne skal senere skrives til hardware, så der bliver de kortet af alligevel.

crazysnap
15/05-2007 10:54:28
Samme maskine for begge projekter.

crazysnap
15/05-2007 11:01:06

I det lille testprojekt kører jeg bare testprojektet.

I det andet starter jeg vores hoved-applikation og debugger derigennem.

Men begge kører i debug-mode.

Bare lige for at I kan se, at jeg ikke er helt tosset, har jeg taget nogle screenshots af scenariet, hvor man ser quick-watch værdien af den omregnede double:

Billede fra mit test-projekt:
http://www.tallyflex.com/test_project.png

Billede fra vores store projekt:
http://www.tallyflex.com/real_project.png

Og som Arne også påpeger ville jeg forvente dette kunne ske ved en float, men jeg vidste ikke det kunne ske ved en double.

Jeg kan ikke genskabe:

C:\>type z.cs
using System;

namespace E
{
        public class MainClass
        {
                public static void Main(string[] args)
                {
                        double x = 0.19;
                        x *= 10.0;
                        Console.WriteLine(x);
                        double y = 0.19f;
                        y *= 10.0f;
                        Console.WriteLine(y);
                }
        }
}


C:\>csc z.cs
Microsoft (R) Visual C# .NET Compiler version 7.10.6001.4
for Microsoft (R) .NET Framework version 1.1.4322
Copyright (C) Microsoft Corporation 2001-2002. All rights reserved.


C:\>z
1.9
1.89999997615814

C:\>csc /o+ z.cs
Microsoft (R) Visual C# .NET Compiler version 7.10.6001.4
for Microsoft (R) .NET Framework version 1.1.4322
Copyright (C) Microsoft Corporation 2001-2002. All rights reserved.


C:\>z
1.9
1.89999997615814

det rigtige projekt er vel ikke noget der compiles til .NET CF ?

Er værdierne ens hvis du kigger på dem råt. (altså i hex i et memory view)

arne_v
15/05-2007 12:11:14

De compiles begge med .NET 2.0 almindelig compiler.

Test projekt:

66-66-66-66-66-66-FE-3F

Det store projekt:
00-00-00-60-66-66-FE-3F


Fundet ved at gøre følgende:
double test = 0.19;
test *= 10.0;
string hex = BitConverter.ToString (BitConverter.GetBytes (test));

Hej mikkelbm,


Har du checket at optimization i projekt properties er sat ens for begge projekter? F.eks. kunne "Optimize code" være checked for det ene projekt men ikke for det andet? Eller måske er der sat nogen andre build egenskaber op som ikke stemmer overens mellem de to projekter?

Mvh.

- Snap

crazysnap

Det er samme indstillinger for begge projekter.

Noget tyder på at det er en ting vi må leve med, så løsningen blev at afrunde beløbet umiddelbart inden det blev skrevet til hardware.

Så hvis Arne, Crazysnap og mh6000 smider et svar...

Svar :-)

Så kommer der da også et herfra! :)

.

hvis du kigger på koden via ILDASM ser den så ens eller forskellig ud ?