CIO Tech Eksperten IT-JOB IT-Kurser Events Podcast Søg
Cookie ikon
Avatar billede RasmusRR Nybegynder
18. december 2011 - 22:15 Der er 1 kommentar og
2 løsninger

Regner forkert når jeg dividere med 100

Jeg har et script som der finder ved hjælp af Randomize finder et tal mellem  1000 og 10 000.
Jeg støder ind i det problem at når jeg dividerer tallet med 100 får jeg ind i mellem et tal med mange decimaler.

f.eks.
9374 / 100 = 93,74001

Hvad går der galt??


Randomize
varTal1 = int(rnd * 8999) + 1000
varTal2 = varTal1/100
Avatar billede larste Nybegynder
19. december 2011 - 09:23 #1
Hmm, har ikke den store forstand på asp, men prøv det her:

varTal1 = Convert.ToInt32((rnd*8999) + 1000)
varTal = varTal1 / 100

Dette er ikke testet.
Avatar billede SkyShaker Nybegynder
20. december 2011 - 01:58 #2
Prøv med:
Randomize
varTal1 = int(rnd * 8999) + 1000
varTal2 = varTal1/100
varTal2 = replace(formatnumber(varTal2,0,0),".","")

den skulle i hvert fald gerne sørge for at du ingen decimaler får...

\SkyShaker
Avatar billede allanbang Nybegynder
20. december 2011 - 13:57 #3
http://en.wikipedia.org/wiki/Floating_point#Accuracy_problems giver en forklaring på hvorfor det går galt når man konvertere fra heltal til decimaltal i en computer.
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
Programmeringssprog kurser
Kurser inden for grundlæggende programmering
Se alle Programmeringssprog kurser

Flere spørgsmål fra ASP kategorien

Titel Indlæg Oprettet Seneste aktivitet
Classic - filer vist med sidste fil først Af bsn i ASP 5 23/05/202409:56 24/05/202400:02
Optimer MySql table med ASP Af poulmadsen i ASP 4 26/04/202417:16 26/04/202418:37
JSON Af ingeman i ASP 3 07/04/202417:53 08/04/202412:09
Vis detaljeret fejlkoder Af poulmadsen i ASP 6 09/03/202418:16 10/03/202417:59
IIS virker ikke på asp sider... Af bsn i ASP 10 15/10/202313:12 18/10/202308:48
Se alle spørgsmål i kategorien Opret spørgsmål

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Opret Log ind

Du kan også logge ind via nedenstående tjenester



Alle kategorier på Eksperten
Seneste spørgsmål Seneste aktivitet
I dag 11:04 Bedste Bærbar Af mikerojakes i PC
I dag 09:46 Elektronisk lup til billeder Af KurtG i Browsere
I går 10:57 Pinnacle videoredigering Af gerhardpet i Billedbehandling
02/0816:51 UNILOGIN i GOOGLE Af lao i Browsere
02/0810:07 Kan det gøres lettere Af densortehingst i Excel
White papers
Flere white papers »


Premium
Teaser billede
Nvidia efterforskes for brud på konkurrencelov
Læs mere »
Den store cloud-krig raser stadigvæk - og Amazon ser lige nu ud til at have overhånden
Apple præsenter første regnskab siden AI-udmelding: Her er tre bemærkelsesværdige pointer derfra
Sårbarhed kan let give administratorrettigheder til alle: Udnyttes allerede af ransomware-grupper
Se alle »
Computerworld
Teaser billede
Første test: Denne helt nye wunder-CPU vil du have i din næste laptop
Læs mere »
Alvorlig fejl i Intel-chips breder sig: Listen over ramte processor vokser og vokser – og de kan blive permanent beskadigede
’Apple Intelligence’ slippes løs: Her kommer første mulighed for at afprøve Apples kunstige intelligens
Flere statslige it-løsninger ramt af netværksproblemer - ansatte kunne ikke få mail-adgang
Se alle »
CIO
Teaser billede
Stor aftale gør Microsofts datacentre hurtigere - investerer i netværksudstyr
Læs mere »
Telenor skrotter ældre it-system: Nyt system er en hyldevare
Derfor står Danske Bank foran en kæmpe AWS-transformation: Ellers skulle vi bygge en ny infrastruktur for at følge med
NIS2 i Danmark udskydes med flere måneder: Her er den nye dato, hvor loven træder i kraft
Se alle »
Job & Karriere
Teaser billede
Efter 12 år er NNIT's hovedkvarter i Søborg nu ryddet og tomt - alle arbejder hjemme: "Det er med et vist vemod"
Læs mere »
KMD-direktør forlader selskabet: Det skal hun nu
Dansk top-profil trækker sig fra Microsoft: Skal være direktør i TDC Erhverv
IBM Danmark skifter ud i sin øverste ledelse - her er den nye direktion
Se alle »
White paper
Teaser billede
Det behøver ikke at gøre ondt: Sådan gør du livet lettere for kunder med multicloud
Læs mere »
Rapport kortlægger de 13 bedste muligheder for at sætte turbo på din cloud computing
Informationshåndtering på frontlinjen: Sådan optimerer du med automatisering
Nemmere overblik, styring og omkostningskontrol i dit multicloud-miljø
Se alle »

Events
Flere events »
White papers
Flere white papers »
IT-Kurser
Se alle vores it-kurser »