CIO Tech Eksperten IT-JOB IT-Kurser Events Podcast Søg

Log ind eller opret profil

Du kan også logge ind via nedenstående tjenester

RasmusRR Nybegynder

18. december 2011 - 22:15 Der er 1 kommentar og
2 løsninger

Regner forkert når jeg dividere med 100

Jeg har et script som der finder ved hjælp af Randomize finder et tal mellem 1000 og 10 000.
Jeg støder ind i det problem at når jeg dividerer tallet med 100 får jeg ind i mellem et tal med mange decimaler.

f.eks.
9374 / 100 = 93,74001

Hvad går der galt??

Randomize
varTal1 = int(rnd * 8999) + 1000
varTal2 = varTal1/100

Synes godt om

larste Nybegynder

19. december 2011 - 09:23 #1

Hmm, har ikke den store forstand på asp, men prøv det her:

varTal1 = Convert.ToInt32((rnd*8999) + 1000)
varTal = varTal1 / 100

Dette er ikke testet.

Synes godt om

SkyShaker Nybegynder

20. december 2011 - 01:58 #2

Prøv med:
Randomize
varTal1 = int(rnd * 8999) + 1000
varTal2 = varTal1/100
varTal2 = replace(formatnumber(varTal2,0,0),".","")

den skulle i hvert fald gerne sørge for at du ingen decimaler får...

\SkyShaker

Synes godt om

allanbang Nybegynder

20. december 2011 - 13:57 #3

http://en.wikipedia.org/wiki/Floating_point#Accuracy_problems giver en forklaring på hvorfor det går galt når man konvertere fra heltal til decimaltal i en computer.

Synes godt om

Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Følg dette spørgsmål

Opret Preview

Programmeringssprog kurser

Kurser inden for grundlæggende programmering

Se alle Programmeringssprog kurser

Flere spørgsmål fra ASP kategorien

Titel	Indlæg	Oprettet	Seneste aktivitet
ASP classic Af bsn i ASP	8	28/10/202423:11	30/10/202422:51
Classic - filer vist med sidste fil først Af bsn i ASP	5	23/05/202409:56	24/05/202400:02
Optimer MySql table med ASP Af poulmadsen i ASP	4	26/04/202417:16	26/04/202418:37
JSON Af ingeman i ASP	3	07/04/202417:53	08/04/202412:09
Vis detaljeret fejlkoder Af poulmadsen i ASP	6	09/03/202418:16	10/03/202417:59

Se alle spørgsmål i kategorien Opret spørgsmål

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Du kan også logge ind via nedenstående tjenester

Alle kategorier på Eksperten

Seneste artiklerRSS

01/11

Test af Apple Watch Series 10: Apples jubilæums-model er blevet lidt af en mester af det hele

01/11

Google Clouds netop fratrådte topchef har fundet sit nye job: Bliver en af de mest magtfulde personer hos ServiceNow

01/11

Nu går OpenAI efter struben på Google: ChatGPT fungerer nu også som en AI-søgemaskine

01/11

Nørgaard: Agenterne kommer, og jeg er klar: Måske bliver min gamle drøm snart virkelighed

01/11

Staten vil selv udvikle kæmpe it-system til 650 millioner kroner: Nu tvinges regeringen til at lægge vigtige dokumenter frem

01/11

Det går fantastisk på det danske Dynamics-marked: NNIT-selskabet Scales kan vælge og vrage mellem opgaver

01/11

Linus Torvalds giver russiske Linux-udviklere sparket: Vil ikke have noget med dem at gøre

01/11

Skelsættende GDPR-sag ændrer definitionen af 'følsomme oplysninger'

01/11

Google indlemmer sin AI Gemini i Google Maps, Google Earth og Waze: Det kommer det til at betyde

01/11

Microsoft: Tvungen skift til Windows 11 kan udskydes med et år, hvis du betaler os 200 kroner

01/11

Sådan blev Margrethe Vestager ’Silicon Valleys største fjende’

Vis flere artikler

IT-JOB

Paychex Europe

Technical QA Specialist to Danløn

DEIF A/S

Technical Lead, Software Architecture

Capgemini Danmark A/S

Salesforce Senior Technical Consultant

Cognizant Technology Solutions Denmark ApS

Data Architect

Gogift.Com A/S

Join GoGift as a Strategic Tech Project Manager

Vis flere jobs

Seneste spørgsmål Seneste aktivitet

I dag 06:10	Excel åbner fil i kæmpe format Af Aske i Excel
I går 22:00	Datafordeler Af Lsk i PHP
I går 12:37	Summere beløb pr. dato Af TTA i Excel
31/1022:44	Tilslutte chassic fans Af viking69 i PC
31/1020:28	LED lysstofrør Af ErikHg i Fri debat