CIO Tech Eksperten IT-JOB IT-Kurser Events Podcast Søg
Cookie ikon
Avatar billede RasmusRR Nybegynder
18. december 2011 - 22:15 Der er 1 kommentar og
2 løsninger

Regner forkert når jeg dividere med 100

Jeg har et script som der finder ved hjælp af Randomize finder et tal mellem  1000 og 10 000.
Jeg støder ind i det problem at når jeg dividerer tallet med 100 får jeg ind i mellem et tal med mange decimaler.

f.eks.
9374 / 100 = 93,74001

Hvad går der galt??


Randomize
varTal1 = int(rnd * 8999) + 1000
varTal2 = varTal1/100
Avatar billede larste Nybegynder
19. december 2011 - 09:23 #1
Hmm, har ikke den store forstand på asp, men prøv det her:

varTal1 = Convert.ToInt32((rnd*8999) + 1000)
varTal = varTal1 / 100

Dette er ikke testet.
Avatar billede SkyShaker Nybegynder
20. december 2011 - 01:58 #2
Prøv med:
Randomize
varTal1 = int(rnd * 8999) + 1000
varTal2 = varTal1/100
varTal2 = replace(formatnumber(varTal2,0,0),".","")

den skulle i hvert fald gerne sørge for at du ingen decimaler får...

\SkyShaker
Avatar billede allanbang Nybegynder
20. december 2011 - 13:57 #3
http://en.wikipedia.org/wiki/Floating_point#Accuracy_problems giver en forklaring på hvorfor det går galt når man konvertere fra heltal til decimaltal i en computer.
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
Programmeringssprog kurser
Kurser inden for grundlæggende programmering
Se alle Programmeringssprog kurser

Flere spørgsmål fra ASP kategorien

Titel Indlæg Oprettet Seneste aktivitet
ASP classic Af bsn i ASP 8 28/10/202423:11 30/10/202422:51
Classic - filer vist med sidste fil først Af bsn i ASP 5 23/05/202409:56 24/05/202400:02
Optimer MySql table med ASP Af poulmadsen i ASP 4 26/04/202417:16 26/04/202418:37
JSON Af ingeman i ASP 3 07/04/202417:53 08/04/202412:09
Vis detaljeret fejlkoder Af poulmadsen i ASP 6 09/03/202418:16 10/03/202417:59
Se alle spørgsmål i kategorien Opret spørgsmål

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Opret Log ind

Du kan også logge ind via nedenstående tjenester



Alle kategorier på Eksperten
Seneste spørgsmål Seneste aktivitet
I dag 15:53 Ccleaner og Avast Premium Af nu_igen i Andet software
I dag 14:41 Fremme e-mail konti, YouSee Webmail, i Outlook.com (gratis) Af mort1 i E-mail programmer
I dag 13:13 Returnere korrekt værdi ved dubletter Af karina1971 i Excel
I dag 08:56 HP support Af gerhardpet i Printere
I går 16:41 Me.Form.Painting = True/False ore Me.Painting = True/false Af per2edb i Access
White papers
Flere white papers »


Premium
Teaser billede
Forslag til dansk AI-lov sendes nu i høring: Skal træde i kraft om få måneder - se det her
Læs mere »
It-leverandør ramt af flodbølge af erstatningskrav fra kunder efter cyberangreb
Vokseværk: Så meget er Digitaliseringsstyrelsen vokset på to år
Microsoft: Sådan stjæler hackere data fra vores kunder
Se alle »
Computerworld
Teaser billede
Russisk domstol: Google skal betale 20 kvintilliarder dollar i bøde - fordobles løbende
Læs mere »
Test: Det er nærmest vanedannede at anvende disse mini-tastaturer
Linus Torvalds giver russiske Linux-udviklere sparket: Vil ikke have noget med dem at gøre
Test af Apple Watch Series 10: Apples jubilæums-model er blevet lidt af en mester af det hele
Se alle »
CIO
Teaser billede
Novo Nordisk satsede på HoloLens, men nu har Microsoft dræbt produktet
Læs mere »
It-leverandør ramt af flodbølge af erstatningskrav fra kunder efter cyberangreb
Microsoft: Sådan arbejder Google målrettet på at skade os i det skjulte
Jyske Bank er en af de største ejere af Bankdata – men nu har banken købt et nyt system hos konkurrenten BEC
Se alle »
Job & Karriere
Teaser billede
Pludselig exit fra Schultz kom som en overraskelse for Merete Søby: Derfor stoppede samarbejdet
Læs mere »
Danske Aeven flytter hele hovedkontoret med 600 medarbejdere til ny adresse og tager Sentia med
Merete Søby fratræder med omgående virkning som CEO for Schultz efter blot tre måneder på posten
Microsoft klar med ny direktion for den danske forretning: Her er de nye direktører
Se alle »
White paper
Teaser billede
Sådan får du overblik og beskytter dine cloudapplikationer
Læs mere »
Det behøver ikke at gøre ondt: Sådan gør du livet lettere for kunder med multicloud
Vær proaktiv og prioritér IT-sikkerheden – før det er for sent
Sæt turbo på din cloudperformance og minimér risikoen for DDoS-angreb
Se alle »

Events
Flere events »
White papers
Flere white papers »
IT-Kurser
Se alle vores it-kurser »