Avatar billede mercutio Nybegynder
05. marts 2008 - 22:16 Der er 3 kommentarer

Xpath validering og transformering af meget store xml filer

Hejsa.

Jeg står med en xml fil på over 100 mb. Har i nogle gode ideer til hvordan jeg kan håntere den i java? jeg skal kunne modtage så store filer validere at filen er korrekt trække lidt værdier ud og så transformere den bagefter.

Er der nogle opensource projekter i har gode erfaringer med der vil kunne håntere ovenstående.

På forhånd tak.
Merc.
Avatar billede arne_v Ekspert
05. marts 2008 - 22:35 #1
Er der et problem med standard Java XML API'er.

- laes 100 MB XML fil ind i 500 MB in memory Document med validering
- lav transformering til nyt 500 MB Document via XSLT
- udskriv til fil

vil kraeve 1 GB mem (maaske endda mindre).

Er det et problem ?
Avatar billede mercutio Nybegynder
05. marts 2008 - 23:16 #2
Hej Arne.
Jep problemet er memory. Jeg sidder lige nu og lejer med en fil på 120 mb hvis jeg parser den med Dom ryger jeg out of memory ved 500 mb. I produktion har vi mere memory til rådighed men vores server går ned alligevel.
Avatar billede arne_v Ekspert
06. marts 2008 - 02:35 #3
Hvor meget memeory krævet det at indlæse og validere (vi glemmer lige transformeringen
for et øjebklik) den 120 MB XML fil ?

Og hvilken implementation af JAXP bruger I ?
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
Kurser inden for grundlæggende programmering

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Du kan også logge ind via nedenstående tjenester