Sitemap-generator der overholder robots.txt ?!?
Jeg har to sites: et dansk og et non-dansk.Begge sites har det samme indhold og kan læses på de samme sprog, men jeg ønsker kun sitemap på det danske site på dansk, hvorimod det non-danske site skal have et sitemap på alle andre sprog end dansk.
På den måde undgår jeg at Google straffer duplicate content.
Jeg har specificeret i robots.txt, hvilke sider søgemaskiner må indeksere.
MEN, Men, men, alle de sitemap-generatorer, jeg har afprøvet, overholder ikke de regler, jeg har sat op i robots.txt, suk.
Ikke for at reklamere for mine sites, men det er måske lettere at forstå, hvad jeg beskriver, hvis I har mulighed for at tilgå sitene:
Det danske site: www.udkik.dk
Det non-danske site: www.yachtdatabase.com
På forhånd tak