Crawler
Content version:
Om GrimlaBot
GrimlaBot er crawleren til Grimla, en tjeneste for å oppdage produkter hos verifiserte nettbutikker. Den besøker nettbutikker for å samle inn den offentlige virksomhetsinformasjonen som driver verifiseringskatalogen vår — de samme opplysningene som en butikk er pålagt å vise. Den identifiserer seg som GrimlaBot og lenker tilbake til denne siden.
Slik kjenner du igjen GrimlaBot
- Dens user agent er
Mozilla/5.0 (compatible; GrimlaBot/1.0; +https://grimla.com/bot). - GrimlaBot requests are identified by the user agent and a cryptographic Web Bot Auth signature. Public keys are published at https://grimla.com/.well-known/
http-message-signatures-directory . - While all nodes use exits, /bot/ips.txt contains comments only. Rotating exit addresses are not published. If direct mode is enabled, the file lists only the direct nodes' request addresses.
Hva vi ser på
- Forsiden din og offentlige virksomhetssider (virksomhetsopplysninger, vilkår, personvern, retur, kontakt)
- Noen få kategorisider, for å se hva du selger
- For oppførte butikker, produktfeeden din — slik at prisene holdes oppdatert, oppdateres omtrent én gang om dagen
Slik oppfører GrimlaBot seg
- Den leser bare et lite antall sider per butikk
- Den begrenser hvor mange forespørsler den sender om gangen
- Den sjekker
robots.txtførst
Reserver deg — én av disse holder
- Legg dette til i
robots.txt:User-agent: GrimlaBot Disallow: / - Eller, som et alternativ, legg dette til i
<head>på siden din:<meta name="grimlabot" content="noindex"> - Eller send e-post til [email protected] fra en adresse på butikkens domene, slik at vi kan bekrefte at forespørselen virkelig er fra deg.