Crawlers van Amazon

Amazon gebruikt 3 crawlers die je site kunnen bereiken. Ze doen verschillende taken, dus één algemene regel is bijna altijd de verkeerde keuze.

User-agentTypeWat hij doet
AmazonbotZoekenBouwt de index die een assistent doorzoekt bij een antwoord.
Amzn-SearchBotZoekenBouwt de index die een assistent doorzoekt bij een antwoord.
NovaActDoor gebruiker gestartHaalt je pagina op omdat iemand er zojuist naar vroeg.

Wat het blokkeren kost

Zoeken
Blokkeren verwijdert je uit antwoorden van nu.
Door gebruiker gestart
Blokkeren betekent dat die persoon hoort dat de pagina niet gelezen kon worden.

robots.txt

Om elke crawler van Amazon toe te laten:

User-agent: Amazonbot
Allow: /

User-agent: Amzn-SearchBot
Allow: /

User-agent: NovaAct
Allow: /

Om ze allemaal te blokkeren:

User-agent: Amazonbot
Disallow: /

User-agent: Amzn-SearchBot
Disallow: /

User-agent: NovaAct
Disallow: /

robots.txt wordt vrijwillig gerespecteerd. Het is de juiste manier om je intentie te tonen, maar het regelt geen toegang. Bescherm gevoelige inhoud met authenticatie.

Bronnen

Is Amazon toegestaan op je site?

We lezen je robots.txt en vertellen welke AI-crawlers worden toegelaten. Geen registratie.