Crawler von Amazon

Amazon betreibt 3 Crawler, die Ihre Website erreichen können. Sie erledigen unterschiedliche Aufgaben; eine pauschale Regel für alle ist fast immer falsch.

User-AgentTypWas er tut
AmazonbotSucheBaut den Index auf, den ein Assistent beim Antworten durchsucht.
Amzn-SearchBotSucheBaut den Index auf, den ein Assistent beim Antworten durchsucht.
NovaActNutzeranfrageRuft Ihre Seite ab, weil jemand gerade danach gefragt hat.

Was das Blockieren kostet

Suche
Blockieren entfernt Sie aus Antworten, die gerade entstehen.
Nutzeranfrage
Blockieren bedeutet, dass dieser Person gesagt wird, die Seite könne nicht gelesen werden.

robots.txt

Um jeden Amazon-Crawler durchzulassen:

User-agent: Amazonbot
Allow: /

User-agent: Amzn-SearchBot
Allow: /

User-agent: NovaAct
Allow: /

Um alle zu blockieren:

User-agent: Amazonbot
Disallow: /

User-agent: Amzn-SearchBot
Disallow: /

User-agent: NovaAct
Disallow: /

robots.txt wird freiwillig beachtet. Damit erklären Sie Ihre Absicht. Den Zugriff sperrt die Datei nicht, schützen Sie wirklich vertrauliche Inhalte daher durch Authentifizierung.

Quellen

Darf Amazon auf Ihre Website?

Wir lesen Ihre robots.txt und sagen Ihnen, welche KI-Crawler sie durchlässt. Keine Anmeldung.