Crawlers van Anthropic
Anthropic gebruikt 5 crawlers die je site kunnen bereiken. Ze doen verschillende taken, dus één algemene regel is bijna altijd de verkeerde keuze.
| User-agent | Type | Wat hij doet |
|---|---|---|
ClaudeBot | Training | Verzamelt pagina's om toekomstige modellen te trainen. |
Claude-SearchBot | Zoeken | Bouwt de index die een assistent doorzoekt bij een antwoord. |
Claude-User | Door gebruiker gestart | Haalt je pagina op omdat iemand er zojuist naar vroeg. |
Claude-Web | Door gebruiker gestart | Haalt je pagina op omdat iemand er zojuist naar vroeg. |
anthropic-ai | Training | Verzamelt pagina's om toekomstige modellen te trainen. |
Wat het blokkeren kost
- Training
- Blokkeren kost vandaag niets, maar betekent dat het volgende model je niet kent.
- Zoeken
- Blokkeren verwijdert je uit antwoorden van nu.
- Door gebruiker gestart
- Blokkeren betekent dat die persoon hoort dat de pagina niet gelezen kon worden.
robots.txt
Om elke crawler van Anthropic toe te laten:
User-agent: ClaudeBot
Allow: /
User-agent: Claude-SearchBot
Allow: /
User-agent: Claude-User
Allow: /
User-agent: Claude-Web
Allow: /
User-agent: anthropic-ai
Allow: /Om ze allemaal te blokkeren:
User-agent: ClaudeBot
Disallow: /
User-agent: Claude-SearchBot
Disallow: /
User-agent: Claude-User
Disallow: /
User-agent: Claude-Web
Disallow: /
User-agent: anthropic-ai
Disallow: /robots.txt wordt vrijwillig gerespecteerd. Het is de juiste manier om je intentie te tonen, maar het regelt geen toegang. Bescherm gevoelige inhoud met authenticatie.
Bronnen
Is Anthropic toegestaan op je site?
We lezen je robots.txt en vertellen welke AI-crawlers worden toegelaten. Geen registratie.