Qu’est-ce que robots.txt et llms.txt ?
robots.txt est un fichier texte à la racine de votre site (monsite.com/robots.txt) qui indique aux robots quelles parties ils peuvent lire. Les entreprises d’IA exploitent leurs propres robots — GPTBot pour ChatGPT, ClaudeBot pour Claude, Google-Extended pour l’IA de Google, etc. — et respectent le robots.txt.
llms.txt est un fichier plus récent et complémentaire (monsite.com/llms.txt) qui donne à l’IA une carte courte et sélectionnée de votre site : un titre, une description d’une ligne et des liens vers vos pages les plus importantes. Il n’accorde ni ne refuse l’accès ; il aide l’IA à trouver et comprendre vite votre meilleur contenu.
Pourquoi c’est important pour la visibilité IA
Si votre robots.txt bloque ou oublie les robots IA, vos pages n’apparaîtront tout simplement pas dans les réponses IA, aussi bonnes soient-elles. Beaucoup de sites interdisent ces robots par erreur, ou un modèle bloque tout ce qui n’est pas Google. Les autoriser est l’interrupteur le plus important pour la visibilité IA.
Notre analyseur de visibilité IA vérifie les deux fichiers : accueillir les robots IA dans robots.txt et publier un llms.txt contribuent chacun à votre score. Ils sont rapides, invisibles pour les visiteurs et aident directement l’IA à lire et citer votre site.
Robots IA autorisés
Le robots.txt généré autorise explicitement les principaux robots IA et de recherche IA :
- OpenAI GPTBot
GPTBot - OpenAI OAI-SearchBot
OAI-SearchBot - OpenAI ChatGPT-User
ChatGPT-User - Anthropic ClaudeBot
ClaudeBot - Anthropic Claude-Web
Claude-Web - Anthropic anthropic-ai
anthropic-ai - Perplexity PerplexityBot
PerplexityBot - Google Google-Extended
Google-Extended - Apple Applebot-Extended
Applebot-Extended - Common Crawl CCBot
CCBot - ByteDance Bytespider
Bytespider - Meta Meta-ExternalAgent
Meta-ExternalAgent
Comment utiliser cet outil
- Saisissez le nom de votre site et, éventuellement, votre URL, un résumé d’une ligne et vos pages principales.
- Cliquez sur Générer pour obtenir un robots.txt et un llms.txt.
- Enregistrez le robots.txt sous /robots.txt à la racine de votre site.
- Enregistrez le llms.txt sous /llms.txt à la racine de votre site.
- Si votre site utilise Cloudflare, vérifiez ses réglages de bots pour que le blocage IA n’écrase pas votre robots.txt (voir l’avertissement ci-dessus).
Questions fréquentes
- Ce générateur est-il gratuit ?
- Oui. Générez robots.txt et llms.txt autant que vous voulez, sans inscription ni carte bancaire.
- Où placer ces fichiers ?
- Les deux vont à la racine de votre site : monsite.com/robots.txt et monsite.com/llms.txt. Ils doivent être accessibles à ces chemins exacts.
- Autoriser les robots IA nuit-il à mon SEO normal ?
- Non. Autoriser des robots IA comme GPTBot ou Google-Extended est indépendant du robot de recherche normal de Google. Votre SEO standard n’est pas affecté.
- J’ai autorisé les robots mais l’IA ne voit toujours pas mon site. Pourquoi ?
- Une cause fréquente est un CDN ou un pare-feu qui bloque les robots avant la lecture de robots.txt. En particulier, le blocage des robots IA de Cloudflare peut écraser votre fichier à la périphérie ; vérifiez ces réglages.