ai.robots.txt - Une liste d'agents IA et robots à bloquer | GitHub
Langue du lien : Anglais
Pour bloquer les robots d’IA qui se baladent allègrement sur vos sites pour voler vos contenus et qui prennent de la ressource inutile, récupérez le contenu du fichier .htaccess proposé dans ce dépôt GitHub pour le mettre dans le fichier .htaccess de vos sites.
Certains robots continueront à se balader si leur agent utilisateur (user agent) est volontairement modifié pour ne pas se faire voir mais ça permet déjà un premier ménage.
Note : pensez à vous abonner aux mises à jour de ce dépôt pour être vous-mêmes à jour.