Thấy mấy anh em hỏi chặn bot ahrefs như nào? Thì em vừa đi làm về đang chán cơm quán ngồi chả biết làm gì viết cho anh em cách chặn bot ahref chơi .Về riêng bot ahref thì em có 2 cách là dùng robots.txt và htaccess .
Riêng cách 1 là chắc chắn còn cách 2 thì cũng tuỳ,có người bảo được có người không,em cứ share anh em thích thì thử nghiệm không thì thôi ạ
C1 : Chặn bằng robots.txt
trong đó chú ý giá trị của tham số Crawl-Delay tính bằng giây
C2 : Hoặc Chặn bằng htaccess
Đấy em viết hết rồi ạ,còn các nào nữa anh em bổ sung bên dưới
 |
| ví dụ về chặn botAhrefs |
C1 : Chặn bằng robots.txt
User-agent: AhrefsBot
Disallow: /Ngoài ra, mọi người có thể kiểm soát tần số của AhrefsBot đến trang web của mình bằng cách xác định sự chậm trễ tối thiểu chấp nhận được giữa hai yêu cầu liên tiếp từ bot như sau (trong robots.txt):
User-Agent: AhrefsBot
Crawl-Delay: 2
trong đó chú ý giá trị của tham số Crawl-Delay tính bằng giây
C2 : Hoặc Chặn bằng htaccess
#htaccess mod rewrite code
Options +FollowSymLinks -MultiViews
RewriteEngine On
RewriteBase /
RewriteCond %{HTTP_USER_AGENT} ^Rogerbot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^Exabot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^MJ12bot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^Dotbot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^Gigabot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^AhrefsBot* [OR]
RewriteCond %{HTTP_USER_AGENT} ^BlackWidow* [OR]
RewriteRule ^(.*)$ <a>/</a> [L,R=301]
Đấy em viết hết rồi ạ,còn các nào nữa anh em bổ sung bên dưới
