Screaming Frog

SEO Spider, краулер для аудита

Screaming Frog — десктопный краулер, который обходит сайт как поисковый робот и выгружает все технические проблемы в одну таблицу.

Программа ставится на компьютер и ползёт по сайту от ссылки к ссылке. На выходе — список всех URL с кодами ответа, тайтлами, дескрипшенами, заголовками H1, директивами robots и canonical. Битые ссылки, цепочки редиректов, дубли метатегов, страницы без H1 — всё видно сразу.

Бесплатная версия обходит до 500 URL, чего хватает для небольшого сайта. На крупных проектах беру платную лицензию и подключаю рендеринг JavaScript, чтобы краулер видел контент так же, как Googlebot. Связка со Search Console и Analytics через API добавляет к каждому URL данные по трафику.

Тип
Десктоп-краулер

Программа сканирует сайт с компьютера, как робот поисковика.

Норма
500 URL free

Бесплатно обходит до 500 адресов, дальше нужна лицензия.

Зачем
Битые ссылки

Находит ошибки 404, редиректы и дубли <title> за минуты.

Главный инструмент технического SEO-аудита для сайтов до 500 страниц без оплаты.
Пример

Запустили SEO-аудит сайта на 4000 страниц: краулер за 20 минут нашёл 320 битых ссылок, 45 страниц с дублями <title> и 12 редирект-цепочек. До — ничего не знали, после — готовый список на исправление.