ГлавнаяСервисыКраулеры и техаудит

Краулеры и программы для технического аудита сайта

Программы, которые обходят сайт целиком и показывают битые ссылки, дубли, редиректы и структуру.

Программа обходит сайт так же, как это делает робот поисковика, и показывает, что он видит: битые ссылки, цепочки редиректов, дубли заголовков, закрытые от индексации страницы, структуру перелинковки. На большом каталоге это единственный способ найти проблему, о существовании которой никто не знал.

Чем отличаются друг от друга

Столбцы сортируются. Прочерк означает, что на сайте сервиса про это ничего не сказано.

← таблица прокручивается вбок →

СервисБесплатный доступГде работаетИнтерфейсAPIЮрлицо в РФРеестр ПОПорог входа
Screaming Frog SEO Spiderесть тарифWindows, macOS, Linuxанглийскийнет5
Netpeak Spiderесть тарифWindows, macOSнет5
SiteAnalyzerесть тарифWindows, Linux, macOSрусскийдада7
Bertalбесплатныйвебрусский8
JetOctopusпробный периодвебанглийскийестьнет6,5
A-Parserтолько платноWindows, Linux, macOS (Docker)русскийестьнет6
Sitecheckerпробный периодбраузернет4,5
Netpeak Checkerпробный периодWindows3

«Порог входа» — расчёт по фактам с сайта: бесплатный доступ, открытые тарифы, русский интерфейс, работа без установки, наличие API и видимая поддержка. Он говорит о том, насколько легко начать, и ничего не говорит о качестве работы инструмента. Полная таблица по всему каталогу — на странице сравнения сервисов.

Как выбирать в этом разделе

Первый вопрос — где считается: настольная программа работает на вашем компьютере и упирается в его память, облачный краулер считает у себя и переваривает миллионы адресов. Второй — умеет ли инструмент рендерить JavaScript: на современных сайтах половина ссылок появляется только после отработки скриптов. И общее правило для всех: обход нагружает сайт запросами, на боевом проекте скорость стоит ограничивать, иначе слабый хостинг ляжет.

Частые вопросы

Настольный краулер или облачный?

Настольный дешевле и держит данные у вас, но на сайтах от сотен тысяч страниц упирается в память машины. Облачный считает у себя и берёт деньги за объём обхода.

Как часто гонять полный обход?

После крупных правок и релизов — обязательно. В спокойном режиме раз в месяц достаточно, чтобы новые ошибки не копились незаметно.

Цифры есть — нужна стратегия?

Калькуляторы помогают принять решение. Внедрение, рост трафика и заявок — в услугах и кейсах.