BatchUniqueChecker – небольшая портативная программа для Microsoft Windows, предназначенная для пакетной проверки группы URL на уникальность между собой, который можно запускать даже со сменного носителя.
Принцип работы утилиты достаточно прост: из предоставленного пользователем списка URL-адресов программа скачивает содержимое, получает текстовое содержимое страницы без блока HEAD и без HTML-тегов, и далее сравнивает их друг с другом при помощи алгоритма шинглов.
В настройках программы можно установить размер шингла, задать алгоритм проверки сходства содержимого, а также выбрать предпочитаемый User-Agent.
Основные возможности BatchUniqueChecker
Ссылки