Здравствуйте дорогие читатели. Сегодня мы с вами поговорим о дубликатах файлов, а также о методах борьбы с ними.

Исходя из самого названия вы, наверное, уже догадались, что это за файлы. Такие вот повторяющиеся файлы очень загрязняют жесткий диск, поэтому от них нужно периодически избавляться.

Дубликаты появляются на компьютере произвольно и из-за невнимательности пользователей. Хотя все мы люди и нам свойственно накапливать всякую всячину. Какой бы большой объем памяти не имел ваш жесткий диск – после удалению дубликатов он станет намного свободнее, нежели был до совершения этого процесса.

К большому сожалению, удаление дубликатов файлов невозможно произвести без посторонних программ. Разработчики Windows почему-то упустили этот момент, но люди нашли выход. В интернете есть масса бесплатных программ для избавления от дублирующих файлов. Ниже я приведу три лучшие из них, а также дам вам возможность их скачать.

CloneSpy

Очень простая и удобная утилита для очистки вашего компьютера от дубликатов файлов. После запуска CloneSpy производит поиск по контрольным суммам файлов, игнорируя при этом дату и время их создания, размер и т.д. Такой метод поиска дубликатов файлов позволяет сделать более точный и детальный поиск.

Но CloneSpy имеет также и минус, поскольку в результатах поиска, помимо копий может отобразить файлы с одинаковым именем.

Скачать бесплатно утилиту CloneSpy

Auslogics Duplicate File Finder

Более мощная программа поиска файлов-дублей. Делает детальный анализ жесткого диска на наличие одинаковых файлов, в конце которого вы получите список со всеми найденными дубликатами.

Я заметил, что Auslogics Duplicate File Finder хорошо специализируется на поиске мультимедийных файлов-дублей, а это гигабайты одинаковых музыкальных треков, фильмов, картинок и т.д.

Скачать бесплатно программу Auslogics Duplicate File Finder

DupKiller

Тоже очень хорошая программа для поиска и удаления дубликатов файлов. Очень понравилась функция установки процента допустимого совпадения, который вы можете установить вручную перед запуском анализа жесткого диска.

Очень удобной функцией в приложении CCleaner является поиск дубликатов файлов. Очень часто на компьютере существуют идентичные по дате, размеру и названию файлы. Безусловно, некоторые из них нужны, а некоторые могли быть созданы случайно или загружены несколько раз из интернета. Все эти файлы в итоге накапливаются, свободного места становится все меньше и меньше, и, в итоге, компьютер начинает притормаживать. Поэтому, время от времени, от таких файлов нужно избавляться. Если вы продвинутый пользователь ПК, то вам не составит труда найти файлы дубликаты CCleaner какие удалять, но если вы новичок в этом деле, тогда мы поможем вам в этом разобраться.

Какие файлы не нужно удалять

Прежде чем начать поиск дубликатов и удалить их, давайте рассмотрим можно ли удалять файлы дубликаты Сиклинер? Для начала, хотелось бы отметить, что программа не даст удалить абсолютно все копии файла. Один из них обязательно должен остаться нетронутым. Далее, не рекомендуем удалять системные файлы. Наличие у них дубликатов вполне нормальное явление. Как правило системные файлы расположены на диске С в папке Windows.

Файлы, какие можно удалить

Как правило, компьютер состоит из нескольких разделов (дисков). Объем информации, который хранится на каждом из них, скорее всего, впечатляющий. Там есть и картинки, и музыка, и видео, и фотографии, и еще много всего. Некоторые из повторяющихся файлов могли быть продублированы пользователем ошибочно, например, по забывчивости файл был сохранен в разные разделы. Некоторые файлы могли быть загружены с интернета несколько раз и т.д. И когда программа находит такие файлы, то можно смело удалять их с вашего компьютера.

Поиск дубликатов

Во вкладке «Сервис » есть раздел «Поиск дублей ».

В этом разделе, на усмотрение пользователя, можно задать критерии поиска. Можно задать поиск дубликатов по какому-либо одному параметру поиска: по размеру, по дате, по имени и по содержимому или по нескольким параметрам одновременно, отмечая их галочками.

Также можно определить те файлы, которые необходимо пропускать. Здесь есть несколько вариантов:

• Файлы нулевого размера;
• Файлы, которые доступны только для чтения;
• Скрытые файлы;
• Системные файлы;
• Файлы, размер которых не превышает заданный вами объем мегабайт;
• Файлы, размер которых больше заданного объема мегабайт.

Во вкладке «Включения » можно указать места, в которых будет осуществляться поиск. Для проверки какой-либо определенной папки необходимо выбрать «Добавить ». Появится следующее окошко

Нажимаем на кнопку «Обзор » и выбираем желаемую папку, указав путь к ней.

Во вкладке «Исключения » можно задать те папки, которые не должны быть затронуты при поиске.

Добавить их можно аналогично вкладке «Включения ». Нажимаем «Обзор » и выбираем данную папку.

После установки всех параметров поиска нажимаем на кнопку «Найти ».

Результаты поиска дубликатов

После поиска, результаты будут показаны в виде таблицы.

В ней будет указано имена файлов, места, где они расположены, их размеры и даты создания.

Чтобы удалить дубликаты, ставим напротив них галочки. Если вы нажмете правой кнопкой мыши на каком-нибудь файле, то появится контекстное меню.

Выделить все	Возможность отметить все найденные дубликаты. У всех файлов останется только одна копия – нижняя.
Снять выделение	Возможность убрать отметку со всех найденных дубликатов, в случае их выделения.
Выделить тип/Снять с типа	Возможность отметить (снять отметку) все файлы одинакового типа.
Исключить/Ограничить/Выбрать дубликаты	Возможность произвести выбранное действие применительно к одной из папок, в которых находится файл.
Сохранить отчет…	Возможность сохранения отчета в текстовом документе.
Открыть папку	Позволяет открыть папку, в которой располагается данный файл.

После того, как вы выбрали все дубликаты, которые хотите удалить, нажимаем на кнопку «Удалить ».

Накопившийся в процессе работы компьютера файловый мусор обычно представляет собой не только ненужные пользователю или временные файлы. Отдельной категорией являются файлы-дубликаты, которые одинаковы по своему содержанию, но хранятся в разных папках или на разных дисках компьютера.

Это могут быть, например, неоднократно сохраненные документы, повторяющиеся или похожие фотографии, одни и те же музыкальные композиции, которые вы скачали из Интернета и сохранили в разных папках или под разными именами. Важно понимать, что дубликатами, по сути, являются две версии одной и той же фотографии, имеющие разное разрешение. Или одна и та же песня одного и того же исполнителя, но записанная на разных концертах. Либо две версии одной и той же музыкальной композиции, но записанные в разных аудиоформатах.

Примером файлов-дубликатов можно считать также и две версии фильма, сохраненные с разным качеством или опять же в разных видеоформатах. Разумеется, вручную обнаружить такие дубликаты достаточно сложно, поэтому на помощь мы призовем специальные программы, которые занимаются поиском файлов-дубликатов. Как вы уже наверняка поняли из предыдущего абзаца, дубликаты каждого типа файлов (рисунки, музыка, видео, документы) имеют свои особенности.

Алгоритмы поиска дубликатов всех типов файлов значительно отличаются друг от друга, поэтому и поиском дубликатов файлов разных типов занимаются, как правило, разные программы. Рассмотрим некоторые из них. К тому же важно не только обнаружить дубликаты, но и выбрать самую последнюю версию документа или наиболее качественный видео- либо аудиофайл. Мы рассмотрим каждый тип файлов отдельно, а также приведем список популярных программ для работы с дубликатами.

Поиск картинок-дубликатов

Наиболее ярким примером картинок-дубликатов могут служить одинаковые или очень похожие фотографии. Многие современные фотоаппараты позволяют снимать в серийном режиме, когда снимки делаются с очень коротким интервалом - от нескольких долей секунды до нескольких секунд. При этом получившиеся снимки отличаются друг от друга совсем незначительно. Как показывает практика, нет реальной необходимости хранить похожие фотографии, достаточно выбрать один-два удачных снимка из серии, а остальные удалить.

Еще один случай, когда могут появляться дубликаты файлов с изображениями, - создание резервных копий фотографий на жестком диске, выборка картинок для презентации, при котором они копируются в другую папку. В общем пользователь зачастую сам создает копии изображений, а потом забывает их удалять. Впрочем, причины появления дубликатов изображений могут быть самыми разными. Наша задача - избавиться от таких дубликатов и очистить место на жестком диске. Среди наиболее распространенных программ, предназначенных для поиска картинок-дубликатов на компьютере, можно назвать следующие.

• SWMole Clone Remover . Адрес веб-сайта: http://www.clone-remover.com/ . Программа платная. Умеет искать не только дубликаты изображений (в том числе похожие рисунки, а не просто точные копии), но и копии музыкальных файлов. В незарегистрированной версии пользователь имеет возможность удалить не более 20 файлов. Копии изображений находит парами, даже если на диске находится более двух похожих изображений. Имеет русскоязычный интерфейс.
• Image Comparer . Веб-сайт: http://www.bolidesoft.com/rus/imagecomparer.html. Программа условно-бесплатная, имеет ознакомительный период 30 дней. Поддерживается многоязычный пользовательский интерфейс, среди языков есть русский. Имеется возможность поиска дубликатов картинок как в пределах одной папки, так и между несколькими папками. Интерфейс программы несколько сложноват для начинающего пользователя, однако возможно использовать режим пошагового мастера, который поможет найти и удалить дубликаты файлов изображений.
• Picasa . Официальная страница программы: https://picasa.google.com . Сама программа включает в себя множество различных инструментов для работы с фотографиями. В том числе в программе есть функция поиска картинок-дубликатов. Чтобы воспользоваться этой функцией, нужно в главном меню программы выбрать пункт Инструменты>>Экспериментальные функции>>Показать повторяющиеся файлы. Сразу обратим внимание на то, что программа ищет именно повторяющиеся файлы изображений, то есть абсолютно идентичные картинки. Зато находит их независимо от расположения и практически без участия пользователя. Программа является абсолютно бесплатной и имеет русскоязычный интерфейс. Кроме того, с помощью программы Picasa можно обрабатывать изображения, применять к ним различные фильтры, находить лица людей, отмечать места съемки и выполнять множество других полезных действий.
• Similar Images Finder . Веб-сайт программы: http://www.crown-s-soft.com/ru/sifinder.htm . Программа условно-бесплатная. В течение 30 дней можно пользоваться ею, не покупая, при этом накладывается ограничение на количество найденных файлов-дубликатов. Интерфейс программы англоязычный. Есть возможность настройки глубины «похожести» фотографий, а также установки предпочтений для найденных дубликатов: например, программе можно указать, чтобы она автоматически удаляла более старый из файлов-дубликатов, имеющий меньшую цветность или меньший размер. В программе есть мастер поиска дубликатов, который позволяет в пошаговом режиме указать критерии сравнения файлов изображений.

Поиск дубликатов музыкальных файлов

Так же как и изображения, музыкальные файлы порой могут занимать много дискового пространства, и в некоторых случаях найти одинаковые или похожие музыкальные композиции вручную бывает проблематично. На помощь придут специализированные приложения, автоматизирующие этот процесс. Расскажем о некоторых наиболее популярных из них.

• Audio comparer . Скачать программу можно на сайте: http://audiocomparer.com/rus/ . Приложение условно-бесплатное. В течение 30 дней его можно использовать без регистрации. Анализ музыкальных композиций основывается на сопоставлении имен исполнителей и названий песен. Эти данные берутся из названия файла и внутренней служебной информации, так называемых ID3-тегов. Есть возможность указать порог схожести названий, при которых композиции будут считаться одинаковыми. Приложение позволяет сравнивать файлы как внутри одного каталога на диске компьютера, так и между несколькими каталогами. Интерфейс программы несколько сложноват для начинающего пользователя, но это компенсируется наличием пошагового мастера, который облегчает процесс поиска дубликатов.
• Music Duplicate Remover . Сайт в Интернете: http://www.maniactools.com/ . Ключевое отличие этого приложения от аналогов - возможность поиска дубликатов по звучанию. Данная функция позволяет находить дубликаты даже среди тех файлов, которые некорректно поименованы. Программа условно-бесплатная и дает возможность незарегистрированному пользователю работать в течение 30 дней. Имеет простой пользовательский интерфейс на русском языке.
• SWMole Clone Remover . Как уже упоминалось, данное приложение умеет искать не только дубликаты изображений, но и повторяющиеся музыкальные композиции. Адрес веб-сайта программы: http://www.clone-remover.com/ . Интерфейс программы сложноват, но благодаря поддержке русского языка в нем несложно разобраться самостоятельно. Приложение может искать дубликаты музыкальных файлов лишь по имени файла и по ID3- тегам, не учитывая звучание. Используя одну из перечисленных или все программы сразу, вы можете освободить много полезного места на дисках своего компьютера.

Поиск дубликатов видеофайлов

Борьба с дубликатами видеофайлов имеет свои особенности по сравнению с поиском дубликатов картинок или музыки. Из-за больших размеров видеофайлов их обычно не так много на дисках компьютера, как музыки или изображений. Кроме того, появление дубликатов фильмов или видеороликов не столь распространенное явление, как «клонирование» фотографий или песен. Зато удаление даже одного клона видеофайла поможет освободить значительное количество дискового пространства. Кроме того, алгоритм сравнения видеопотоков гораздо сложнее рисунков или даже звучания музыки. По этой причине программ, предназначенных для поиска дубликатов видеофайлов, существует не так много. Остановимся на некоторых из них.

• Duplicate Video Search . Веб-адрес: http://duplicatevideosearch.com/rus/ . Программа условно-бесплатная - с ознакомительным периодом 30 дней. Имеет англоязычный интерфейс, который, впрочем, не перегружен лишними элементами, а потому достаточно понятен. Пользователь должен указать, в каких папках нужно производить поиск видеодубликатов. Приложение может сравнивать содержимое видеофайлов десяти различных форматов. Есть возможность указания глубины сравнения.
• Teemoon Video Matching . Домашняя страница программы: http://teemoon.name/videoid/Default.html . В отличие от своих «собратьев», данное приложение бесплатное. Работа с программой предполагает два этапа. Первый - индексирование, которое осуществляется на вкладке Indexing. В ходе этого процесса для каждого видеофайла из указанной папки создаются файлы индексов. Процесс длительный, но его требуется провести всего один раз, затем при сравнении файлов будут использоваться уже имеющиеся индексные файлы. Второй этап - сравнение, которое осуществляется на вкладке Matching. К недостаткам программы можно отнести отсутствие поддержки русского языка и неочевидный алгоритм работы.
• Video Comparer . Сайт программы: http://www.video-comparer.com/ . Приложение имеет платную и бесплатную версии. Для домашнего использования вполне подойдет бесплатная. Интерфейс программы довольно прост. От пользователя требуется только указать папки, в которых следует осуществлять поиск файлов-дубликатов, и нажать кнопку запуска процесса сравнения. Пользовательский интерфейс англоязычный.

Если вы являетесь киноманом и храните на своем компьютере большую коллекцию разных фильмов либо занимаетесь видеомонтажом и имеете множество видеофрагментов на жестком диске, то вам стоит провести «инвентаризацию» видеоархива. Возможно, вы найдете скрытые резервы своего компьютера.

Поиск других дубликатов

Как вы уже наверняка поняли, не существует универсальной программы, позволяющей избавиться от всех файлов-дубликатов одним махом, - для каждого типа данных требуется свой инструмент. Однако если оставить в стороне сложные алгоритмы сравнения изображений и звуков, а ограничиться просто сравнением имени, размера и даты файла, то можно отыскать немало дубликатов среди тех типов файлов, о которых мы здесь еще не упоминали. Это могут быть документы, файлы других форматов, которые зря занимают место на диске. Чтобы найти такие дубликаты, часто можно обойтись без специализированных программ. Например, если вы используете какой-нибудь популярный файловый менеджер, то можно воспользоваться его средствами для поиска и удаления файлов-дубликатов. Среди файловых менеджеров, имеющих функцию поиска файлов-дубликатов, можно назвать:

• FAR Manager;
• FreeCommander;
• Total Commander.

Если же вы не привыкли пользоваться файловыми менеджерами, то не стоит их устанавливать на компьютер только ради поиска дубликатов. Для этой задачи существуют специализированные приложения:

• CloneSpy - http://www.clonespy.com/;
• DupKiller - http://dupkiller.com/index_ru.html;
• Duplicate Cleaner - http://www.digitalvolcano.co.uk/duplicatecleaner. html;
• Free Duplicate File Finder - http://www.ashisoft.com/;
• NoClone 2014 Desktop - http://noclone.net/

Эти и множество других платных и бесплатных приложений на любой вкус помогут вам избавиться от дубликатов файлов на ваших жестких дисках.

Доброго времени суток.

Статистика вещь неумолимая - у многих пользователей на жестких дисках лежат, порой, десятки копий одного и того же файла (например, картинки, или музыкального трека). Каждая из таких копий, разумеется, отнимает место на винчестере. А если диск ваш уже «забит» под завязку - то таких копий может быть достаточно много!

Чистить дубликаты файлов вручную - вещь не благодарная, именно поэтому, я хочу собрать в этой статье программы для поиска и удаления дубликатов файлов (причем, даже тех, которые отличаются и по формату файла, и по размеру друг от друга - а это довольно сложная задача!). Итак…

Список программ для поиска дубликатов

1. Универсальные (для любых файлов)

Осуществляют поиск одинаковых файлов по их размеру (контрольным суммам).

Под универсальными программами, я понимаю, те, которые годятся для поиска и удаления дублей любых типов файлов: музыки, фильмов, картинок и пр. (ниже в статье для каждого типа будет приведены «свои» более точные утилиты). Работают они все в большинстве по одному типу: они просто сравнивают размеры файлов (и их контрольную сумму), если есть среди всех файлов одинаковые по этой характеристике - показывают вам!

Т.е. благодаря ним можно быстро найти на диске полные копии (т.е. один в один) файлов. Кстати, так же отмечу, что данные утилиты работают быстрее, чем те, которые специализированы для конкретного типа файлов (например, поиска картинок).

DupKiller

Эту программу я поставил на первое место по ряду причин:

• поддерживает просто огромное число разнообразных форматов, по которым она может проводить поиск;
• высокая скорость работы;
• бесплатная и с поддержкой русского языка;
• очень гибкая настройка поиска дублей (поиск по названию, размеру, типу, дате, содержимому (ограниченно)).

Duplicate Finder

Эта утилита, помимо поиска копий, еще и сортирует их так, как вам вздумается (что очень удобно, когда копий находится неимоверное количество!). Так же к возможностям поиска добавьте побайтовое сравнение, сверка контрольных сумм, удаление файлов с нулевым размером (и пустых папок тоже). В общем-то, с поиском дублей эта программа справляет довольно неплохо (и быстро, и качественно!).

Немного не комфортно будут себя чувствовать те пользователи, которые плохо знакомы с английским: русского в программе нет (возможно после будет добавлен).

Glary Utilites

Вообще, это не одна утилита, а целый сборник: поможет удалить «мусорные» файлы, задать оптимальные настройки в Windows, дефрагментировать и очистить жесткий диск и т.д. В том числе, в этом сборнике есть утилита для поиска дублей. Работает она относительно не плохо, поэтому я и порекомендую этот сборник (как один из самых удобных и универсальных - что называется на все случаи жизни!) еще раз на страницах сайта.

2. Программы поиска дубликатов музыки

Данные утилиты пригодятся всем меломанам, у которых на диске скопилась порядочная коллекция музыки. Рисую довольно типичную ситуацию: скачиваете различные сборники музыки (100 лучших песен октября, ноября и пр.), часть композиций в них повторяется. Не удивительно, что, накопив музыки на 100 ГБ (к примеру), 10-20ГБ - могут быть копиями. Причем, если бы размер этих файлов в разных сборниках был одинаковый - то их бы можно было бы удалить первой категорией программ (см. выше в статье), но так как это не так - то эти дубли не находятся ничем, кроме вашего «слуха» и специальных утилит (которые представлены ниже).

M usic Duplicate Remover

Результат работы утилиты.

Эта программа отличается от остальных, прежде всего, свои быстрым поиском. Она ищет повторные треки по их ID3 тегам и по звуку. Т.е. она как бы за вас прослушает композицию, запомнит ее, а затем сравнит ее с другими (таким образом, проделывает огромный объем работы!).

На скриншоте выше представлен ее результат работы. Свои найденные копии она представит перед вами в виде небольшой таблички, в которой к каждому треку будет приписана цифра в процентах схожести. В общем, достаточно удобно!

A

Найденные повторные MP3 файлы…

Эта утилита схожа с вышеприведенной, но у нее есть один несомненный плюс: наличие удобнейшего мастера, который будет Вас вести по шагам! Т.е. человек, впервые запустивший эту программу, легко разберется куда нажимать и что делать.

Например, в своих 5000 треках за пару часов, мне удалось найти и удалить несколько сотен копий. Пример работы утилиты представлен на скрине выше.

3. Для поиска копий картинок, изображений

Если анализировать популярность тех или иных файлов, то картинки, пожалуй, не отстанут от музыки (а для некоторых пользователей и перегонят!). Без картинок вообще сложно представить работу за ПК (и другими устройствами)! Но поиск картинок с одинаковым изображением на них - дело довольно трудное (и долгое). И, должен признаться, программ этого рода сравнительно не много…

ImageDupeless

Сравнительно небольшая утилита с довольно неплохими показателями поиска и устранения дублей картинок. Программа сканирует все изображения в папке, а затем сравнивает их между собой. В результате вы увидите список картинок, которые похожи друг на друга и сможете сделать вывод о том, какую из них оставить, а какую удалить. Очень полезно, иногда, прореживать свои архивы фото.

Пример работы ImageDupeless

Кстати, вот небольшой пример личного испытания:

• подопытные файлы: 8997 файлов в 95 каталогах, 785Мб (архив картинок на флешке (USB 2.0) - gif и jpg форматы)
• галерея заняла: 71.4Мб
• время создания: 26 мин. 54 сек.
• время сравнения и вывода результатов: 6 мин. 31 сек.
• результат: 961 похожее изображение в 219 группах.

Image Comparer

Об этой программе я уже упоминал на страницах сайта. Представляет собой так же небольшую программу, но с довольно хорошими алгоритмами сканирования картинок. Есть пошаговый мастер, запускающийся при первом открытии утилиты, который проведет через все «тернии» первой настройки программы для поиска дублей.

Кстати, чуть ниже приведен скриншот работы утилиты: в отчетах вы можете просмотреть даже мелкие детали, где картинки несколько различаются. В общем-то, удобно!

4. Для поиска дублей фильмов, видео-роликов

Ну и последний популярный тип файлов, на котором хотелось бы остановиться - это видео (фильмы, ролики и пр.). Если когда-то раньше, обладая 30-50 ГБ диском, знал в какой папке где и какой фильм сколько отнимает (и они все были наперечет), то, например, сейчас (когда диски стали 2000-3000 и более ГБ) - часто встречаются одни и те же ролики и фильмы, но в разном качестве (что может отнять достаточно много места на жестком диске).

Большинству пользователей (да, в общем-то и мне 🙂), такое положение дел не нужно: просто отнимает место на винчестере. Благодаря парочке утилит ниже, вы сможете очистить диск от одинаковых видео…