команды unix удаление дублей - прошу помощи

12
Андрей
На сайте с 30.09.2009
Offline
482
#11

Ylich, я подправил свой пост. Пример запуска есть.

./перл_скрипт.pl ваш_файл.txt

В моем примере 1 миллион коротких строк.

---------- Добавлено 04.05.2014 в 02:07 ----------

т.е. будет выполнятся с пол часа если не больше в вашем случае. Нагрузка на все ядра ))

---------- Добавлено 04.05.2014 в 02:08 ----------

И создаст файл out_ваш_файл.txt.

EuroHoster.org ( https://eurohoster.org/ru/ ) - территория быстрых серверов. Выделенные серверы, VPS, SSL, домены и VPN.
Ylich
На сайте с 24.04.2006
Offline
123
#12

WapGraf, супер, все работает отлично, спасибо огромное

С Уважением...
Андрей
На сайте с 30.09.2009
Offline
482
#13

Ylich, был рад помочь!

iHead
На сайте с 25.04.2008
Offline
137
#14

perl вариант быстрее, потому что без сортировки.

Рекомендуемый хостинг партнер 1С-Битрикс (https://www.ihead.ru/bitrix/), PHP-хостинг (https://www.ihead.ru/php/), доверенный партнер RU-CENTER (https://www.ihead.ru/news/573.html), официальный представитель REG.RU в Кирове (https://www.ihead.ru/news/851.html)
Андрей
На сайте с 30.09.2009
Offline
482
#15

iHead, и в отличии от bash не дает сбоев в зависимости от кодировки.

Да и ТС не просил сортировку сделать.

DV
На сайте с 01.05.2010
Offline
644
#16

Всё же интересно, почему не сработали uniq и sort.

Полагаю, всё надо делать в utf8.

Полагаю, sh/csh/tcsh отработает более предсказуемо.

VDS хостинг ( http://clck.ru/0u97l ) Нет нерешаемых задач ( https://searchengines.guru/ru/forum/806725 ) | Перенос сайтов на Drupal 7 с любых CMS. ( https://searchengines.guru/ru/forum/531842/page6#comment_10504844 )
iamsens
На сайте с 26.08.2009
Offline
115
#17
iHead:
perl вариант быстрее, потому что без сортировки.

а как выкинуть дубли без сортировки ?:)

Андрей
На сайте с 30.09.2009
Offline
482
#18
DenisVS:
Всё же интересно, почему не сработали uniq и sort.
Полагаю, всё надо делать в utf8.
Полагаю, sh/csh/tcsh отработает более предсказуемо.

Так и есть. Во всяком случае именно с utf8 никогда проблем не возникало, а вот с другими кодировками бывает.

iHead
На сайте с 25.04.2008
Offline
137
#19
iamsens:
а как выкинуть дубли без сортировки ?:)

товарищ просто время замерял. решения сильно разные, чтобы их сравнивать.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий