【问题标题】:uniq does not clean out duplicate entriesuniq 不会清除重复的条目
【发布时间】:2015-04-27 23:55:08
【问题描述】:

我有一个文件,每行都有一个数字。我试图找出不同的数字集。以下是摘录:

 550
 400
 4000
 400
 1900
 550
 5000
 400
 1500
 1900
 5000
 4000
 5000
 1900
 5000

但是,通过uniq 传递它并不会清除所有重复项。行数从699减少到256,但还是有400550等多行。

我使用 python 脚本生成了这个文件,所以我知道每一行都有一个空格,后跟一个数字,然后是 \n。至少这是我在代码中打印的内容。

我不明白文件有什么问题。为什么uniq 没有像我想象的那样工作?

(OS X Yosemite,python 2.7

【问题讨论】:

  • @YOU uniq 只删除连续重复的数据,数据在通过uniq 之前需要进行排序。 cat filename | sort | uniq 会起作用。

标签: osx-yosemite uniq


【解决方案1】:

在调用uniq之前,您需要sort您的内容,或者您​​可以使用sort -u

来自uniq 手册页:

uniq - 报告或省略重复的行

注意它是如何表示repeated而不是duplicate的。

【讨论】:

  • 那么uniq 只是去掉连续的重复项吗?
猜你喜欢
  • 1970-01-01
  • 2013-12-03
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2015-05-26
  • 2021-01-22
  • 2010-12-29
  • 2012-10-21
相关资源
最近更新 更多