shell两个文件去重的多种姿势
前言
大家都知道shell在文本处理上确有极大优势，比如多文本合并、去重等，但是最近遇到了一个难搞的问题，即两个大数据量文件去重。下面来看看详细的介绍吧。
要求
有txt文件A.txt和B.txt。
其中A为关键词和搜索量，以逗号分隔，约90万行。
B为关键词，约400万行。
需要从A中找出与B重复的关键词。
我试了N种姿势，但结果都不尽人意，最奇怪的是有些方法对小数据量的测试文件有用，一旦用在A与B上就会失败，真叫人百思不得其解。
姿势一：
awk -F, '{print $1}' A >keywords.txt
cat keywords.txt B.txt | sort | uniq -d
#先从A.txt种取出关键词，然后与B.txt一起打开，用sort排序，uniq -d 取出重复的行
姿势二：
awk -F, '{print $1}' A >keywords.txt
#照例先取出关键词
comm -1 -2 keywords.txt B.txt
#利用comm命令，显示两个文件都存在的行
姿势三：
awk -F, '{print $1}' A >keywords.txt
for i in `cat keywords.txt`
do
A=`egrep -c "^$i$" B.txt`
if [ $A != 0 ]
then
echo $i >>重复关键词.txt
fi
done
#这种姿势就稍微复杂点
#首先取出关键词，然后利用for循环逐个去B.txt里面匹配（注意正则写法^$i$），如果匹配到的结果数不为0，说明这个关键词是重复的，然后输出
#这种方法的优点是稳妥，缺点是效率太TM低了，90万个词逐一与400万词匹配，shell默认又没有多线程，耗时太长。
姿势四：
awk -F, '{print $1}' A >keywords.txt
cat keywords.txt B.txt | awk '!a[$1]++'
#这个方法的原理其实我不太懂，awk命令实在太强大太高深了，但是这种方法又简洁又快速
其实还有一种grep -v 、grep -f 的方法，但是我没有试过，所以不在这里列出了。
总结
以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流。
-
本文向大家介绍JavaScript数组去重的多种方法(四种)，包括了JavaScript数组去重的多种方法(四种)的使用技巧和注意事项，需要的朋友参考一下 数组去重，一般需求是给你一个数组，调用去重方法，返回数值副本，副本中没有重复元素。一般来说，两个元素通过 === 比较返回 true 的视为相同元素，需要去重，所以，1 和 "1" 是不同的元素，1 和 new Number(1) 是不同的元素
-
本文向大家介绍JavaScript数组去重的两种方法推荐，包括了JavaScript数组去重的两种方法推荐的使用技巧和注意事项，需要的朋友参考一下 1、数组去重； Array类型并没有提供去重复的方法，如果要把数组的重复元素干掉，那得自己想办法： 方法一：利用indexOf方法； 方法二： 方法二，总体思路是把数组元素逐个搬运到另一个数组，搬运的过程中检查这个元素是否有重复，如果有就直接丢掉。从嵌
-
本文向大家介绍js中数组对象去重的两种方法，包括了js中数组对象去重的两种方法的使用技巧和注意事项，需要的朋友参考一下 方法一： 采用对象访问属性的方法，判断属性值是否存在，如果不存在就添加。 方法二： 采用数组中的reduce方法，遍历数组，也是通过对象访问属性的方法 若有不足请多多指教！希望给您带来帮助！ 总结 以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习
-
本文向大家介绍javascript实现数组去重的多种方法，包括了javascript实现数组去重的多种方法的使用技巧和注意事项，需要的朋友参考一下 废话不多说，直接拿干货！ 先说说这个实例的要求：写一个方法实现数组的去重。（要求：执行方法，传递一个数组，返回去重后的新数组，原数组不变，实现过程中只能用一层循环，双层嵌套循环也可写，只做参考）； 先给初学者解释一下什么叫数组去重（老鸟跳过）：意思就是
-
问题内容： 我正在从一个字符串中解析两个日期，如下所示： 我需要做的是找出这两个日期之间的区别，例如： = 8天2小时36分钟21秒 ^这是我需要的两个日期/时间 我相信我需要解析格式并将其转换为另一种格式，然后减去两者之间的差并进行数学运算以得出之间的天/小时/分钟/秒 问题答案： 与其他回答者试图暗示的相反，在标准Java SE中，计算两个日期之间的差异并不是那么简单。 您的第一步确实是将这些
-
本文向大家介绍PHP两种去掉数组重复值的方法比较，包括了PHP两种去掉数组重复值的方法比较的使用技巧和注意事项，需要的朋友参考一下 去除一个数组中的重复值，可以使用foreach方法，也可以使用array_unique方法，下面的代码两种方法都使用了。 在$intTotal比较小的情况下，比如说1000以内，$intRand的取值基本不影响结果，两者执行的时间都差不多。 测试$intTotal 大