在处理数据的时候,因为没有及时的去重,所以需要重新对生成txt进行去重。
可是一个文件夹下有很多txt,总不可能一个一个去操作,这样效率太低了。这里我们需要用到 os 这个包
关键的代码
<span style="font-size:14px;"># coding=utf-8 #出现了中文乱码的问题,于是我无脑utf-8 。希望后期的学习可以能理解 import os import os.path import re import sys import codecs reload(sys) sys.setdefaultencoding('utf-8') #这里放着你要操作的文件夹名称 path = 'E:\\get_key\\' #把e:\get_key\目录下的文件名全部获取保存在files中 files = os.listdir(path.decode('utf-8')) #用set可以很好的去重,在数据处理的时候经常会被使用到。这里做初始化 datas = set() for file in files : #准确获取一个txt的位置,利用字符串的拼接 txt_path = 'E:\\get_key\\'+file.decode('utf-8') #把结果保存了在contents中 contents = codecs.open(txt_path.decode('utf-8'),'r',encoding='utf-8') #datas的数据清空 datas.clear() #把数据add到datas中,可以去重 for content in contents: print(content.decode('utf-8')) datas.add(content.decode('utf-8')) #去重后新的文件保存的路径 new_txt_path = 'E:\\get_key3\\' + file.decode('utf-8') unique_keywords = codecs.open(new_txt_path.decode('utf-8'), 'w', encoding='utf-8') #把datas里的数据输出到新生成的txt中 for data in datas: unique_keywords.write(data+"\n") #释放资源 unique_keywords.close()</span>
以上这篇Python 读取某个目录下所有的文件实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持小牛知识库。
本文向大家介绍python 获取文件下所有文件或目录os.walk()的实例,包括了python 获取文件下所有文件或目录os.walk()的实例的使用技巧和注意事项,需要的朋友参考一下 在python3.6版本中去掉了os.path.walk()函数 os.walk() 函数声明:walk(top,topdown=True,oneerror=None) 1、参数top表示需要遍历的目录树的路径
本文向大家介绍php读取目录及子目录下所有文件名的方法,包括了php读取目录及子目录下所有文件名的方法的使用技巧和注意事项,需要的朋友参考一下 本文实例讲述了php读取目录及子目录下所有文件名的方法,分享给大家供大家参考。具体实现方法如下: 一般来说php中读取目录下的文件名的方式确实不少,最简单的是scandir,具体代码如下: 稍微复杂点的,来自于php手册: 这些都只能读取当前指定目录下的文
本文向大家介绍nodejs 递归拷贝、读取目录下所有文件和目录,包括了nodejs 递归拷贝、读取目录下所有文件和目录的使用技巧和注意事项,需要的朋友参考一下 先给大家介绍下nodejs 递归拷贝目录下所有文件和目录,具体代码如下所示: ps:下面看下Nodejs递归读取目录下的所有文件 递归读取当前目录下的所有文件。 总结 以上所述是小编给大家介绍的nodejs 递归拷贝、读取目录下所有文件和目
本文向大家介绍python 遍历目录(包括子目录)下所有文件的实例,包括了python 遍历目录(包括子目录)下所有文件的实例的使用技巧和注意事项,需要的朋友参考一下 如下所示: 以上这篇python 遍历目录(包括子目录)下所有文件的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持呐喊教程。
本文向大家介绍java递归读取目录下所有文件的方法,包括了java递归读取目录下所有文件的方法的使用技巧和注意事项,需要的朋友参考一下 java递归读取目录下的所有文件(包含子目录下的所有文件)大概思路如下:通过file.listFiles()方法获取目录下的所有文件(包含子目录下的所有文件),得到files[]数组,然后遍历得到的所有文件,通过isFile(文件)和isDirectory(文件夹
本文向大家介绍Python实现读取目录所有文件的文件名并保存到txt文件代码,包括了Python实现读取目录所有文件的文件名并保存到txt文件代码的使用技巧和注意事项,需要的朋友参考一下 代码: (使用os.listdir) 代码:(使用os.walk) walk递归地对目录及子目录处理,每次返回的三项分别为:当前递归的目录,当前递归的目录下的所有子目录,当前递归的目录下的所有文件。