linux 下python多线程递归复制文件夹及文件夹中的文件
作者:Tdyh_NY 发布时间:2021-06-28 03:27:44
标签:python,递归,复制
本文是利用python 复制文件夹 刚开始写了一个普通的递归复制文件夹 然后想了想 觉得对io频繁的程序 threading 线程还比较友好 就写了个多线程版本的 最恶心人的地方就是路径 其他都还好吧
import os
import threading
import multiprocessing
length_of_folder = 0
def copyfile(Path):
if os.path.isdir(Path):
print("-----------%s" % ("Testfortherading_" + '/' + Path[length_of_folder:]))
os.makedirs("Testforthreading_" + '/' + Path[length_of_folder:])
filenames = os.listdir(Path)
for filename in filenames:
if os.path.isdir(Path + '/' + filename):
#ps = "Testforthreading_" +"/" + Path[length_of_folder:]
#print("%s" % (ps + '/' + filename))
#os.mkdir(ps + '/' + filename)
temp = Path + '/' + filename
t = threading.Thread(target=copyfile , args=(temp,))
t.start()
else:
f = open(Path + '/' + filename , 'rb')
content = f.read()
F = open('Testforthreading_' + '/' + Path[length_of_folder:]+ '/' + filename , 'wb')
F.write(content)
f.close()
F.close()
def main():
""""""
foldername = input("Please input the folder you want to copy:")
length_of_folder = len(foldername)
if os.path.isdir("Testforthreading_"):
os.removedirs("Testforthreading_")
os.mkdir("Testforthreading_")
copyfile(foldername)
#p = multiprocessing.Pool(10)
#que = multiprocessing.Manager().Queue()
if __name__ == "__main__":
main()
ps:Python多进程递归复制文件夹中的文件
import multiprocessing
import os
import reimport time
# 源文件夹地址、目标文件夹地址
SOUR_PATH = ""
DEST_PATH = ""
# 源文件列表 文件夹列表
SOUR_FILE_LIST = list()
SOUR_DIR_LIST = list()
def traverse(source_path):
"""递归遍历源文件夹,获取文件夹列表、文件列表
:param source_path: 用户指定的源路径
"""
if os.path.isdir(source_path):
SOUR_DIR_LIST.append(source_path)
for temp in os.listdir(source_path):
new_source_path = os.path.join(source_path, temp)
traverse(new_source_path)
else:
SOUR_FILE_LIST.append(source_path)
def copy_files(queue, sour_file, dest_file):
"""复制文件列表中的文件到指定文件夹
:param queue: 队列,用于监测进度
:param sour_file:
:param dest_file:
"""
# time.sleep(0.1)
try:
old_f = open(sour_file, "rb")
new_f = open(dest_file, "wb")
except Exception as ret:
print(ret)
else:
content = old_f.read()
new_f.write(content)
old_f.close()
new_f.close()
queue.put(sour_file)
def main():
source_path = input("请输入需要复制的文件夹的路径:\n")
SOUR_PATH = source_path
DEST_PATH = SOUR_PATH + "[副本]"
# dest_path = input("请输入目标文件夹路径")
# DEST_PATH = dest_path
print(">>>源文件夹路径:", SOUR_PATH)
print(">目标文件夹路径:", DEST_PATH)
print("开始计算文件...")
queue = multiprocessing.Manager().Queue()
po = multiprocessing.Pool(5)
traverse(source_path)
print("创建目标文件夹...")
for sour_dir in SOUR_DIR_LIST:
dest_dir = sour_dir.replace(SOUR_PATH, DEST_PATH)
try:
os.mkdir(dest_dir)
except Exception as ret:
print(ret)
else:
print("\r目标文件夹 %s 创建成功" % DEST_PATH, end="")
print()
print("开始复制文件")
for sour_file in SOUR_FILE_LIST:
dest_file = sour_file.replace(SOUR_PATH, DEST_PATH)
po.apply_async(copy_files, args=(queue, sour_file, dest_file))
count_file = len(SOUR_FILE_LIST)
count = 0
while True:
q_sour_file = queue.get()
if q_sour_file in SOUR_FILE_LIST:
count += 1
rate = count * 100 / count_file
print("\r文件复制进度: %.2f%% %s" % (rate, q_sour_file), end="")
if rate >= 100:
break
print()
ret = re.match(r".*\\([^\\]+)", SOUR_PATH)
name = ret.group(1)
print("文件夹 %s 复制完成" % name)
if __name__ == '__main__':
main()
总结
以上所述是小编给大家介绍的linux 下python多线程递归复制文件夹及文件夹中的文件网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!
来源:https://blog.csdn.net/Tdyh_NY/article/details/103788085


猜你喜欢
- 遇到的问题:在pytorch训练过程中突然out of memory。解决方法:1. 测试的时候爆显存有可能是忘记设置no_grad加入 w
- Python借助AI和数据科学,目前已经攀爬到了编程语言生态链的顶级位置,可以说Python基本上与AI已经紧密捆绑在了一起了。为什么人工智
- 1. Django: Python Web应用开发框架Django 应该是最出名的Python框架,GAE甚至Erlang都有框架受它影响。
- 如何拖拽文件到指定位置,具体方法如下在从本地上传图片的时候,如果使用拖拽效果,想想应该是更加的高大上,下面直接上代码完整代码:<!DO
- django orm 有个defer方法,指定模型排除的字段。如下返回的Queryset, 排除‘username', 'i
- 前言VScode是一个相当优秀的IDE,具备开源、跨平台、模块化、插件丰富、启动时间快、颜值高、可高度定制等等优秀的特质,不愧是微软爸爸的私
- python拼接字符串一般有以下几种方法:①直接通过(+)操作符拼接s = 'Hello'+' '+'
- 目录什么是 MySQL?什么是 MongoDB?MongoDB 与 MySQL 的差异数据模式和容量性能和速度安全性事务的特性:原子性、一致
- 这些CSS Selector在平时写页面的时候用地不多,只在JavaScript库、Firefox插件、iPhone页面里有过接触。推荐大家
- Bootstrap,来自 Twitter,是目前最受欢迎的前端框架。Bootstrap 是基于 HTML、CSS、JAVASCRIPT 的,
- 由于个人能力有限,文章中难免会出现错误或遗漏的地方,敬请谅解!同时欢迎你指出,以便我能及时修改,以免误导下一个看官。最后希望本文能给你带来一
- 版本:python2.7 2.7 2.7!!!症状:比如,我编写了一个字符串number,输出到网页上,变成了u'number
- 本文实例讲述了JSP基本语句用法。分享给大家供大家参考。具体如下:1>JSP指令JSP指令(Directive)作用是与JSP引擎进行
- 前言图是一种抽象数据结构,本质和树结构是一样的。图与树相比较,图具有封闭性,可以把树结构看成是图结构的前生。在树结构中,如果把兄弟节点之间或
- 升序import pandas as pdimport numpy as npdata = np.random.randint(low=2,
- 我在代码里定义了两个通道,分别用于生产端口和限制连接数,如果不限制连接数,容易被对方检测到或导致对方服务器不能正常运行。// 生产端口var
- PyQt5信号与槽高级自定义信号与槽所谓高级自定义信号与槽,指的就是我们可以以自己喜欢的方式定义信号与槽函数,并传递参数,自定义信号的一般流
- 在本篇文章中,我们将介绍回归树及其基本数学原理,并从头开始使用Python实现一个完整的回归树模型。为了简单起见这里将使用递归来创建树节点,
- 本文实例为大家分享了python实现维吉尼亚加密法的具体代码,供大家参考,具体内容如下Vigenere加密/解密时,把英文字母映射为0-25
- 废话少说,先上代码File:logger.conf[formatters]keys=default[formatter_default]fo