当前位置: 首页 > 知识库问答 >
问题:

使用urllib下载。要求检索URL需要固定的时间

章安易
2023-03-14

我注意到了这一点。要求urlretrieve(url、fname_和_路径)下载任何小文件需要24秒:

file1   file size: 3336
done in -24.33854389190674  

file2   file size: 19252
done in -24.332698583602905

file3   file size: 62105
done in -24.43064308166504                                

file4   file size: 52405
done in -24.39844298362732 

而请求。get(url)下载相同文件的速度要快得多

file1   file size: 3336
done in -0.10920000076293945 

file2   file size: 19252
done in -0.1716001033782959

file3   file size: 62105
done in -0.3120005130767822    

file4   file size: 52405
done in -0.2652003765106201    

问题是urllib花24秒下载文件的原因是什么?我该如何解决这个问题,让它更快地工作?

共有1个答案

欧阳俊晖
2023-03-14

尝试使用这里提供的解决方案:python下载速度非常慢。通过将操作分为几个阶段(下载和写入文件),它帮助我加快了检索文件的速度。

 类似资料:
  • 我对编程非常陌生,目前正在Youtube上学习python(“新的Boston-Python3”)试图根据视频中的代码从互联网上下载图像,但出现了一个错误。代码如下: 错误是: 我正在使用PyCharm 2018.3版本 请帮帮我,谢谢

  • 我正在使用Jsoup解析网站的内容。问题是页面上有些数据需要几秒钟才能加载。因此,我的程序只能获取加载图形,而不能获取加载的数据。以下是我得到的: 如果我在浏览器中打开此url,我实际上可以看到此块的内容,而不是“加载”字。 我想知道在页面完全加载后是否还有其他方法可以获取内容。以下是我的简单代码: 任何帮助真的真的很感激。

  • 我正在尝试使用检索文件,同时添加自定义头。 检查我意识到可以在参数中获取对象,而不仅仅是一个字符串,从而可以放置我想要的标题。但是,如果我尝试对执行相同的操作,我会得到一个类型错误:预期的字符串或类似字节的对象,正如在另一篇文章中提到的。 我最终所做的是重写我自己的url检索,删除抛出错误的行(该行在我的用例中无关紧要)。 它工作得很好,但我想知道是否有更好/更干净的方法,而不是重写我自己的。如果

  • 我的项目体系结构由一个配置了 SSL 的负载均衡器组成。SSL 配置在负载均衡器处终止,请求将转发到 HTTP 的 Web 服务器和应用服务器。当用户首次访问应用程序时,Spring Security会尝试使用HTTP协议重定向到登录页面。由于负载均衡器侦听 HTTPS,因此此请求将失败。 考虑到Web服务器将始终在HTTP上转发到应用程序服务器,我该怎么做才能确保在创建重定向请求时使用HTTPS

  • 我是Pact.io的新手,正在尝试在我们的平台上设置合同测试。应用程序是这样设置的,每个客户帐户都有自己的数据库模式,直接绑定到一个URL子域。当发出API请求时,除了授权标头之外,还必须提供该URL子域。我可以创建一个静态令牌来与使用者测试一起传递,但是当Pact发送请求时,它不知道要使用哪个帐户。我看不出有什么方法可以通过一个URL子域作为消费者测试的一部分,并且不确定如何强制它使用提供者端的

  • 我正在通过NestJS API中的仅HTTP cookie传递身份验证令牌。 因此,在为我的Authendpoint编写一些E2E测试时,我遇到了一个问题,即cookie没有达到我的预期。 下面是我的精简测试代码: 在我的JWT策略中,我使用一个定制的cookie解析器。我遇到的问题是请求。当cookie到达解析器时,它总是未定义的。但是,cookie将出现在请求中。标题。 我遵循这篇媒体文章中的