背景:
有一个爬虫服务,需要定时从公开网站上拉取一些数据,为了避免被识别为爬虫(防爬虫的识别需要根据很多特征,时间仅仅是其中一个维度),需要在指定的时间内,随机生成一个时间爬取
脚本是python写的,直接上代码...
import logging import traceback from datetime import datetime from apscheduler.schedulers.background import BackgroundScheduler scheduler = BackgroundScheduler() def spider_schedule(): # spider_schedule是job_id scheduler.remove_job('spider_schedule') try: print 'spider start... ', datetime.now().strftime('%Y-%m-%d %X') #--------自己的业务代码------- pass #--------------------------- print 'spider end... ', datetime.now().strftime('%Y-%m-%d %X') except Exception as e: print traceback.format_exc(e) finally: interval_minutes = random.randint(60, 120) # 1-120分钟随机选一个时间 interval_seconds = random.randint(1, 60) # 1~60秒随机选一个时间 scheduler.add_job(spider_schedule, 'interval', minutes=interval_minutes, seconds=interval_seconds, id='spider_schedule') if __name__ == '__main__': scheduler.add_job(spider_schedule, 'interval', seconds=10, id='spider_schedule') scheduler.start()
ps:下面看下python定时执行任务的三种方式
#!/user/bin/env python # @Time :2018/6/7 16:31 # @Author :PGIDYSQ #@File :PerformTaskTimer.py #定时执行任务命令 #1.定时任务代码 import time,os,sched # schedule = sched.scheduler(time.time,time.sleep) # def perform_command(cmd,inc): # os.system(cmd) # print('task') # def timming_exe(cmd,inc=60): # schedule.enter(inc,0,perform_command,(cmd,inc)) # schedule.run() # print('show time after 2 seconds:') # timming_exe('echo %time%',2) #2.周期性执行任务 schedule = sched.scheduler(time.time,time.sleep) def perform_command(cmd,inc): #在inc秒后再次运行自己,即周期运行 schedule.enter(inc, 0, perform_command, (cmd, inc)) os.system(cmd) def timming_exe(cmd,inc=60): schedule.enter(inc,0,perform_command,(cmd,inc)) schedule.run()#持续运行,直到计划时间队列变成空为止 print('show time after 2 seconds:') timming_exe('echo %time%',2) #3.循环执行命令 # import time,os # def re_exe(cmd,inc = 60): # while True: # os.system(cmd) # time.sleep(inc) # re_exe("echo %time%",5)
本文向大家介绍PHP实现定时执行任务的方法,包括了PHP实现定时执行任务的方法的使用技巧和注意事项,需要的朋友参考一下 本文实例讲述了PHP实现定时执行任务的方法,代码简单实用。分享给大家供大家参考。 具体实现方法如下: 希望本文所述对大家的PHP程序设计有所帮助。
本文向大家介绍ASP中实现执行定时任务的方法,包括了ASP中实现执行定时任务的方法的使用技巧和注意事项,需要的朋友参考一下 一个很常见的 ASP 问题 : “如何定时工作流程执行网页?”, 之所以会问这个问题大部分是因为管理员可能会利用一个 ASP 网页来作数据库维护的动作, 如备份, 在 Windows NT 平台有一个方法可以做工作流程, 那就是 AT 指令 + Schedule 服务,就是计
本文向大家介绍PHP定时执行任务实现方法详解(Timer),包括了PHP定时执行任务实现方法详解(Timer)的使用技巧和注意事项,需要的朋友参考一下 下面通过理论讲解,实例分析,效果展示的方式给大家分享下PHP定时执行任务实现方法。 定时器任务,在WEB应用比较常见,如何使用PHP实现定时器任务,大致有两种方案: 1)使用Crontab命令,写一个shell脚本,在脚本中调用PHP文件,然后定期
本文向大家介绍PHP定时任务延缓执行的实现,包括了PHP定时任务延缓执行的实现的使用技巧和注意事项,需要的朋友参考一下
原文链接:Serverless 应用开发指南:CRON 定时执行 Lambda 任务 在上一篇文章《Serverless 应用开发指南:基于 Serverless 的 GitHub Webhook》里,我们介绍了如何用 Webhook 来触发定时的 Lambda 函数。这种方式与我们平时的 CI(持续集成)服务器相似,而CI(持续集成)服务器除了会监听 PUSH 事件。还会执行一些定时的任务,比如
本文向大家介绍Python实现定时执行任务的三种方式简单示例,包括了Python实现定时执行任务的三种方式简单示例的使用技巧和注意事项,需要的朋友参考一下 本文实例讲述了Python实现定时执行任务的三种方式。分享给大家供大家参考,具体如下: 1.定时任务代码 2.周期性执行任务 3.循环执行命令 更多关于Python相关内容感兴趣的读者可查看本站专题:《Python日期与时间操作技巧总结》、《P