Spring Boot中的多线程cron作业

Question

我正在开发一个Spring Boot应用程序，它在给定的网站中查找给定的关键字，如果找到匹配项，就会删除这些网页。我正在编写一个cron作业，每5分钟刷新一次结果，如下所示：

@Scheduled(cron = "* */5 * * * *")
public void fetchLatestResults() throws Exception {
    LOG.debug("Fetching latest results >>>");
    List<Keyword> keywords = keywordService.findOldestSearched10();
    keywordService.updateLastSearchDate(keywords);
    searchResultService.fetchLatestResults(keywords);
    LOG.debug("<<< Latest results fetched");
}

数据库有100个关键字，在cron作业中，我首先列出了上次获取结果的最旧的10个关键字。因此，例如，第一次运行应该使用id 1到10的关键字，第二次运行应该使用id 11到20，依此类推，第11次运行应该再次使用id 1到10，并且该过程继续。

现在，问题是执行搜索需要的时间远远超过5分钟。所以，即使我将cron作业设置为每5分钟运行一次，第二次运行直到第一次完成才会发生。因此，完成搜索需要几个小时。我如何使这个过程多线程，以便cron作业的多个实例可以同时运行，因为它们在不同的关键字列表上运行？

Answer 1

我建议您使cron作业的执行异步。

创建executor类，该类将创建一个新线程来运行cron作业：

@Component
public class YourCronJobExecutor {

    private int threadsNumber = 10;
    private ExecutorService executorService;

    @PostConstruct
    private void init() {
        executorService = Executors.newFixedThreadPool(threadsNumber);
    }

    /**
     * Start.
     * @param runnable - runnable instance.
     */
    public void start(Runnable runnable) {
        try {
            executorService.execute(runnable);
        } catch (RejectedExecutionException e) {
            init();
            executorService.execute(runnable);
        }
    }
}

创建一个处理器类，该类将包含cron作业的逻辑：

@Component
public class CronJobProcessor {

    //logger
    //autowired beans

    public void executeYouCronJob() {
        LOG.debug("Fetching latest results >>>");
        List<Keyword> keywords = keywordService.findOldestSearched10();
        keywordService.updateLastSearchDate(keywords);
        searchResultService.fetchLatestResults(keywords);
        LOG.debug("<<< Latest results fetched");
    }
}

最后，您的cron工作类将如下所示：

@Component
public class YourCronJobClass {

    private final YourCronJobExecutor yourCronJobExecutor;

    private final CronJobProcessor cronJobProcessor;

    @Autowired
    public PopulateCourseStateController(YourCronJobExecutor yourCronJobExecutor,
                                         CronJobProcessor cronJobProcessor) {
        this.yourCronJobExecutor = yourCronJobExecutor;
        this.cronJobProcessor = cronJobProcessor;
    }   

    @Scheduled(cron = "* */5 * * * *")
    public void fetchLatestResults() throws Exception {
        yourCronJobExecutor.start(cronJobProcessor::executeYouCronJob);
    }
}

这样，cron作业的执行将需要几毫秒的时间，一个单独的线程将实际执行该作业，它将根据需要运行多长时间。

但是，也许你想在一个单独的线程中搜索每个关键字，但这有点不同。