celery定时任务踩坑

自作多情 提交于 2019-12-06 20:39:08
  1. 新添加定时任务之后,需要重启一下celery的beat, 新增的任务才能生效。目前celery没有提供flask可以动态添加定时任务的接口
  2. celery 添加定时任务有2中途径,一种是在项目的配置文件中,一种是在模块的task.py文件中。这两种方式都需要显示的添加定时任务。如果想用信号触发自动添加定时任务,定时任务添加不成功
    task.py
def get_tasks():
    task_infos = []
    tasks = db.session.query(PeriodTask).all()
    for item in tasks:
        interval = item.interval.split()
        scheduler = crontab(minute=interval[0], hour=interval[1], day_of_month=interval[2], month_of_year=interval[3],
                            day_of_week=interval[4])
        task_infos.append((scheduler, item.id))
    return task_infos


tasks_info = get_tasks()

for key, value in tasks_info:
    celery_app.add_periodic_task(key, generate_task.s(value))   # 显示的添加定时任务

3.存放定时任务的文件名字可以任意,不一定必须是tasks.py, celery添加定时任务与文件的名字无关,与CELERY_IMPORTS这个参数有关

CELERY_IMPORTS = ('xxx.sql_lab', 'xxx.tasks.task')

4.在celery的broker用redis时,会发生同一时刻有2个worker同时执行一个任务的情况,开始时以为是重复添加任务造成的,后来把所有的任务清除了,还是这样,后来发现大家在使用redis作为broker的时候,都会出现这个问题。解决问题的链接celery同一时刻重复执行任务。如果不想用celery_once的话,可以把borker换成rabbitmq,rabbitmq没有这个问题

标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!