Django Celery定时任务和时间设置

  • 发布时间:2017年5月7日 00:33
  • 作者:杨仕航
  • 分类标签: Django
  • 阅读(27378)
  • 评论(1)

继上篇文章Django初步使用Celery,我们接着使用celery在Django项目中执行定时任务。Celery的安装和Django项目代码我就不多说明了,可看刚刚的文章链接


1、Celery加入定时任务

Celery除了可以异步执行任务之外,还可以定时执行任务。在实例代码的基础上写个测试方法:

#coding:utf-8
from celery.task.schedules import crontab  
from celery.decorators import periodic_task

@periodic_task(run_every=crontab())
def some_task():
    print('periodic task test!!!!!')
    time.sleep(5)
    print('success')
    return True


该代码是每分钟执行一次some_task方法。

上篇文章启动celery是使用worker。但worker不能启动定时任务。启动方式如下:

1)先确保中间人是否打开,我使用redis作为中间人。可参考Redis在CentOS和Windows安装过程


2)进入django项目的根目录执行如下代码启动celery的worker:

celery -A myproject worker -l info

 

其中,myproject是我的django项目名称。如下图,看蓝色字体下的tasks列表。

20170506/20170506155001358.png

有两个任务,其中一个myapp.tasks.sendmail是上篇文章添加的异步处理任务。myapp.tasks.some_task是本次的定时任务。


3)同样在django项目的根目录下再打开一个命令行界面,执行如下代码:

celery -A myproject beat -l info

 

这个beat是检查定时任务,并启动定时任务丢给worker执行。如下图:

20170506/20170506155333539.png


可以稍微等待几分钟,多执行几次任务。如下图:

20170506/20170506155550966.png


上面的窗口是beat,下面的窗口是worker。可看到print的信息在worker中输出。

我们甚至不用打开Django项目的服务器,就可以执行定时任务。


2、Celery定时任务时间设置

若你觉得1分钟等待时间太长。可以设置为每10秒执行一次定时任务。将上面的periodic_task修改如下:

@periodic_task(run_every=10)


修改代码,需要重启Celery的worker和beat。

这个run_every参数是设置定时任务的时间间隔或执行的时间。该参数设置有3种方式。

1)直接设置秒数

例如刚刚所说的10秒间隔,run_every=10,每10秒执行一次任务。1分钟即是60秒;1小时即是3600秒。


2)通过datetime设置时间间隔

有时直接设置秒数不方便,需要通过计算得到具体秒数。

例如,1小时15分钟40秒 = 1*60*60 + 15*60 + 40。这种情况可读性也不高。

可以采用datetime设置,代码如下:

from celery.decorators import periodic_task
import datetime

@periodic_task(run_every=datetime.timedelta(hours=1, minutes=15, seconds=40))
def some_task():
    print('periodic task test!!!!!')

 

代码可读性明显提升,而且设置方便。

但这种不能满足定时定点的时间设置。假如我想固定每天12点15分的时候,执行一次任务。datetime和直接设置秒数的方式都无法实现。这时得使用第3种方式。


3)celery的crontab表达式

crontab是比较完善,且稍微有点复杂(相对前面两种方式而言)的方式。可以实现我们各种设置时间的需求。

例如,前面给出的代码:

#coding:utf-8
from celery.task.schedules import crontab  
from celery.decorators import periodic_task

@periodic_task(run_every=crontab())
def some_task():
    print('periodic task test!!!!!')


表示每分钟0秒时刻执行一次(后面不提这个0秒,大家都知道就行了,省点口水)。

其中,crontab()实例化的时候没设置任何参数,都是使用默认值。crontab一共有7个参数,常用有5个参数分别为:

minute:分钟,范围0-59;

hour:小时,范围0-23;

day_of_week:星期几,范围0-6。以星期天为开始,即0为星期天。这个星期几还可以使用英文缩写表示,例如“sun”表示星期天;

day_of_month:每月第几号,范围1-31;

month_of_year:月份,范围1-12。


a、默认参数

这些参数可以设置表达式,表达稍微复杂的设置。默认值都是"*"星号,代表任意时刻。即crontab()相当与:

crontab(minute='*', hour='*', day_of_week='*', day_of_month='*', month_of_year='*')

含义是每天、每小时、每分钟执行一次任务。这说法太反人类语言习惯,简单说就是每1分钟执行一次任务。


b、具体某个值

上面提到这些参数的取值范围。我们可以直接设置某个值。例如:

crontab(minute=15)


即每小时的15分时刻执行一次任务。直接指定某个时刻。以此类推可以设置每天0点0分时刻执行任务的设置如下:

crontab(minute=0, hour=0)

 

当然,也可以设置多个值。例如0分和30分执行一次任务:

crontab(minute='0,30')

这里使用字符串,用逗号隔开数值。这里的逗号是表示多个表达式or逻辑关系。


c、设置范围

设置范围也是设置多个值,例如指定9点到12点每个小时的每分钟执行任务。

crontab(minute='*', hour='9-12')


这里*号是默认值,可以省略如下:

crontab(hour='9-12')


上面提到逗号是or逻辑关系。拓展一下,指定9点到12点和20点中每分钟执行任务:

crontab(hour='9-12,20')


crontab的表达式越来越复杂了。celery还提供了一个类得到表达式解析结果,代码如下:

from celery.task.schedules import crontab_parser
r = crontab_parser(23, 0).parse('9-12,20')
print(r)


其中,crontab_parse是一个解析类。第1个参数是范围的最大值;第2个参数是范围的最小值。通过parse输入表达式,可得到表达式的解析结果:

set([9, 10, 11, 12, 20])

 

下面很多地方我们都可以通过该方法验证解析结果。

 

d、设置间隔步长

假如我要设置1、3、5、7、9、11月份每天每分钟执行任务,按照上面的做法可以设置如下:

crontab(day_of_month='1,3,5,7,9,11')

 

观察数据可以发现,都是间隔2的步长。需要设置的数字比较少,若数字比较多显得很麻烦。例如我想每间隔2分钟就执行一次任务,要写30个数字想想就觉得很麻烦。crontab表达式还提供了间隔的处理,例如:

crontab(minute='*/2')
crontab(minute='0-59/2') #效果等同上面

 

这个/号不是除以的意思。相当与range的第3个参数,例如:

range(0, 59+1, 2)


差不多crontab表达式就这些,多举几个例子:

#每2个小时中每分钟执行1次任务
crontab(hour='*/2')

#每3个小时的0分时刻执行1次任务
#即[0,3,6,9,12,15,18,21]点0分
crontab(minute=0, hour='*/3')

#每3个小时或8点到12点的0分时刻执行1次任务
#即[0,3,6,9,12,15,18,21]+[8,9,10,11,12]点0分
crontab(minute=0, hour='*/3,8-12')

#每个季度的第1个月中,每天每分钟执行1次任务
#月份范围是1-12,每3个月为[1,4,7,10]
crontab(month_of_year='*/3')

#每月偶数天数的0点0分时刻执行1次任务
crontab(minute=0, hour=0, day_of_month='2-31/2')

#每年5月11号的0点0分时刻执行1次任务
crontab(0, 0, day_of_month='11', month_of_year='5')


这些表达式设置都可以用crontab_parser验证。

演示代码已经更新到Github,若有需要可自行下载:https://github.com/HaddyYang/django-celery-redis-simple

上一篇:服务器使用Supervisor后台运行Celery

下一篇:Django初步使用Celery

相关专题: Django+Celery+Redis   

评论列表

lf123

lf123

怎么确保一个任务完成后才执行下一个任务?

2019-02-14 14:37 回复

新的评论

清空