Oozie的工作流调度

匿名 (未验证) 提交于 2019-12-02 23:32:01

设置oozie工作流调度
workflow
Coordinator
bundle

workflow.xml
job.properties内容:
nameNode=hdfs://hadoop01:9000 --客户端连接hdfs集群
jobTracker=hadoop01:8032 --客户端连接yarn集群
queueName=default --调度队列
filePath=/gp1819/oozie --oozie的根目录

oozie.libpath=${nameNode}/gp1819/oozielib --第三方依赖路径

oozie.wf.application.path=nameNode{nameNode}{filePath}/sqoop/ --工作流应用程序的目录

Coordinator.xml

hdfs dfs -mkdir /gp1919
hdfs dfs -mkdir -p /gp1919/oozie /gp1919/oozielib
hdfs dfs -put $HIVE_HOME/lib/mysql-connector-java-5.1.32.jar /gp1919/oozielib/

1、创建sqoop的job
vi gp1919_sqoop_desc.sh

2、检查oozie任务的配置是否正确
启动oozie服务
oozied.sh start
启动历史服务器
mr-jobhistory-daemon.sh start historyserver

检查配置
oozie validate sqoop/workflow.xml

报错:
java.lang.IllegalArgumentException: Oozie URL is not available neither in command option or in the environment

解决:
export OOZIE_URL=http://hadoop01:11000/oozie

提交oozie的任务:
oozie job --oozie http://hadoop01:11000/oozie -config sqoop/job.properties -run

2、执行sqoop的job
oozie job --oozie http://hadoop01:11000/oozie -config sqoop-exec/job.properties -run

3、工作流调度
oozie job --oozie http://hadoop01:11000/oozie -config coor/job.properties -run

文章来源: https://blog.csdn.net/song1_2/article/details/90245674
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!