codecamp

Samza YARN工作

当您在您的工作配置中定义 job.factory.class = org.apache.samza.job.yarn.YarnJobFactory 时,Samza 将使用 YARN 来执行您的工作。YarnJobFactory 将使用HADOOP_YARN_HOMErun-job.sh 执行的机器上的环境变量来获取适当的 YARN 配置,这将定义 YARN 资源管理器的位置。YarnJob 将与资源管理器一起工作,使您的工作在 YARN 群集上启动。

如果您想使用 YARN 来运行 Samza 工作,您还需要定义 Samza 工作包的位置。

例如,你可能会说:

yarn.package.path=http://my.http.server/jobs/ingraphs-package-0.0.55.tgz

此 .tgz 文件遵循 Packaging 页面上概述的约定(它具有 bin / run-am.sh 和 bin / run-container.sh)。YARN NodeManagers 将负责将该 .tgz 文件下载到相应的计算机上,并将其解压缩。从那里,YARN 将为 Samza 应用主程序和 SamzaContainer 分别执行 run -am.sh 或 run-container.sh。

如果要在特定 YARN 队列中运行 Samza 作业,而不是默认队列,则可以在作业的配置中设置 yarn.queue 的属性。

例如,使用以下属性设置:

yarn.queue=root.adhoc

Samza 作业将在 root.adhoc 队列中运行。

记录  »

Samza 打包
Samza 记录
温馨提示
下载编程狮App,免费阅读超1000+编程语言教程
取消
确定
目录

Samza API

关闭

MIP.setData({ 'pageTheme' : getCookie('pageTheme') || {'day':true, 'night':false}, 'pageFontSize' : getCookie('pageFontSize') || 20 }); MIP.watch('pageTheme', function(newValue){ setCookie('pageTheme', JSON.stringify(newValue)) }); MIP.watch('pageFontSize', function(newValue){ setCookie('pageFontSize', newValue) }); function setCookie(name, value){ var days = 1; var exp = new Date(); exp.setTime(exp.getTime() + days*24*60*60*1000); document.cookie = name + '=' + value + ';expires=' + exp.toUTCString(); } function getCookie(name){ var reg = new RegExp('(^| )' + name + '=([^;]*)(;|$)'); return document.cookie.match(reg) ? JSON.parse(document.cookie.match(reg)[2]) : null; }