yarn
--master 值為yarn
--deploy-mode 部署模式,執行driver程序在客戶端還是集群上,預設為客戶端(client),可以指定為cluster
--class 執行程式的類的全限定名
--name 執行程式的名稱
--jars 執行程式的jar包,一般放在hdfs上面
--conf 執行程式需要指定配置資訊
--driver-memory 執行程式指定的driver的記憶體,預設為1g
--executor-memory 單個executor需要分配的記憶體大小,預設為1g
--proxy-user name 提交應用程式時要模擬的使用者,此引數不適用於--principal/--keytab
-v 列印其他除錯輸出
--version, 列印當前的spark版本
--driver-cores driver驅動程式的核數,預設為1,只有在部署模式為cluster的時候有效
--num-executors executor的個數,預設為2個executor
--executor-cores executor的核數,預設為1個cpu核數
standalone
--master 值為spark://host:port
--deploy-mode 部署模式,執行driver程序在客戶端還是集群上,預設為客戶端(client),可以指定為cluster
--class 執行程式的類的全限定名
--name 執行程式的名稱
--jars 執行程式的jar包,一般放在hdfs上面
--conf 執行程式需要指定配置資訊
--driver-memory 執行程式指定的driver的記憶體,預設為1g
--executor-memory 單個executor需要分配的記憶體大小,預設為1g
--proxy-user name 提交應用程式時要模擬的使用者,此引數不適用於--principal/--keytab
-v 列印其他除錯輸出
--version, 列印當前的spark版本
--driver-cores driver驅動程式的核數,預設為1,只有在部署模式為cluster的時候有效
--kill 如果給定則殺死指定的程式,只有在部署模式為cluster的時候有效
--status 如果給定,則請求指定驅動程式的狀態,只有在部署模式為cluster的時候有效
--supervise 如果給定,則在出現故障時重新啟動驅動程式,只有在部署模式為cluster的時候有效
--executor-cores executor的核數,預設為所有可用的cpu核心數
--total-executor-cores 所有的executor的核數,
mesos
--master 值為mesos://host:port
--deploy-mode 部署模式,執行driver程序在客戶端還是集群上,預設為客戶端(client),可以指定為cluster
--class 執行程式的類的全限定名
--name 執行程式的名稱
--jars 執行程式的jar包,一般放在hdfs上面
--conf 執行程式需要指定配置資訊
--driver-memory 執行程式指定的driver的記憶體,預設為1g
--executor-memory 單個executor需要分配的記憶體大小,預設為1g
--proxy-user name 提交應用程式時要模擬的使用者,此引數不適用於--principal/--keytab
-v 列印其他除錯輸出
--version, 列印當前的spark版本
--total-executor-cores 所有的executor的核數,
--supervise 如果給定,則在出現故障時重新啟動驅動程式,只有在部署模式為cluster的時候有效
--kill 如果給定則殺死指定的程式,只有在部署模式為cluster的時候有效
--status 如果給定,則請求指定驅動程式的狀態,只有在部署模式為cluster的時候有效
Jmail主要引數
下面是乙個忘記密碼時的程式 前一段時間有發過乙個簡單的jmail郵件發郵件的 今天就把這個 做乙個具體的註解,並增加了另外兩個格式的 並舉幾個簡單的例子 首先是jmail.tpmail的核心 set jmail server.createobject jmail.tpmail 建立乙個jmail物件...
tar主要引數
主選項 一條命令以下5個引數只能有乙個 c create 新建乙個壓縮文件,即打包 x extract,get解壓檔案 t list,檢視壓縮文件裡的所有內容 u update 更新原壓縮包中的檔案 輔助選項 z 是否同時具有gzip的屬性?即是否需要用gzip壓縮或解壓?一般格式為 tar.gz或...
Kafka Consumer主要引數解釋
主要對kafka 0.9之後的new consumer的引數進行解釋 該引數是consumer group檢測成員發生崩潰的時間,比如設定為3分鐘,組中有乙個consumer崩潰了,則group中的協調器可能需要3分鐘才能感知到這個崩潰,重新進行分配分割槽。表示為consumer處理訊息可能需要花費...