Linux Shell多程序併發以及併發數控制

2021-10-02 17:05:26 字數 4035 閱讀 3747

1. 基礎知識準備

1.1. linux後台程序

unix是乙個多工系統,允許多使用者同時執行多個程式。shell的元字元&提供了在後台執行不需要鍵盤輸入的程式的方法。輸入命令後,其後緊跟&字元,該命令就會被送往到linux後台執行,而終端又可以繼續輸入下乙個命令了。

比如:

sh a.sh &

sh b.sh &

sh c.sh &

這三個命令就會被同時送往linux後台執行,在這個程度上,認為這三個命令併發執行了。

1.2. linux檔案描述符

檔案描述符(縮寫fd)在形式上是乙個非負整數。實際上,它是乙個索引值,指向核心為每乙個程序所維護的該程序開啟檔案的記錄表。當程式開啟乙個現有檔案或者建立乙個新檔案時,核心向程序返回乙個檔案描述符。每乙個unix程序,都會擁有三個標準的檔案描述符,來對應三種不同的流:

檔案描述符    名稱

0    standard input

1    standard output

2    standard error

每乙個檔案描述符會對應乙個開啟檔案,同時,不同的檔案描述符也可以對應同乙個開啟檔案;同乙個檔案可以被不同的程序開啟,也可以被同乙個程序多次開啟。

在/proc/pid/fd中,列舉了程序pid所擁有的檔案描述符,例如

#!/bin/bash

source /etc/profile;

# $$表示當前程序的pid

pid=$$

# 檢視當前程序的檔案描述符指向

ll /proc/$pid/fd

echo "-------------------";echo

# 檔案描述符1與檔案tempfd1進行繫結

( [ -e ./tempfd1 ] || touch ./tempfd1 ) && exec 1<>./tempfd1

# 檢視當前程序的檔案描述符指向

ll /proc/$pid/fd

echo "-------------------";echo;

[ouyangyewei@localhost learn_linux]$ sh learn_redirect.sh 

total 0

lrwx------. 1 ouyangyewei ouyangyewei 64 jan 4 22:17 0 -> /dev/pts/0

lrwx------. 1 ouyangyewei ouyangyewei 64 jan 4 22:17 1 -> /dev/pts/0

lrwx------. 1 ouyangyewei ouyangyewei 64 jan 4 22:17 2 -> /dev/pts/0

lr-x------. 1 ouyangyewei ouyangyewei 64 jan 4 22:17 255 -> /home/ouyangyewei/workspace/learn_linux/learn_redirect.sh

-------------------

[ouyangyewei@localhost learn_linux]$ cat tempfd1

total 0

lrwx------. 1 ouyangyewei ouyangyewei 64 jan 4 22:17 0 -> /dev/pts/0

lrwx------. 1 ouyangyewei ouyangyewei 64 jan 4 22:17 1 -> /home/ouyangyewei/workspace/learn_linux/tempfd1

lrwx------. 1 ouyangyewei ouyangyewei 64 jan 4 22:17 2 -> /dev/pts/0

lr-x------. 1 ouyangyewei ouyangyewei 64 jan 4 22:17 255 -> /home/ouyangyewei/workspace/learn_linux/learn_redirect.sh

-------------------

上述的例子中第12行,將檔案描述符1與檔案tempfile進行了繫結,此後,檔案描述符1指向了tempfile檔案,標準輸出被重定向到了檔案tempfile中。

linux管道包含兩種:

匿名管道

命名管道

管道有乙個特點,如果管道中沒有資料,那麼取管道資料的操作就會滯留,直到管道內進入資料,然後讀出後才會終止這一操作;同理,寫入管道的操作如果沒有讀取管道的操作,這一動作就會滯留。

1.3.1. 匿名管道

在unix或類unix作業系統的命令列中,匿名管道使用ascii中垂直線|作為匿名管道符,匿名管道的兩端是兩個普通的,匿名的,開啟的檔案描述符:乙個唯讀端和乙個只寫端,這就讓其它程序無法連線到該匿名管道。

例如:cat file | less

1為了執行上面的指令,shell建立了兩個程序來分別執行cat和less。下圖展示了這兩個程序是如何使用管道的:

有一點值得注意的是兩個程序都連線到了管道上,這樣寫入程序cat就將其標準輸出(檔案描述符為fd 1)連線到了管道的寫入端,讀取程序less就將其標準輸入(檔案描述符為fd 0)連線到了管道的讀入端。實際上,這兩個程序並不知道管道的存在,它們只是從標準檔案描述符中讀取資料和寫入資料。shell必須要完成相關的工作。

1.3.2. 命名管道(fifo,first in first out)

命名管道也稱fifo,從語義上來講,fifo其實與匿名管道類似,但值得注意:

在檔案系統中,fifo擁有名稱,並且是以裝置特俗檔案的形式存在的;

任何程序都可以通過fifo共享資料;

除非fifo兩端同時有讀與寫的程序,否則fifo的資料流通將會阻塞;

匿名管道是由shell自動建立的,存在於核心中;而fifo則是由程式建立的(比如mkfifo命令),存在於檔案系統中;

匿名管道是單向的位元組流,而fifo則是雙向的位元組流;

比如,可以利用fifo實現單伺服器、多客戶端的應用程式:

有了上面的知識準備,現在可以開始講述,linux多程序併發時,如何控制每次併發的程序數。

既然不能一次性把365個任務放到linux後台執行,那麼,能不能實現自動地每次將n個任務放到後台併發執行呢?當然是可以的啦。

#! /bin/bash

source /etc/profile;

# -----------------------------

tempfifo=$$.fifo # $$表示當前執行檔案的pid

begin_date=$1 # 開始時間

end_date=$2 # 結束時間

if [ $# -eq 2 ]

then

if [ "$begin_date" \> "$end_date" ]

then

echo "error! $begin_date is greater than $end_date"

exit 1;

fielse

echo "error! not enough params."

echo "sample: sh loop_kpi 2015-12-01 2015-12-07"

exit 2;

fi# -----------------------------

trap "exec 1000>&-;exec 1000<&-;exit 0" 2

mkfifo $tempfifo

exec 1000<>$tempfifo

rm -rf $tempfifo

for ((i=1; i<=8; i++))

do echo >&1000

done

while [ $begin_date != $end_date ]

do read -u1000

&begin_date=`date -d "+1 day $begin_date" +"%y-%m-%d"`

done

wait

echo "done!!!!!!!!!!"

摘錄 多程序併發

現在是多核時代,併發才能實現更高的吞吐量 更快的響應,但也是把雙刃劍。總結如下幾個用法 這是兩種最常見的多執行緒併發,它們有個天生的缺陷 scalability。乙個機器的效能總是有瓶頸的。兩個場景的邏輯雖然由多個執行緒實現了併發,但是運算量十分有可能是一台機器無法承載的。如果是多程序併發,那麼可以...

python多程序併發

由於python下呼叫linux的shell命令都需要等待返回,所以常常我們設定的多執行緒都達不到效果,因此在呼叫shell命令不需要返回時,使用threading模組並不是最好的方法。python提供了非常好用的多程序包multiprocessing,你只需要定義乙個函式,python會替你完成其...

python併發之多程序

一 multiprocessing模組介紹 python中的多執行緒無法利用多核優勢,如果想要充分地使用多核cpu的資源 os.cpu count 檢視 在python中大部分情況需要使用多程序。python提供了multiprocessing。multiprocessing模組用來開啟子程序,並在...