區域性搜尋演算法的R語言實現

禁忌演算法

禁忌演算法是啟發式演算法對個體的應用的一種。由於在運用最速下降或者最速上公升區域性搜尋最值的時候可能會因為到了區域性最小值後停止搜尋。這裡禁忌演算法是一種可以look back的演算法，但是需要設定一些禁忌目錄來保證搜尋不是無限的。

例如：在baseball salary案例中，我們希望尋找幾個與salary最connected的features去做multiple regression所以，需要在p個features中尋找s個features。我們在這裡通過線性回歸的衡量引數最大擬合模型的aic來做乙個需要優化的function。。我們需要尋找的是哪s個feature使得aic最大。所以這是乙個np問題。

下面進行**的說明:

cun.current 
cun.var=baseball.sub[,cun.current==1]
g cun.aic.current 
for (i in
1:m)
}

將本段程式迴圈15次（我們最初設定的最大迭代次數。）應該是找到aic不再動的時候停止。

這樣我們找到了最優的aic值。這時，選中的feature序列數就是我們需要找到最優的多元線性回歸需要用到的最優features.

主要程式就是這樣子了~

baseball.dat = read.table("d:\\sunyao\\baseball.dat",header=true)
baseball.dat$freeagent = factor(baseball.dat$freeagent)
baseball.dat$arbitration = factor(baseball.dat$arbitration)
baseball.sub = baseball.dat[,-1]
salary.log = log(baseball.dat$salary)
n = length(salary.log)
m = length(baseball.sub[1,])#去掉第一列的salary
num.starts = 5
runs = matrix(0,num.starts,m)
itr = 15
runs.aic = matrix(0,num.starts,itr)
# initializes starting runs
set.seed(19676) 
for(i in
1:num.starts)
## main
for(k in
1:num.starts)
}run.current = run.next
runs.aic[k,j]=run.aic
}runs[k,] = run.current
}## output
runs        # lists of predictors
runs.aic    # aic values

我們可以用影象表示我們迭代過程中aic值的變化情況。

我發現r包乙個tabusearch可以成功的找到我們需要的函式的最小值。

下面對tabusearch函式進行簡介。

tabusearch用來搜尋乙個二進位制陣列的最佳形式。其中我們需要自己寫乙個evaluate函式來確定演算法的評判標準。

下面是引數說明：

tabusearch()

一種優化二進位制字串的禁忌搜尋演算法。它需要使用者定義的目標函式

並報告在整個搜尋過程中找到的最佳二進位制配置，即最高的二進位制配置

目標函式值。該演算法可用於變數選擇。

size:二進位制配置的長度。

iters:迭代次數

objfunc：引數為01的目標函式用來評判選擇變數

config：初始值

neigh;設定每次迭代時候鄰居的位置：初始值是all size

listsize：禁忌列表的長度

nrestarts：演算法強化的時候最多可以重新啟動的次數

repeatall：可以重複搜尋的次數

verbose：t\f t：列印所在階段的名稱：初步階段。集約化階段。多元化階段

對於上一道題。我不明白為啥算出來的aic值成了最小的了····

evaluate 
res 
listsize = 5, nrestarts = 4)

區域性搜尋演算法的R語言實現

R語言實現KNN 演算法

Bagging演算法的R語言實現

禁忌搜尋演算法之01揹包問題（C語言實現）

區域性搜尋演算法的R語言實現

R語言實現KNN 演算法

Bagging演算法的R語言實現

禁忌搜尋演算法之01揹包問題（C語言實現）

相關推薦