活動丨聽大佬們說列生成算法,遺傳算法,粒子羣算法中的貓膩

活動丨聽大佬們說列生成算法,遺傳算法,粒子群算法中的貓膩

2018年8月22日列生成算法的子問題求解算法

(出自微信群: Global O.R./OM/IE Community)

於-昆明-昆明理工:

對於列生成算法的子問題求解,子問題除了動態規劃算法,還有啥別的算法?求分享。

留-海德堡-組合優化AI:子問題一事一議呀,我做過的project子問題本身是一個整數規劃問題。所以就歸結為整數規劃用什麼來求解了。

於-昆明-昆明理工:是不是關鍵在於找負的dual price。

留-海德堡-組合優化AI:恩,還是構造一個數學規劃問題,然後看那個問題屬於什麼類型。

Z-Pier-Crew Scheduling:理論上是 min問題是找負的reduce cost 吧,子問題具體問題具體分析,交通領域多為最短路,下料配載之類的多為0-1揹包,都是數學規劃問題,找到適合的求解算法就好。

於-昆明-昆明理工:我的困惑在於子問題採用的算法與reduce cost 之間聯繫,一個調度的問題,可以規約為tsp。

留-海德堡-組合優化AI:只要把子問題解出來,跟解這個問題的算法無關。很多時候不需要得出最優解,找到負的解就能add column了。最後一步收斂的時候,解到底,如果最優解是非負的,整個系統就converge了。

Z-Pier-Crew Scheduling:是的,也可以一次加很多列減弱退化,不需要每次都求到最小的reduce cost,也可以涉及啟發式的規則去解,只要保證負的就行。

2018年8月22日 遺傳算法的參數優化

(出自微信群: 【3】Global O.R./OM/IE Community)

攀-奧格斯堡大學-BWL:求教大神關於遺傳算法的最優化模型該怎麼建呢 為達到每代調節參數,得到更優的結果. 我這個問題好解嗎?

唐-NEU-組合優化&機器學習:個人覺得遺傳算法的參數還是挺玄學的 教材和網上能搜到一個推薦的區間 最土的辦法就是自己去挨個試一下了。當然用grid search來一遍應該也是可以的。

攀-奧格斯堡大學-BWL:這個推薦的區間是指什麼呢。是針對哪些參數而言?

唐-NEU-組合優化&機器學習:之前也嘗試過把解的質量和時間做成一個新的目標函數 在遺傳算法的上面在套一個近似算法求解 效果倒是還說得過去 但是實現起來稍微有些麻煩 時間上也不是很好。

攀-奧格斯堡大學-BWL:選擇方法算是參數嗎? 還是屬於一個算子?

唐-NEU-組合優化&機器學習:種群大小50~100 代數100~500 交叉概率0.5~0.99 變異概率一般在0.1以下一般來說盡可能小吧,另外還有自適應遺傳算法 就是會隨著迭代次數改變參數大小 但是我沒做過 具體細節我也太清楚 你可以去了解一下。

攀-奧格斯堡大學-BWL:是指adaptive GA嗎?選擇父代不是要用到一個選擇方法嗎 比如輪盤賭之類的 這可以當作參數處理嗎?

唐-NEU-組合優化&機器學習:好問題… 我還沒考慮過把這個做變量加進去,但是直覺覺得這個影響應該不是很大?當然了不要相信直覺 還是要試一試。

攀-奧格斯堡大學-BWL:嗯 這個我也只用了一種選擇方法 不知道有沒有大的影響,我也只是剛剛接觸遺傳算法 ,有的東西不是很瞭解 。最優化模型怎麼建呢 ,有稍微具體點的思路嗎。針對TSP模型的話。

唐-NEU-組合優化&機器學習:思路就是找出目標函數 定一個適應度函數 想出染色體編碼的方式 還有根據染色體交叉和變異的方式。

攀-奧格斯堡大學-BWL:我的這個要求它只是籠統的說建立遺傳算法的參數調節 的最優化模型,然後通過TSP來測試。有的數據是來自TSPLIB的大數據 裡面包含十幾萬位置座標。

唐-NEU-組合優化&機器學習:首先目標函數肯定是路徑總長度,適應度函數則是目標函數的倒數。這樣的話就是距離越短適應度越大 滿足了需求,染色體就是按照路線順序各個座標的編號。比如14532。

攀-奧格斯堡大學-BWL:這裡參數調節可以考慮到嗎?

唐-NEU-組合優化&機器學習:我感覺這些不行… 你可以試不同的方法,但是參數應該不行。不過話說十幾萬位置… GA效果應該不太行吧。

攀-奧格斯堡大學-BWL:嗯 對的 我算第一代算了兩個小時,你知道的調節遺傳算法參數的方法有哪些,老師要求引入gurobi來計算,這個好處理嗎?

唐-NEU-組合優化&機器學習:GA挺適合分佈式計算的 有條件可以試一下 能快不少,這個我就不熟悉了 我一直在是搞算法原型的 一直也想找機會學一下gorubi。

攀-奧格斯堡大學-BWL:什麼是分佈式計算呢?這個計算難嗎 是大模塊嗎?

唐-NEU-組合優化&機器學習:這個你可以自己搜一下 感覺比較一言難盡,簡單理解就是把大量的數據分成小塊 由多個處理器分別計算.因為GA計算每一代的種群時候 每個個體都是獨立的 所以天生就非常適合。

2018年8月23日 粒子群算法

(出自微信群: 【3】Global O.R./OM/IE Community)

jing-悉尼-DS-交通研究:粒子群英文是什麼?

唐-NEU-組合優化&機器學習:PSO。

王-合工大-供應鏈:Particle swarm optimization。

jing-悉尼-DS-交通研究:Pso就是粒子群,這個我瞭解。是美國人根據魚群發明的,另一個co author在中國,他比ga快很多,但沒被證明是否能收斂。

唐-NEU-組合優化&機器學習:在多目標優化應用似乎很廣泛?新的學期正要學muti-objective。

jing-悉尼-DS-交通研究:一般是ga+pso ,因為要用到ga的 mutation, seletion, crossover。

唐-NEU-組合優化&機器學習:哦哦原來如此 等我這學期慢慢感受。

jing-悉尼-DS-交通研究:分佈式pso有實現,但我沒研究過。

唐-NEU-組合優化&機器學習:感覺研究一下分佈式是OR的一個趨勢所在啊 因為這個明顯對效率幫助很大啊。

jing-悉尼-DS-交通研究:pso需要每一步都要把所以粒子的位置進行aggregation。完全分佈是不可能的。

唐-NEU-組合優化&機器學習:原來如此 所以對於效率的提高能起到多大的作用呢。

jing-悉尼-DS-交通研究:瓶頸在集中。你可以先做個literature review.看最新,最好的算法是什麼,然後把這個算法分佈化。Acm 和 ieee 都有一個最好的evolution computing的會議。

2018年8月24日優化問題的正則化

(出自微信群: 【2】Global O.R./OM/IE Community)

劉-上海-上海大學-計算數學:請教大家一個問題 ,對於優化後得到的結果具有很大的震盪性 ,可以有什麼好的約束方法讓它平滑一些? 謝謝。比如這樣。這是一個腫瘤放射計劃的優化結果,圖中的橫座標代表不同位置,縱座標代表放射計量,得到的結果震盪性很大,這在實際臨床上是不行的。目標函數是下面圖示中那樣設置的,其實就是把醫生處方計量與計算得到的計量做了個差,讓它平方最小。

活動丨聽大佬們說列生成算法,遺傳算法,粒子群算法中的貓膩

活動丨聽大佬們說列生成算法,遺傳算法,粒子群算法中的貓膩

季-USF-IE:你這描述感覺有點像殘差平方和的意思。

劉-上海-上海大學-計算數學:是的 我第一次看到也是這個反應。

諸葛-南充-四非-算法模型:取對數看看效果會不會好一點?就是結果數據不變,但是成圖的時候,把結果數據取對數,應該效果會好一點。

劉-上海-上海大學-計算數學:取對數?但是實際臨床操作的時候是不能取對數的 只能按照這個數據在腫瘤內部施加放射劑量 ,剛剛在目標函數後面加了個正則項 好像效果好了點。按之前的,一不小心就把正常細胞給殺死了。

諸葛-南充-四非-算法模型:不是直接對數據進行處理。只是在數據成圖的過程中,不以結果數據為標準,而是以其對數結果為標準。例如有些算法收斂極快,圖像對比不明顯,這種時候就對數據進行對數則比對起來效果更明顯。

留-海德堡-組合優化AI:加點L1或L2Regularization?

劉-上海-上海大學-計算數學:嗯嗯 加了個L2Regularization的。

2018年8月27日  動態規劃算法中的operator T

(出自微信群: Global O.R.optim PhD Community)

史-NEU-組合最優化:有哪位對動態規劃的contraction property和DP operator T有了解,最近在看DP,感覺不是很能理解這倆東西。

覃-MIT-OM&ML:這個notation…看的bertsekas?

史-NEU-組合最優化:在清華的那個課程

覃-MIT-OM&ML:I see 他那個課我還去聽了第一節233,Bertsekas講東西一般般…

史-NEU-組合最優化:嗯。。。感覺說的內容把他想表達的意思給切的稀碎。

覃-MIT-OM&ML:不過他這個operator的寫法我覺得還是很不錯的 succinct 便於精簡推各種property 建議你從基本例子出發手算點具體問題 這樣你可能更好理解。

史-NEU-組合最優化:我之前一直在做RL和ADP,最近想補補基礎,我沒理解的主要是T,他說這是一個blackbox,我想不明白T的具體形式可以是什麼,翻了一下泛函也沒找到能有啟發的內容, 這是因為用到了什麼數學工具我不知道導致的麼?有什麼推薦的資料嗎?

覃MIT-OM&ML:你越搞越抽象了, 當然你是可以從泛函角度去理解的 ,不過我前面的建議就是讓你從簡單例子開始, 即先形成工程思維 ,如在inventory問題裡T是min y>=x這個linear operator 。


原文鏈接:https://mp.weixin.qq.com/s/9L5Z7ZP8v1NWtHc058Nz2A

版權說明:本文由『運籌OR帷幄』編譯整理,不作為商業用途,如有內容侵權,我們將隨時刪除。

歡迎查看原文,獲取更多訊息!


分享到:


相關文章: