活动丨听大佬们说列生成算法,遗传算法,粒子群算法中的猫腻

活动丨听大佬们说列生成算法,遗传算法,粒子群算法中的猫腻

2018年8月22日列生成算法的子问题求解算法

(出自微信群: Global O.R./OM/IE Community)

于-昆明-昆明理工:

对于列生成算法的子问题求解,子问题除了动态规划算法,还有啥别的算法?求分享。

留-海德堡-组合优化AI:子问题一事一议呀,我做过的project子问题本身是一个整数规划问题。所以就归结为整数规划用什么来求解了。

于-昆明-昆明理工:是不是关键在于找负的dual price。

留-海德堡-组合优化AI:恩,还是构造一个数学规划问题,然后看那个问题属于什么类型。

Z-Pier-Crew Scheduling:理论上是 min问题是找负的reduce cost 吧,子问题具体问题具体分析,交通领域多为最短路,下料配载之类的多为0-1背包,都是数学规划问题,找到适合的求解算法就好。

于-昆明-昆明理工:我的困惑在于子问题采用的算法与reduce cost 之间联系,一个调度的问题,可以规约为tsp。

留-海德堡-组合优化AI:只要把子问题解出来,跟解这个问题的算法无关。很多时候不需要得出最优解,找到负的解就能add column了。最后一步收敛的时候,解到底,如果最优解是非负的,整个系统就converge了。

Z-Pier-Crew Scheduling:是的,也可以一次加很多列减弱退化,不需要每次都求到最小的reduce cost,也可以涉及启发式的规则去解,只要保证负的就行。

2018年8月22日 遗传算法的参数优化

(出自微信群: 【3】Global O.R./OM/IE Community)

攀-奥格斯堡大学-BWL:求教大神关于遗传算法的最优化模型该怎么建呢 为达到每代调节参数,得到更优的结果. 我这个问题好解吗?

唐-NEU-组合优化&机器学习:个人觉得遗传算法的参数还是挺玄学的 教材和网上能搜到一个推荐的区间 最土的办法就是自己去挨个试一下了。当然用grid search来一遍应该也是可以的。

攀-奥格斯堡大学-BWL:这个推荐的区间是指什么呢。是针对哪些参数而言?

唐-NEU-组合优化&机器学习:之前也尝试过把解的质量和时间做成一个新的目标函数 在遗传算法的上面在套一个近似算法求解 效果倒是还说得过去 但是实现起来稍微有些麻烦 时间上也不是很好。

攀-奥格斯堡大学-BWL:选择方法算是参数吗? 还是属于一个算子?

唐-NEU-组合优化&机器学习:种群大小50~100 代数100~500 交叉概率0.5~0.99 变异概率一般在0.1以下一般来说尽可能小吧,另外还有自适应遗传算法 就是会随着迭代次数改变参数大小 但是我没做过 具体细节我也太清楚 你可以去了解一下。

攀-奥格斯堡大学-BWL:是指adaptive GA吗?选择父代不是要用到一个选择方法吗 比如轮盘赌之类的 这可以当作参数处理吗?

唐-NEU-组合优化&机器学习:好问题… 我还没考虑过把这个做变量加进去,但是直觉觉得这个影响应该不是很大?当然了不要相信直觉 还是要试一试。

攀-奥格斯堡大学-BWL:嗯 这个我也只用了一种选择方法 不知道有没有大的影响,我也只是刚刚接触遗传算法 ,有的东西不是很了解 。最优化模型怎么建呢 ,有稍微具体点的思路吗。针对TSP模型的话。

唐-NEU-组合优化&机器学习:思路就是找出目标函数 定一个适应度函数 想出染色体编码的方式 还有根据染色体交叉和变异的方式。

攀-奥格斯堡大学-BWL:我的这个要求它只是笼统的说建立遗传算法的参数调节 的最优化模型,然后通过TSP来测试。有的数据是来自TSPLIB的大数据 里面包含十几万位置坐标。

唐-NEU-组合优化&机器学习:首先目标函数肯定是路径总长度,适应度函数则是目标函数的倒数。这样的话就是距离越短适应度越大 满足了需求,染色体就是按照路线顺序各个坐标的编号。比如14532。

攀-奥格斯堡大学-BWL:这里参数调节可以考虑到吗?

唐-NEU-组合优化&机器学习:我感觉这些不行… 你可以试不同的方法,但是参数应该不行。不过话说十几万位置… GA效果应该不太行吧。

攀-奥格斯堡大学-BWL:嗯 对的 我算第一代算了两个小时,你知道的调节遗传算法参数的方法有哪些,老师要求引入gurobi来计算,这个好处理吗?

唐-NEU-组合优化&机器学习:GA挺适合分布式计算的 有条件可以试一下 能快不少,这个我就不熟悉了 我一直在是搞算法原型的 一直也想找机会学一下gorubi。

攀-奥格斯堡大学-BWL:什么是分布式计算呢?这个计算难吗 是大模块吗?

唐-NEU-组合优化&机器学习:这个你可以自己搜一下 感觉比较一言难尽,简单理解就是把大量的数据分成小块 由多个处理器分别计算.因为GA计算每一代的种群时候 每个个体都是独立的 所以天生就非常适合。

2018年8月23日 粒子群算法

(出自微信群: 【3】Global O.R./OM/IE Community)

jing-悉尼-DS-交通研究:粒子群英文是什么?

唐-NEU-组合优化&机器学习:PSO。

王-合工大-供应链:Particle swarm optimization。

jing-悉尼-DS-交通研究:Pso就是粒子群,这个我了解。是美国人根据鱼群发明的,另一个co author在中国,他比ga快很多,但没被证明是否能收敛。

唐-NEU-组合优化&机器学习:在多目标优化应用似乎很广泛?新的学期正要学muti-objective。

jing-悉尼-DS-交通研究:一般是ga+pso ,因为要用到ga的 mutation, seletion, crossover。

唐-NEU-组合优化&机器学习:哦哦原来如此 等我这学期慢慢感受。

jing-悉尼-DS-交通研究:分布式pso有实现,但我没研究过。

唐-NEU-组合优化&机器学习:感觉研究一下分布式是OR的一个趋势所在啊 因为这个明显对效率帮助很大啊。

jing-悉尼-DS-交通研究:pso需要每一步都要把所以粒子的位置进行aggregation。完全分布是不可能的。

唐-NEU-组合优化&机器学习:原来如此 所以对于效率的提高能起到多大的作用呢。

jing-悉尼-DS-交通研究:瓶颈在集中。你可以先做个literature review.看最新,最好的算法是什么,然后把这个算法分布化。Acm 和 ieee 都有一个最好的evolution computing的会议。

2018年8月24日优化问题的正则化

(出自微信群: 【2】Global O.R./OM/IE Community)

刘-上海-上海大学-计算数学:请教大家一个问题 ,对于优化后得到的结果具有很大的震荡性 ,可以有什么好的约束方法让它平滑一些? 谢谢。比如这样。这是一个肿瘤放射计划的优化结果,图中的横坐标代表不同位置,纵坐标代表放射计量,得到的结果震荡性很大,这在实际临床上是不行的。目标函数是下面图示中那样设置的,其实就是把医生处方计量与计算得到的计量做了个差,让它平方最小。

活动丨听大佬们说列生成算法,遗传算法,粒子群算法中的猫腻

活动丨听大佬们说列生成算法,遗传算法,粒子群算法中的猫腻

季-USF-IE:你这描述感觉有点像残差平方和的意思。

刘-上海-上海大学-计算数学:是的 我第一次看到也是这个反应。

诸葛-南充-四非-算法模型:取对数看看效果会不会好一点?就是结果数据不变,但是成图的时候,把结果数据取对数,应该效果会好一点。

刘-上海-上海大学-计算数学:取对数?但是实际临床操作的时候是不能取对数的 只能按照这个数据在肿瘤内部施加放射剂量 ,刚刚在目标函数后面加了个正则项 好像效果好了点。按之前的,一不小心就把正常细胞给杀死了。

诸葛-南充-四非-算法模型:不是直接对数据进行处理。只是在数据成图的过程中,不以结果数据为标准,而是以其对数结果为标准。例如有些算法收敛极快,图像对比不明显,这种时候就对数据进行对数则比对起来效果更明显。

留-海德堡-组合优化AI:加点L1或L2Regularization?

刘-上海-上海大学-计算数学:嗯嗯 加了个L2Regularization的。

2018年8月27日  动态规划算法中的operator T

(出自微信群: Global O.R.optim PhD Community)

史-NEU-组合最优化:有哪位对动态规划的contraction property和DP operator T有了解,最近在看DP,感觉不是很能理解这俩东西。

覃-MIT-OM&ML:这个notation…看的bertsekas?

史-NEU-组合最优化:在清华的那个课程

覃-MIT-OM&ML:I see 他那个课我还去听了第一节233,Bertsekas讲东西一般般…

史-NEU-组合最优化:嗯。。。感觉说的内容把他想表达的意思给切的稀碎。

覃-MIT-OM&ML:不过他这个operator的写法我觉得还是很不错的 succinct 便于精简推各种property 建议你从基本例子出发手算点具体问题 这样你可能更好理解。

史-NEU-组合最优化:我之前一直在做RL和ADP,最近想补补基础,我没理解的主要是T,他说这是一个blackbox,我想不明白T的具体形式可以是什么,翻了一下泛函也没找到能有启发的内容, 这是因为用到了什么数学工具我不知道导致的么?有什么推荐的资料吗?

覃MIT-OM&ML:你越搞越抽象了, 当然你是可以从泛函角度去理解的 ,不过我前面的建议就是让你从简单例子开始, 即先形成工程思维 ,如在inventory问题里T是min y>=x这个linear operator 。


原文链接:https://mp.weixin.qq.com/s/9L5Z7ZP8v1NWtHc058Nz2A

版权说明:本文由『运筹OR帷幄』编译整理,不作为商业用途,如有内容侵权,我们将随时删除。

欢迎查看原文,获取更多讯息!


分享到:


相關文章: