基础算法:动态规划(一)

基础算法:动态规划(一)

基础算法:动态规划(一)

前言:

以前光憋算法题,但一直没弄清楚动态规划的使用方法。后来找了算法分析的黑书,但内容非常多,导致一直没时间看。最近在学习软件设计,教材里面对动态规划、贪心算法、回溯法这几种常见的基础算法进行了相当简洁的讲解,使我理解了许多,故此下笔。

这篇文章分为算法目标、适用条件、步骤设计、代码示例四个部分。

算法目标:

一般来说,是为了解决问题在有约束条件下的全局最优解。一个问题如果具有以下两个性质,就可以考虑使用动态规划法求解。

(1)最优子结构。即一个问题的最优解中包含了其子问题的最优解,或者说是由子问题的最优解构成。需要注意到的是,问题适用动态规划算法时也可能使用于贪心算法。

(2)重叠子问题。重叠子问题指的是用来解决原问题的递归算法可反复地解同样的子问题,而并不总是在产生新的子问题。相比于没有记忆的分治法在每次遇到相同子问题时都会视作一个新问题重新计算而言,动态规划自底向上计算,解决一个问题需要的子问题结果被保存在记录表中,随时可供使用,效率大大提高。

步骤设计:

使用动态规划解决这类问题,通常按照以下几个步骤进行:

(1)找出最优解的性质,并刻画其结构特征

(2)递归地定义最优解的值。

(3)以自底向上的方式计算出最优值

(4)根据计算最优值时得到的信息,构造一个最优解。

例如经典的0-1背包问题,即是在背包容量有限的情况下,尽量往背包里装最高价值的物品。背包容量是约束条件,争取总价值最高是寻找问题的最优解。其中0-1指的物品只能有被整个装入或者不装两种状态,拿取物品的方案则可以看作一系列0和1的组合。以一个具体的例子来说明:

物品(i)1234567
重量(wi451011131417
价值(vi347891011

设背包初始容量W=30,则该问题可以形式化描述如下:

目标函数为max(i=1nvixi)

约束条件为i=1nwixiW

该问题的求解过程可以看作是进行一系列的决策过程。假设背包容量为W,vi和wi分别表示第i个物品的价值和重量,xi=1表示装入第i个物品。如果一个方案里的最优解包含了“装入物品n”,即xn=1,则在选择物品1、2、...、n-1时,一定有容量为W-wn的最优解。反之,最优解没有包含“装入物品n”,即xn=0,则在选择物品1、2、...、n-1时,一定有容量为W的最优解。显然地,对每个物品的选择都适用于这个模式,都是全局问题的子问题。

根据上面的分析的最优解的结构可以递归的定义问题的最优解。设c[i,w]表示背包容量为w时选择物品i所导致的最优解的总价值,得到下式。

图片2

能看到,在物品i可以被装入背包时,我们通过比较装入和不装入后的总价值来确定是否该装入。

编写C代码

编写Python代码

结果如图: