Sun_ds's blog

算法复杂度

发表于 | 分类于 | 阅读次数

概况

算法的复杂度分为算法时间复杂度和算法空间复杂度。

时间复杂度是总运算次数表达式中受n的变化影响最大的那一项(不含系数)。

（1）时间频度 一个算法执行所耗费的时间，从理论上是不能算出来的，必须上机运行测试才能知道。但我们不可能也没有必要对每个算法都上机测试，只需知道哪个算法花费的时间多，哪个算法花费的时间少就可以了。并且一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费时间就多。一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。

（2）时间复杂度 在刚才提到的时间频度中，n称为问题的规模，当n不断变化时，时间频度T(n)也会不断变化。但有时我们想知道它变化时呈现什么规律。为此，我们引入时间复杂度概念。 一般情况下，算法中基本操作重复执行的次数是问题规模n的某个函数，用T(n)表示，若有某个辅助函数f(n),使得当n趋近于无穷大时，T(n)/f(n)的极限值为不等于零的常数，则称f(n)是T(n)的同数量级函数。记作T(n)=Ｏ(f(n)),称Ｏ(f(n)) 为算法的渐进时间复杂度，简称时间复杂度。

时间复杂度

按数量级递增排列，常见的时间复杂度有：常数阶O(1),对数阶O($\log_2n$),线性阶O(n), 线性对数阶O($n\log_2n$),平方阶O($n^2$)，立方阶O($n^3$),…， k次方阶O($n^k$),指数阶O($2^n$)。随着问题规模n的不断增大，上述时间复杂度不断增大，算法的执行效率越低。

从图中可见，我们应该尽可能选用多项式阶O(nk)的算法，而不希望用指数阶的算法。

常见的算法时间复杂度由小到大依次为：Ο(1)＜Ο($\log_2n$)＜Ο(n)＜Ο($n\log_2n$)＜Ο($n^2$)＜Ο($n^3$)＜…＜Ο($2^n$)＜Ο(n!)

常见算法时间复杂度举例：

  • 常数阶O(1)
    1
    2
    3
    Temp=i;
    i=j;
    j=temp;

以上三条单个语句的频度均为1，该程序段的执行时间是一个与问题规模n无关的常数。算法的时间复杂度为常数阶，记作T(n)=O(1)。如果算法的执行时间不随着问题规模n的增加而增长，即使算法中有上千条语句，其执行时间也不过是一个较大的常数。此类算法的时间复杂度是O(1)。

  • 对数阶O($\log_2n$)
    1
    2
    3
    i=1;                //1
    while (i<=n)
       i=i*2;           //2

解： 语句1的频度是1,
设语句2的频度是f(n), 则：2^f(n)<=n;f(n)<=log2n
取最大值f(n)=log2n,T(n)=O(log2n )

  • 线性阶O(n)
    1
    2
    3
    4
    5
    6
    7
    8
    a=0;
    b=1;              //1
    for(i=1;i<=n;i++)      //2
    {  
       s=a+b;　　　　//3
       b=a;　　　　　//4  
       a=s;　　　　　//5
    }

解：语句1的频度：2,
语句2的频度：n,
语句3的频度： n-1,
语句4的频度：n-1,
语句5的频度：n-1,
T(n)=2+n+3(n-1)=4n-1=O(n).

  • 线性对数阶O($n\log_2n$)

  • 平方阶O($n^2$)

    1
    2
    3
    4
    sum=0；                     //1次  
    for(i=1;i<=n;i++)           //n次
       for(j=1;j<=n;j++)        //n^2次
        sum++；                 //n^2次

解：T(n)=2n^2+n+1 =O(n^2)

  • 立方阶O($n^3$)
    1
    2
    3
    4
    5
    6
    7
    8
    for(i=0;i<n;i++)
    {  
       for(j=0;j<i;j++)  
       {
          for(k=0;k<j;k++)
             x=x+2;  
       }
    }

解：当i=m,j=k的时候,内层循环的次数为k当i=m时, j 可以取 0,1,…,m-1 , 所以这里最内循环共进行了0+1+…+m-1=(m-1)m/2次所以,i从0取到n, 则循环共进行了:0+(1-1)*1/2+…+(n-1)n/2=n(n+1)(n-1)/6所以时间复杂度为O(n^3).

  • k次方阶O($n^k$)

  • 指数阶O($2^n$)

经验规则

有如下复杂度关系

c < $\log_2n$ < n < n * $\log_2n$ < $n^2$ < $n^3$ < $2^n$ < $3^n$ < n!

其中c是一个常量，如果一个算法的复杂度为c 、 $\log_2n$ 、n 、 n*$\log_2n$ ,那么这个算法时间效率比较高 ，如果是 $2^n$ , $3^n$ ,n!，那么稍微大一些的n就会令这个算法不能动了，居于中间的几个则差强人意。

参考：

http://blog.csdn.net/firefly_2002/article/details/8008987
http://blog.csdn.net/zolalad/article/details/11848739