算法的复杂度

叁歲伎倆 2022-09-14 13:28 184阅读 0赞

## 算法的复杂度 ##

算法（Algorithm）是指用来操作数据、解决程序问题的一组方法。对于同一个问题，使用不同的算法，也许最终得到的结果是一样的，但在过程中消耗的资源和时间却会有很大的区别。  
那么我们应该如何去衡量不同算法之间的优劣呢？  
主要还是从算法所占用的“时间”和“空间”两个维度去衡量。  
时间维度：是指执行当前算法所消耗的时间，我们通常用“时间复杂度”来描述。  
空间维度：是指执行当前算法需要占用多少内存空间，我们通常用“空间复杂度”来描述。

**一、时间复杂度（Time complexity）**  
算法的“时间复杂度”，很多人首先想到的的方法就是把这个算法程序运行一遍，那么它所消耗的时间就自然而然知道了。这适合事后分析统计方法，但这种方式非常容易受编程语言、运行环境的影响，在性能高的机器上跑出来的结果与在性能低的机器上跑的结果相差会很大。而且对测试时使用的数据规模也有很大关系。再者，并我们在写算法的时候，还没有办法完整的去运行呢。另一种更为通用的方法就出来了：“ 大O表示法”，记做T(n)=O(f(n))，撇开上述因素，认为算法的执行时间是问题规模n的函数，大O表示代码执行时间随数据规模增长的变化趋势。  
一个算法是由控制结构（顺序、分支和循环三种）和原操作（指固有数据类型的操作，如+、-、\*、/、++和–等）构成的。算法执行时间取决于两者的综合效果。  
例如：

算法的执行时间取决于控制结构和原操作的综合效果。但一般重点关注原操作的次数：  
在一个算法中，执行原操作的次数越少，其执行时间也就相对地越少；执行原操作次数越多，其执行时间也就相对地越多。算法中所有原操作的执行次数称为算法频度，这样一个算法的执行时间可以由算法频度来计量。

现在分析一个例子：

for(i=1; i<=n; ++i)
    { 
       j = i;
       j++;
    }

假设每行代码的执行时间都是一样的，我们用 1颗粒时间 来表示，那么这个例子的第一行耗时是1个颗粒时间，第三行的执行时间是 n个颗粒时间，第四行的执行时间也是 n个颗粒时间（第二行和第五行是符号，暂时忽略），那么总时间就是 1颗粒时间 + n颗粒时间 + n颗粒时间 ，即 (1+2n)个颗粒时间，即： T(n) = (1+2n)\*颗粒时间，从这个结果可以看出，这个算法的耗时是随着n的变化而变化，如果n无限大的时候，常量1就没有意义了，倍数2也意义不大，因此，我们可以简化的将这个算法的时间复杂度表示为：T(n) = O(n)

又如：求两个n阶方阵相加C=A+B的算法如下，求T(n)。

void matrixadd(int A[N][N],int B[N][N],int C[N][N],int n)
    {   for (int i=0;i<n;i++)		     // n+1
         for (int j=0;j<n;j++)	         // n(n+1)
             C[i][j]=A[i][j]+B[i][j];    // n^2^
    }

T(n)= n+1+n(n+1)+n2 = 2n2\+2n+1。公式中低阶、常量、系数三部分并不会左右增长趋势，可以忽略，所以大O表示法只要取f(n)中最大量级的即可， T(n) =2n2\+2n+1 =O(n2)，或T(n)=O((n2))  
也就是只关注T(n)的最高阶，忽略其低阶项和常系数，这样既可简化T(n)的计算，又能比较客观地反映出当n很大时算法的时间性能。  
一般地：  
• 一个没有循环的算法的执行时间与问题规模n无关，记作O(1)，也称作常数阶。  
• 一个只有一重循环的算法的执行时间与问题规模n的增长呈线性增大关系，记作O(n)，也称线性阶。  
• 其余常用的算法时间复杂度还有平方阶O(n2)、立方阶O(n3)、对数阶O(log2n)、指数阶O(2n)等。

常见的时间复杂度量级有：  
常数阶O(1)  
对数阶O(logN)  
线性阶O(n)  
线性对数阶O(nlogN)  
平方阶O(n²)  
立方阶O(n³)  
K次方阶O(nk)  
指数阶(2n)  
上面从上至下依次的时间复杂度越来越大，执行的效率越来越低。

**常数阶O(1)**  
无论代码执行了多少行，只要是没有循环等复杂结构，那这个代码的时间复杂度就都是O(1)，如：

int i = 1;
    int j = 2;
    int m = i + j;

上述代码在执行的时候，它消耗的时候并不随着某个变量的增长而增长，那么无论这类代码有多长，即使有几万几十万行，都可以用O(1)来表示它的时间复杂度。

**线性阶O(n)**  
这个在最开始的代码示例中就讲解过了，如：

for(i=1; i<=n; ++i)
    { 
       j = i;
       j++;
    }

这段代码，for循环里面的代码会执行n遍，因此它消耗的时间是随着n的变化而变化的，因此这类代码都可以用O(n)来表示它的时间复杂度。

对数阶O(logN)  
还是先来看代码：

int i = 1;
    while(i<n)
    { 
        i = i * 2;
    }

从上面代码可以看到，在while循环里面，每次都将 i 乘以 2，乘完之后，i 距离 n 就越来越近了。我们试着求解一下，假设循环x次之后，i 就大于 2 了，此时这个循环就退出了，也就是说 2 的 x 次方等于 n，那么 x = log2^n  
也就是说当循环 log2^n 次以后，这个代码就结束了。因此这个代码的时间复杂度为：O(logn)

**线性对数阶O(nlogN)**  
线性对数阶O(nlogN) 其实非常容易理解，将时间复杂度为O(logn)的代码循环N遍的话，那么它的时间复杂度就是 n \* O(logN)，也就是了O(nlogN)。  
对上面的代码修改一点：

for(m=1; m<n; m++)
    { 
        i = 1;
        while(i<n)
        { 
            i = i * 2;
        }
    }

**平方阶O(n²)**  
平方阶O(n²) 就更容易理解了，如果把 O(n) 的代码再嵌套循环一遍，它的时间复杂度就是 O(n²) 了。  
举例：

for(x=1; i<=n; x++)
    { 
       for(i=1; i<=n; i++)
        { 
           j = i;
           j++;
        }
    }

这段代码其实就是嵌套了2层n循环，它的时间复杂度就是 O(n\*n)，即 O(n²)  
如果将其中一层循环的n改成m，即：

for(x=1; i<=m; x++)
    { 
       for(i=1; i<=n; i++)
        { 
           j = i;
           j++;
        }
    }

那它的时间复杂度就变成了 O(m\*n)

可以参考上面的O(n²) 去理解立方阶O(n³)、K次方阶O(nk)，O(n³)相当于三层n循环，其它的类似。

**二、空间复杂度(Space Complexity)**  
时间复杂度不是用来计算程序具体耗时的，空间复杂度也不是用来计算程序实际占用的空间的。一个算法的存储量包括形参所占空间和临时变量所占空间。在对算法进行存储空间分析时，只考察临时变量所占空间。

空间复杂度是对一个算法在运行过程中临时占用存储空间大小的一个量度，同样反映的是一个趋势，我们用 S(n) 来定义，记做S(n)=O(g(n))。其中“O”的含义与时间复杂度分析中的相同。  
例如：

int Max(int a[],int n)
    { int maxi=0;
       for (int i=1;i<n;i++)
          if (a[i]>a[maxi])
             maxi=i;
       return a[maxi];
    }

函数体内分配的变量空间为临时空间，不计形参占用的空间，这里的仅计i、maxi变量的空间。空间复杂度为S(n) =1+1 =O(1)

空间复杂度比较常用的有：O(1)、O(n)：

**空间复杂度 O(1)**  
如果算法执行所需要的临时空间不随着某个变量n的大小而变化，即此算法空间复杂度为一个常量，可表示为 O(1)  
举例：

int i = 1;
    int j = 2;
    ++i;
    j++;
    int m = i + j;

代码中的 i、j、m 所分配的空间都不随着处理数据量变化，因此它的空间复杂度 S(n) = O(1)

**空间复杂度 O(n)**  
我们先看一个代码：

int[] m = new int[n]
    for(i=1; i<=n; ++i)
    { 
       j = i;
       j++;
    }

这段代码中，第一行new了一个数组出来，这个数据占用的大小为n，这段代码的2-6行，虽然有循环，但没有再分配新的空间，因此，这段代码的空间复杂度主要看第一行即可，即 S(n) = O(n)

**附录**  
https://zhuanlan.zhihu.com/p/361636579  
https://cloud.tencent.com/developer/article/1769988  
https://segmentfault.com/a/1190000023860213  
https://time.geekbang.org/course/detail/100019701-41531