Python性能优化的20条建议

  • 优化算法时间复杂度

算法的时间复杂度对程序的执行效率影响最大,在Python中可以通过选择合适的数据结构来优化时间复杂度,如list和set查找某一个元素的时间复杂度分别是O(n)和O(1)。不同的场景有不同的优化方式,总得来说,一般有分治,分支界限,贪心,动态规划等思想。

  1. 减少冗余数据

    如用上三角或下三角的方式去保存一个大的对称矩阵。在0元素占大多数的矩阵里使用稀疏矩阵表示。

  2. 合理使用copy与deepcopy

    对于dict和list等数据结构的对象,直接赋值使用的是引用的方式。而有些情况下需要复制整个对象,这时可以使用copy包里的copy和deepcopy,这两个函数的不同之处在于后者是递归复制的。效率也不一样:(以下程序在ipython中运行)

    12345678 import copya = range(100000)%timeit n 10 copy.copy(a) # 运行10次 copy.copy(a) %timeit n 10 copy.deepcopy(a) 10 loops, best of 3: 1.55 ms per loop10 loops, best of 3: 151 ms per loop

    timeit后面的-n表示运行的次数,后两行对应的是两个timeit的输出,下同。由此可见后者慢一个数量级。

  3. 使用dict或set查找元素

    python dict和set都是使用hash表来实现(类似c++11标准库中unordered_map),查找元素的时间复杂度是O(1)

    123456789 a = range(1000)s = set(a)d = dict((i,1) for i in a)%timeit n 10000 100 in d %timeit n 10000 100 in s 10000 loops, best of 3: 43.5 ns per loop10000 loops, best of 3: 49.6 ns per loop

    dict的效率略高(占用的空间也多一些)。

  4. 合理使用生成器(generator)和yield

    123456 %timeit n 100 a = (i for i in range(100000)) %timeit n 100 b = [i for i in range(100000)] 100 loops, best of 3: 1.54 ms per loop100 loops, best of 3: 4.56 ms per loop

    使用()得到的是一个generator对象,所需要的内存空间与列表的大小无关,所以效率会高一些。在具体应用上,比如set(i for i in range(100000))会比set([i for i in range(100000)])快。

    但是对于需要循环遍历的情况:

    123456 %timeit n 10 for x in (i for i in range(100000)): pass %timeit n 10 for x in [i for i in range(100000)]: pass 10 loops, best of 3: 6.51 ms per loop10 loops, best of 3: 5.54 ms per loop

    后者的效率反而更高,但是如果循环里有break,用generator的好处是显而易见的。yield也是用于创建generator:

    1234567891011121314 def yield_func(ls):    for i in ls:        yield i+1 def not_yield_func(ls):    return [i+1 for i in ls=\”crayon-h\”> [i+1 for i in ls

    1. 减少冗余数据

      如用上三角或下三角的方式去保存一个大的对称矩阵。在0元素占大多数的矩阵里使用稀疏矩阵表示。

    2. 合理使用copy与deepcopy

      对于dict和list等数据结构的对象,直接赋值使用的是引用的方式。而有些情况下需要复制整个对象,这时可以使用copy包里的copy和deepcopy,这两个函数的不同之处在于后者是递归复制的。效率也不一样:(以下程序在ipython中运行)

      12345678 import copya = range(100000)%timeit n 10 copy.copy(a) # 运行10次 copy.copy(a) %timeit n 10 copy.deepcopy(a) 10 loops, best of 3: 1.55 ms per loop10 loops, best of 3: 151 ms per loop

      timeit后面的-n表示运行的次数,后两行对应的是两个timeit的输出,下同。由此可见后者慢一个数量级。

    3. 使用dict或set查找元素

      python dict和set都是使用hash表来实现(类似c++11标准库中unordered_map),查找元素的时间复杂度是O(1)

      123456789 a = range(1000)s = set(a)d = dict((i,1) for i in a)%timeit n 10000 100 in d %timeit n 10000 100 in s 10000 loops, best of 3: 43.5 ns per loop10000 loops, best of 3: 49.6 ns per loop

      dict的效率略高(占用的空间也多一些)。

    4. 合理使用生成器(generator)和yield

      123456 %timeit n 100 a = (i for i in range(100000)) %timeit n 100 b = [i for i in range(100000)] 100 loops, best of 3: 1.54 ms per loop100 loops, best of 3: 4.56 ms per loop

      使用()得到的是一个generator对象,所需要的内存空间与列表的大小无关,所以效率会高一些。在具体应用上,比如set(i for i in range(100000))会比set([i for i in range(100000)])快。

      但是对于需要循环遍历的情况:

      123456 %timeit n 10 for x in (i for i in range(100000)): pass %timeit n 10 for x in [i for i in range(100000)]: pass 10 loops, best of 3: 6.51 ms per loop10 loops, best of 3: 5.54 ms per loop

      后者的效率反而更高,但是如果循环里有break,用generator的好处是显而易见的。yield也是用于创建generator:

      1234567891011121314 def yield_func(ls):    for i in ls:        yield i+1 def not_yield_func(ls):