python 性能优化方法小结

提高性能有如下方法

1、Cython,用于合并python和c语言静态编译泛型

2、IPython.parallel，用于在本地或者集群上并行执行代码

3、numexpr，用于快速数值运算

4、multiprocessing,python内建的并行处理模块

5、Numba，用于为cpu动态编译python代码

6、NumbaPro，用于为多核cpu和gpu动态编译python代码

为了验证相同算法在上面不同实现上的的性能差异，我们先定义一个测试性能的函数

def perf_comp_data(func_list, data_list, rep=3, number=1):   '''Function to compare the performance of different functions.   Parameters   func_list : list   list with function names as strings  data_list : list   list with data set names as strings   rep : int   number of repetitions of the whole comparison   number : int   number ofexecutions for every function   '''  from timeit import repeat   res_list = {}   for name in enumerate(func_list):     stmt = name[1] + '(' + data_list[name[0]] + ')'     setup = "from __main__ import " + name[1] + ','+ data_list[name[0]]     results = repeat(stmt=stmt, setup=setup, repeat=rep, number=number)     res_list[name[1]] = sum(results) / rep  res_sort = sorted(res_list.items(), key = lambda item : item[1])  for item in res_sort:     rel = item[1] / res_sort[0][1]    print ('function: ' + item[0] + ', av. time sec: %9.5f,  ' % item[1] + 'relative: %6.1f' % rel)

定义执行的算法如下

from math import * def f(x):   return abs(cos(x)) ** 0.5 + sin(2 + 3 * x)

对应的数学公式是

生成数据如下

i=500000a_py = range(i)

第一个实现f1是在内部循环执行f函数，然后将每次的计算结果添加到列表中，实现如下

def f1(a):   res = []   for x in a:     res.append(f(x))   return res

当然实现这种方案的方法不止一种，可以使用迭代器或eval函数,我自己加入了使用生成器和map方法的测试，发现结果有明显差距，不知道是否科学：

迭代器实现

def f2(a):   return [f(x) for x in a]

eval实现

def f3(a):   ex = 'abs(cos(x)) **0.5+ sin(2 + 3 * x)'   return [eval(ex) for x in a] 

生成器实现

def f7(a):   return (f(x) for x in a)

map实现

def f8(a):   return map(f, a)

接下来是使用numpy的narray结构的几种实现

import numpy as np a_np = np.arange(i) def f4(a):   return (np.abs(np.cos(a)) ** 0.5 + np.sin(2 + 3 * a))import numexpr as nedef f5(a):   ex = 'abs(cos(a)) ** 0.5 + sin( 2 + 3 * a)'   ne.set_num_threads(1)   return ne.evaluate(ex)def f6(a):   ex = 'abs(cos(a)) ** 0.5 + sin(2 + 3 * a)'   ne.set_num_threads(2)   return ne.evaluate(ex)