ATLAS + NumPy + SciPy + Theano的python科学计算环境的搭建

ATLAS + NumPy + SciPy + Theano的python科学计算环境的搭建

http://fhqdddddd.blog.163.com/blog/static/1869915420116642947209/

Theano是一个python库,提供了定义、优化以及评估数学表达式的库,尤其适合处理高维数组。使用Theano能获得和C差不多的处理速度,并且当利用GPU进行计算时,效率要优于CPU上运行的C语言程序。利用Theano能快速验证各种算法模型。

但是在Linux上安装theano是一件非常痛苦的事情,从theano的文档中看到,其依赖条件非常多:

(1) 64-bit Linux(最佳)

(2) python 2.4以上

(3) g++ 4.2以上

(4) NumPy 1.5.0以上

(5) SciPy 0.8以上

(6) BLAS支持Level-3

事实上,在安装过程中发现,如果要安装NumPy,还需要安装ATLAS,而ATLAS则又依赖于lapack ……

这其中涉及到:

ATLAS是python下的一个线性代数库,是基于另外两个线性代数库BLAS和lapack的;

NumPy提供了一个在python中做科学计算的基础库,它重在数值计算,甚至可以说是用于多维数组处理的库;

SciPy是基于numpy,提供了一个在python中做科学计算的工具集,也就是说它是更上一个层次的库;

Theano则是基于NumPy以及SciPy的一个更高级的用于科学计算的库。

这里假设python和g++已经按要求装好,并且符合版本要求,以下根据安装的步骤来进行说明:

首先介绍下环境,多核服务器,cpu时钟频率2668MHz,Linux-64bit,非root权限。所有源码放在/data4/open_src中

各开发包的版本为:

开发包     版本       文件名                   下载地址

-----------------------------------------------------------------------------------------------

BLAS                  blas.tgz                 http://www.netlib.org/blas/

lapack     3.2.2      lapack.tgz               http://www.netlib.org/lapack/#_previous_release

ATLAS      3.8.4      atlas3.8.4.tar.bz2       http://sourceforge.net/projects/math-atlas/files/Stable/

NumPy      1.7.1      numpy-1.7.1.tar.gz       https://pypi.python.org/pypi/numpy

SciPy      0.12.0     scipy-0.12.0.tar.gz      https://pypi.python.org/pypi/scipy

Theano     0.6.0      Theano-0.6.0rc3.tar.gz   http://deeplearning.net/software/theano/#download

以下是安装步骤:

step 1. 编译BLAS

(1) 解压:tar -xvzf blas.tgz

(2) cd BLAS

(3) 修改 make.inc 中的编译选项:

PLAT = _LINUX

FORTRAN  = gfortran

OPTS     = -O2 -m64 -fPIC

NOOPT    = -O0 -m64 -fPIC

LOADER   = gfortran

(4) 编译BLAS:make

编译完成后,会生成blas_LINUX.a文件

step 2. 配置ATLAS

在安装ATLAS之前需要先编译lapack,但是为了能使得编译成功,需要保证lapack的编译选项与ATLAS一致。因此首先配置ATLAS,然后将相关编译配置拷贝到lapack中

(1) 解压:tar -xvjf atlas3.8.4.tar.bz2

(2) cd ATLAS

(3) 创建一个build目录,用于存放ATLAS的编译配置:mkdir atlas_build

(4) cd atlas_build

(5) 执行configure进行配置:../configure -b 64 -D c -DPentiumCPS=2668 -Fa alg -fPIC --with-netlib-lapack=/data4/open_src/lapack-3.2.2/lapack_LINUX.a --prefix=~/.local

其中的参数说明如下:

-b 指定编译出库的类型(32位库还是64位库)

-D c -DPentiumCPS 是指定你的CPU的时钟频率,可以通过 grep MHz /proc/cpuinfo 得到

-Fa alg -fPIC 得到与位置无关的代码,生成动态的共享库

--prefix 为安装路径

--with-netlib-lapack 则是制定lapack库文件(此时lapack库文件还没有生成,先随便指定一个)

../configure -b 64 -Fa alg -fPIC -Si cputhrchk 0 --prefix=$HOME/atlas3.8.4 --with-netlib-lapack==$HOME/lapack-3.5.0/liblapack.a

(6) 完成配置后,在Make.inc文件中找到F77和F77FLAGS的参数配置,这两个配置将会赋给lapack的FORTRAN和OPTS

ps:对于ATLAS 3.10及以上版本,设置--with-netlib-lapack会出错,需要直接指定lapack的压缩包(--with-netlib- lapack-tarfile=),它在编译过程中会自动解压和编译lapack,最终生成的so文件也由之前的6个整合成两个。ATLAS 3.10以上版本对后续安装NumPy没有影响,但是在使用的时候会造成有些库文件找不到的现象。因此这里使用的是ATLAS 3.8.4版本。

step 3. 编译lapack

(1) 解压:tar -xvzf lapack.tgz

(2) cd lapack-3.2.2

(3) 拷贝生成make.inc: cp make.inc.example make.inc

(4) 修改make.inc:

将其中FORTRAN和OPTS的值设置得跟 ATLAS/atlas_build/Make.inc 中的F77和F77FLAGS一致

PLAT = _LINUX

BLASLIB = /data4/open_src/BLAS/blas$(PLAT).a

(5) 编译:make

(6) 编译成功后,会在根目录生成两个库文件:lapack_LINUX.a 和 tmglib_LINUX.a

step 4 编译并安装ATLAS

(1) cd ATLAS

(2) 删除原配置:rm -rf atlas_build

(3) 重新配置ATLAS:参考 step 2,并设置 --with-netlib-lapack=/data4/open_src/lapack-3.2.2/lapack_LINUX.a

(4) 在atlas_build中进行编译:make

ps:这个过程相当漫长,耐心等待!!

(5) check编译结果:

make check

make ptcheck (对于多核服务器)

make time

ps:如果check过程中没有报错,则可以放心进行以后的步骤;如果出现报错,也可以尝试进行后续步骤,是否成功就要靠人品了。

(6) 编译动态库:

cd lib

make shared

make ptshared (对于多核服务器)

如果在 lib 下面出现libatlas.so, libcblas.so, libf77blas.so, liblapack.so, libptcblas.so, libptf77blas.so 这6个动态库文件,则表示编译成功

(7) 安装ATLAS:make install

由于之前设置了--prefix=~/.local 因此ATLAS将被安装到 ~/.local/lib 中

(8) cp ./lib/*.so ~/.local/lib

(9) 设置环境变量:在~/.bashrc中添加 export LD_LIBRARY_PATH=~/.local/lib:$LD_LIBRARY_PATH 并执行 source ~/.bashrc

step 5. 安装nose

tar -xzvf nose-1.0.0

cd nose-1.0.0

python setup.py build

python setup.py install

step 6. 安装NumPy

(1) 解压 tar -xvzf numpy-1.7.1.tar.gz

(2) cd numpy-1.7.1

(3) 拷贝生成sit.cfg: cp site.cfg.example site.cfg

(4) 配置site.cfg:

1> 打开[DEFAULT],并设置 library_dirs 和 include_dirs ,使得在编译的时候能够找到atlas库

library_dirs = ~/.local/lib

include_dirs = ~/.local/include

2> 打开[blas_opt],并设置 libraries

libraries = ptf77blas, ptcblas, atlas

3> 打开[lapack_opt],并设置 libraries

libraries = lapack, ptf77blas, ptcblas, atlas

ps:如果在ATLAS安装过程中,没有生成libptf77blas和libptcblas,则需要设置两个libraries为

libraries = f77blas, cblas, atlas

libraries = lapack, f77blas, cblas, atlas

(5) 利用python构建NumPy:python setup.py build

(6) 利用python安装NumPy:python setup.py install --prefix=~/.local

(7) 安装完成后,NumPy被安装在 ~/.local/lib/python2.7/site-packages/numpy

(8) 设置环境变量:在~/.bashrc中添加 export PYTHONPATH=~/.local/lib/python2.7/site-packages:$PYTHONPATH 并执行 source ~/.bashrc

step 7. 安装SicPy

(1) 解压: tar -xvzf scipy-0.12.0.tar.gz

(2) cd scipy-0.12.0

(3) 设置site.cfg: 可以直接将NumPy的site.cfg拷贝到当前目录中

(4) 利用python构建SciPy:python setup.py build

(5) 利用python安装SciPy:python setup.py install --prefix=~/.local

(6) 安装完成后,SciPy被安装在 ~/.local/lib/python2.7/site-packages/scipy

如果前面得到的Fortran编译器是gfortran的话,执行:

python setup.py build --fcompiler=gnu95

如果前面得到的Fortran编译器是g77的话,执行:

python setup.py build --fcompiler=gnu

环境变量设置:

我换成 gnu95 以后,和我以前 环境变量设置有冲突(动态库设置)

export HOME=/home/SCE/zhaolei

export PATH=$HOME/local/bin:$PATH

export LD_LIBRARY_PATH=$HOME/local/lib:$HOME/local/BerkeleyDB.4.5/lib:$LD_LIBRARY_PATH

export LIBRARY_PATH=$HOME/local/lib:$HOME/local/BerkeleyDB.4.5/lib:$LIBRARY_PATH

export LD_RUN_PATH=$LD_LIBRARY_PATH

export INCLUDE=$HOME/local/include:$INCLUDE

所以安装时,只好先注释掉了。

或者下面的变量一般不用设置:

#export LDFLAGS="-L$HOME/local/lib -L$HOME/local/BerkeleyDB.4.5/lib"

#export CPPFLAGS="-I$HOME/local/include -I$HOME/local/BerkeleyDB.4.5/include"

#export CXXFLAGS=$CPPFLAGS

#export CFLAGS=$CPPFLAGS

step 8. 安装Theano

有了以上的准备后,安装Theano就是一个非常简单的过程了。直接利用python就可以完成安装:

(1) 解压:tar -xvzf Theano-0.6.0rc3.tar.gz

(2) cd Theano-0.6.0rc3

(3) python setup.py install --prefiex=~/.local

(4) 安装完成后,SciPy被安装在 ~/.local/lib/python2.7/site-packages/Theano-0.6.0rc3-py2.7.egg

然后可以在python下执行相应的测试程序:

python

>>>import nose

>>>import numpy

>>>import scipy

>>>numpy.test('full')

等待。。。。

>>>scipy.test('full')

至此,完成了ATLAS + NumPy + SciPy + Theano的python科学计算环境的搭建

http://blog.sina.com.cn/s/blog_6cb8e53d0101keak.html

Theano是一个python库,提供了定义、优化以及评估数学表达式的库,尤其适合处理高维数组。使用Theano能获得和C差不多的处理速度,并且当利用GPU进行计算时,效率要优于CPU上运行的C语言程序。利用Theano能快速验证各种算法模型。

但是在Linux上安装theano是一件非常痛苦的事情,从theano的文档中看到,其依赖条件非常多:

(1) 64-bit Linux(最佳)

(2) python 2.4以上

(3) g++ 4.2以上

(4) NumPy 1.5.0以上

(5) SciPy 0.8以上

(6) BLAS支持Level-3

事实上,在安装过程中发现,如果要安装NumPy,还需要安装ATLAS,而ATLAS则又依赖于lapack ……

这其中涉及到:

ATLAS是python下的一个线性代数库,是基于另外两个线性代数库BLAS和lapack的;

NumPy提供了一个在python中做科学计算的基础库,它重在数值计算,甚至可以说是用于多维数组处理的库;

SciPy是基于numpy,提供了一个在python中做科学计算的工具集,也就是说它是更上一个层次的库;

Theano则是基于NumPy以及SciPy的一个更高级的用于科学计算的库。

这里假设python和g++已经按要求装好,并且符合版本要求,以下根据安装的步骤来进行说明:

首先介绍下环境,多核服务器,cpu时钟频率2668MHz,Linux-64bit,非root权限。所有源码放在/data4/open_src中

各开发包的版本为:

开发包版本文件名下载地址

-----------------------------------------------------------------------------------------------

BLASblas.tgzhttp://www.netlib.org/blas/

lapack3.2.2lapack.tgzhttp://www.netlib.org/lapack/#_previous_release

ATLAS3.8.4atlas3.8.4.tar.bz2http://sourceforge.net/projects/math-atlas/files/Stable/

NumPy1.7.1numpy-1.7.1.tar.gzhttps://pypi.python.org/pypi/numpy

SciPy0.12.0scipy-0.12.0.tar.gzhttps://pypi.python.org/pypi/scipy

Theano0.6.0Theano-0.6.0rc3.tar.gzhttp://deeplearning.net/software/theano/#download

以下是安装步骤:

step 1. 编译BLAS

(1) 解压:tar -xvzf blas.tgz

(2) cd BLAS

(3) 修改 make.inc 中的编译选项:

PLAT = _LINUX

FORTRAN= gfortran

OPTS= -O2 -m64 -fPIC

NOOPT= -O0 -m64 -fPIC

LOADER= gfortran

(4) 编译BLAS:make

编译完成后,会生成blas_LINUX.a文件

step 2. 配置ATLAS

在安装ATLAS之前需要先编译lapack,但是为了能使得编译成功,需要保证lapack的编译选项与ATLAS一致。因此首先配置ATLAS,然后将相关编译配置拷贝到lapack中

(1) 解压:tar -xvjf atlas3.8.4.tar.bz2

(2) cd ATLAS

(3) 创建一个build目录,用于存放ATLAS的编译配置:mkdir atlas_build

(4) cd atlas_build

(5) 执行configure进行配置:../configure -b 64 -D c -DPentiumCPS=2668 -Fa alg -fPIC --with-netlib-lapack=/data4/open_src/lapack-3.2.2/lapack_LINUX.a --prefix=~/.local

其中的参数说明如下:

-b 指定编译出库的类型(32位库还是64位库)

-D c -DPentiumCPS 是指定你的CPU的时钟频率,可以通过 grep MHz /proc/cpuinfo 得到

-Fa alg -fPIC 得到与位置无关的代码,生成动态的共享库

--prefix 为安装路径

--with-netlib-lapack 则是制定lapack库文件(此时lapack库文件还没有生成,先随便指定一个)

(6) 完成配置后,在Make.inc文件中找到F77和F77FLAGS的参数配置,这两个配置将会赋给lapack的FORTRAN和OPTS

ps:对于ATLAS 3.10及以上版本,设置--with-netlib-lapack会出错,需要直接指定lapack的压缩包(--with-netlib-lapack-tarfile=),它在编译过程中会自动解压和编译lapack,最终生成的so文件也由之前的6个整合成两个。ATLAS 3.10以上版本对后续安装NumPy没有影响,但是在使用的时候会造成有些库文件找不到的现象。因此这里使用的是ATLAS 3.8.4版本。

step 3. 编译lapack

(1) 解压:tar -xvzf lapack.tgz

(2) cd lapack-3.2.2

(3) 拷贝生成make.inc: cp make.inc.example make.inc

(4) 修改make.inc:

将其中FORTRAN和OPTS的值设置得跟 ATLAS/atlas_build/Make.inc 中的F77和F77FLAGS一致

同时设置

PLAT = _LINUX

BLASLIB = /data4/open_src/BLAS/blas$(PLAT).a

(5) 编译:make build

(6) 编译成功后,会在根目录生成两个库文件:lapack_LINUX.a 和 tmglib_LINUX.a

step 4. 编译并安装ATLAS

(1) cd ATLAS

(2) 删除原配置:rm -rf atlas_build

(3) 重新配置ATLAS:参考 step 2,并设置 --with-netlib-lapack=/data4/open_src/lapack-3.2.2/lapack_LINUX.a

(4) 在atlas_build中进行编译:make build

ps:这个过程相当漫长,耐心等待!!

(5) check编译结果:

make check

make ptcheck (对于多核服务器)

make time

ps:如果check过程中没有报错,则可以放心进行以后的步骤;如果出现报错,也可以尝试进行后续步骤,是否成功就要靠人品了。

(6) 编译动态库:

cd lib

make shared

make ptshared (对于多核服务器)

cd ..

如果在 lib 下面出现libatlas.so, libcblas.so, libf77blas.so, liblapack.so, libptcblas.so, libptf77blas.so 这6个动态库文件,则表示编译成功

(7) 安装ATLAS:make install

由于之前设置了--prefix=~/.local 因此ATLAS将被安装到 ~/.local/lib 中

(8) cp ./lib/*.so ~/.local/lib

(9) 设置环境变量:在~/.bashrc中添加 export LD_LIBRARY_PATH=~/.local/lib:$LD_LIBRARY_PATH 并执行 source ~/.bashrc

step 5. 安装NumPy

(1) 解压 tar -xvzf numpy-1.7.1.tar.gz

(2) cd numpy-1.7.1

(3) 拷贝生成sit.cfg: cp site.cfg.example site.cfg

(4) 配置site.cfg:

1> 打开[DEFAULT],并设置 library_dirs 和 include_dirs ,使得在编译的时候能够找到atlas库

library_dirs = ~/.local/lib

include_dirs = ~/.local/include

2> 打开[blas_opt],并设置 libraries

libraries = ptf77blas, ptcblas, atlas

3> 打开[lapack_opt],并设置 libraries

libraries = lapack, ptf77blas, ptcblas, atlas

ps:如果在ATLAS安装过程中,没有生成libptf77blas和libptcblas,则需要设置两个libraries为

libraries = f77blas, cblas, atlas

libraries = lapack, f77blas, cblas, atlas

(5) 利用python构建NumPy:python setup.py build

(6) 利用python安装NumPy:python setup.py install --prefix=~/.local

(7) 安装完成后,NumPy被安装在 ~/.local/lib/python2.7/site-packages/numpy

(8) 设置环境变量:在~/.bashrc中添加 export PYTHONPATH=~/.local/lib/python2.7/site-packages:$PYTHONPATH 并执行 source ~/.bashrc

step 6. 安装SicPy

(1) 解压: tar -xvzf scipy-0.12.0.tar.gz

(2) cd scipy-0.12.0

(3) 设置site.cfg: 可以直接将NumPy的site.cfg拷贝到当前目录中

(4) 利用python构建SciPy:python setup.py build

(5) 利用python安装SciPy:python setup.py install --prefix=~/.local

(6) 安装完成后,SciPy被安装在 ~/.local/lib/python2.7/site-packages/scipy

step 7. 安装Theano

有了以上的准备后,安装Theano就是一个非常简单的过程了。直接利用python就可以完成安装:

(1) 解压:tar -xvzf Theano-0.6.0rc3.tar.gz

(2) cd Theano-0.6.0rc3

(3) python setup.py install --prefiex=~/.local

(4) 安装完成后,SciPy被安装在 ~/.local/lib/python2.7/site-packages/Theano-0.6.0rc3-py2.7.egg

至此,完成了ATLAS + NumPy + SciPy + Theano的python科学计算环境的搭建

推荐阅读更多精彩内容