2019-Python最佳数据科学工具库

说明

以下库都可以在python测试开发库中找到,github地址:https://github.com/china-testing/python-api-tesing

相关书籍:https://china-testing.github.io/python_books.html

核心库

NumPy

Numerical Python的缩写,专为数学运算而设计。 支持用于复杂算术运算的多维数组和向量。还具有丰富的函数集,可以对支持的数据类型执行代数运算。

能与其他编程语言(如C / C ++,FORTRAN和数据库管理系统)的互操作。 而且,由于提供的函数是预编译的,效率高。

SciPy的

基于NumPy,提供集成,回归和概率等高级操作。 子模块组织有层次结构,手册很好。

Pandas

Python Data Analysis Library可根据需要帮助组织各种参数的数据。 各种内置数据类型(如serie,frame和panels)使Pandas成为数据科学家中最受欢迎的库。 帧表格格式允许对数据进行类似数据库的添加/删除操作,分组很容易。

此外,Pandas提供了三维面板数据结构,有助于更好地可视化数据类型。 灵活支持多种数据格式,包括缺少数据。

StatsModels

StatsModels模块允许用户使用库的建模和绘图支持对数据执行统计建模。 这些模型可用于不同领域的预测。 支持的模型类型包括线性模型和回归模型。

StatsModels还支持时间序列分析功能,这些功能在金融机构中尤为突出,例如以便利的格式维护股票市场信息。 此外,这些模型足够快,可用于大数据集,使其成为同类产品的最佳选择。

绘图

任何库的基本功能是能够以易于理解的格式表示对数据执行的复杂操作的结果。 本节中列出的图书馆侧重于该过程的这一方面。

Matplotlib

Matplotlib为SciPy核心软件包的一部分, 用于根据用户的要求对已处理数据进行图形表示。 我们可以生成各种类型的图形,包括直方图,饼图或简单的条形图。 它提供了面向对象的类MATLAB接口,能够为几乎所有可用功能提供定制。

Bokeh

Bokeh使用户可以使用Web浏览器界面绘制数据。 在内部它使用JavaScript基础结构,因此独立于Matplotlib。 Bokeh库强调小部件,它允许用户以各种支持的格式(如图形,绘图和标签)表示数据。

此外,它还通过“回调”支持交互式可视化,这允许您使用JavaScript hook到Bokeh方法。

Plotly

Plotly主要专注于3D绘图,可以与Web应用程序完美集成,并提供许多有用的API。 它使用数据驱动的文档,用户可以将其配置为在服务器端处理图形并将结果发送给客户端或其他方式。 如果需要,我们还可以通过平台与他人共享数据。 Plotly和Matplotlib数据格式可互操作。

机器学习

Scikit-Learn

Scikit-Learn是一个基于NumPy和SciPy构建的开源机器学习工具包。 它具有常用的ML算法,可用于预处理,分类,回归以及聚类。 算法包括[支持向量机]( support vector machines,ridge回归, 网格搜索算法(Grid Search algorithm) , k均值聚类( [k-means clustering]( k-means clustering)等等。另外还有样本数据集。API易学易用。 在几乎所有平台上的良好性能,它在学术和商业用途中都很受欢迎。

Shogun

Shogun C ++实现,为包括Python在内的多种语言和平台提供统一的接口。 它侧重于可扩展的内核方法,以解决回归和分类问题。

Shogun关注生物信息学,可以扩展以处理超过1000万个数据样本,同时保持准确性。

深度学习

TensorFlow

图片.png

TensorFlow专注于神经网络,是由Google工程师开发的深度学习库。 该库非常易于扩展,支持众多平台,还包括GPU支持以实现更好的可视化。 算法类包括分类,估计模型和区分等。丰富的API支持使其成为使用自然语言处理训练神经网络和语音识别的首选。

Theano

Theano是库和编译器的组合,旨在解决DL领域中复杂的数学方程。 它使用NumPy的多维矩阵来执行操作。 考虑到性能,Theano与NumPy紧密结合并进行了预编译,因此与平台无关并且也使用GPU。除了这些功能外,它还提供了单元测试框架。

Keras

Keras是神经网络库,能够在Google的TensorFlow或Microsoft的[CNTK(https://github.com/china-testing/python-api-tesing#%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0deep-learning)之上执行。

Keras可以支持标准,卷积和循环神经网络,并为GPU集群上的模型提供分布式接口。 其易于使用的界面非常适合快速原型及其在支持平台上的部署。

自然语言处理

NLTK

Natural Language Toolkit支持英语语言处理常用的功能,如分类,标记化,解析和语义分析。 使用语法分析将单词分解为token之后,使用语言语义形成树状结构将数据存储在其模型中。涉及面广,例如情绪分析和反垃圾邮件引擎。

Gensim

图片.png

Gensim是可扩展,强大且独立于平台的NLP库,基于使用NumPy和SciPy。 “Generate Similar”的缩写,在内存中保留大量数据,性能不错。与其他库不同,因为它以级联方式使用数据而不是将它们组合在一起。

广泛用于医疗保健和金融机构等领域。

SpaCy

SpaCy包含各种语言的神经网络模型,即英语,德语,法语,意大利语和荷兰语等30种其他语言。 与主要用于学术目的的其他NLP库不同,SpaCy专注于商业用途。

它还提供机器学习和深度学习API的扩展。 一些流行的科技公司,如Airbnb和Quora,将SpaCy作为其平台的一部分。它能够处理文档而不是将数据作为多个token处理。支持中文,依赖jieba

爬虫

Scrapy

图片.png

Scrapy旨在搜索全球网络上的数据,用于设计Web爬虫以解析网页并以结构化格式存储数据。

数据挖掘

数据挖掘是一个计算流,我们试图在大量数据中找到模式用于分析目的。 让我们来看看经常用于数据挖掘的流行的Orange库。

Orange

除了机器学习支持, Orange工具包还具有用于交互式数据挖掘的可视化分析平台。包含用于可视化,分类,回归和评估数据集的小部件。 Orange经常使用的领域包括DNA研究和药物领域分析。

其他

SymPy

虽然不直接用于数据科学和分析,但SymPy是针对代数计算的符号计算Python库。 许多数据科学家使用该库对其数据进行中间数学分析,然后由其他库使用,例如绘图或机器学习。

参考资料

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,233评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,013评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,030评论 0 241
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,827评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,221评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,542评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,814评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,513评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,225评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,497评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,998评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,342评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,986评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,055评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,812评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,560评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,461评论 2 266

推荐阅读更多精彩内容