为什么Python为这么慢？

Python

http://benchmarksgame.alioth.debian.org

https://en.wikipedia.org/wiki/Just-in-time_compilation

https://en.wikipedia.org/wiki/Ahead-of-time_compilation

那么其他Python解释器的速度又如何呢？

PyPy拥有GIL，通常比CPython快至少三倍。

Jython没有GIL，因为在Jython中Python线程是用Java线程表示的，这得益于JVM内存管理系统。

JavaScript是如何做到这一点的呢？

首先，所有的Javascript引擎使用标记加清除的垃圾收集系统，而之前提到GIL的基本诉求是CPython的存储管理算法。

JavaScript没有GIL，但因为它是单线程的，所以也并不需要GIL。

JavaScript通过事件循环和承诺／回调模式来实现异步编程的并发。Python有与异步事件循环相似的过程。

”

我经常听到这句话。我觉得这只是对于CPython实际运行方式的一种简单解释。如果你在终端中输入python myscript.py，那么CPython将对这段代码开始一系列的读取，词法分析，解析，编译，解释和运行。

这个过程中的重要步骤是在编译阶段创建一个.pyc 文件，这个字节码序列将被写入Python3下__pycache__/ 路径中的一个文件（对于Python2，文件路径相同）。这个步骤不仅仅应用于脚本文件，也应用于所有导入的代码，包括第三方模块。

所以大多时候（除非你写的代码只运行一次），Python是在解释字节码并且本地执行。下面我们将Java和C#.NET相比较：

Java编译成一门“中间语言”，然后Java虚拟机读取字节代码并即时编译为机器代码。.NET的通用中间语言（CIL）是一样的，它的通用语言运行时间（CLR）也采用即时编译的方法转化为机器代码。

那么，如果Python用的是和Java和C#一样的虚拟机和某种字节代码，为什么在基准测试中它却慢得多？首先，.NET和Java是采用JIT编译的。

JIT，又称即时编译，需要一种中间语言来把代码进行分块（或者叫数据帧）。预编译（AOT, Ahead of Time）器的设计保证了CPU能够在交互之前理解代码中的每一行。

JIT本身不会使执行速度更快，因为它仍然执行相同的字节码序列。但是，JIT允许在运行时进行优化。好的JIT优化器可以检测哪些部分执行次数比较多，这些部分被称为“热点”。然后，它将用更高效的代码替换它们，完成优化。

这就意味着当计算机应用程序需要重复做一件事情的时候，它就会更加地快。另外，我们要知道Java和C#是强类型语言（变量需要预定义），因此优化器可以对代码做更多的假设。

PyPy使用即时编译器，并且前文也有提到它比CPython更快。这篇关于基准测试的文章介绍得更为详细――什么版本的Python最快？

链接：

https://hackernoon.com/which-is-the-fastest-version-of-python-2ae7c61a6b2b

那么，为什么CPython不使用即时编译器呢？

JIT存在一些缺点：其中一个是启动时间。CPython启动时间已经相对较慢，PyPy比CPython还要慢2-3倍。众所周知，Java虚拟机的启动速度很慢。为了解决这个问题，.NET CLR在系统启动的时候就开始运行，但CLR的开发人员还开发了专门运行CLR的操作系统来加快它。

如果你有一个运行时间很长的Python进程，并且其代码可以被优化（因为它包含前文所述的“热点”），那么JIT就能够起到很大作用。

但是，CPython适用于各类应用。因此，如果你使用Python开发命令行应用程序，每次调用CLI时都必须等待JIT启动，这将非常缓慢。

CPython必须尽量多地尝试不同的案例以保证通用性，而把JIT插入到CPython中可能会让这个项目停滞不前。

如果你想要借助JIT的力量，而且你的工作量还比较大，那么使用PyPy吧。

“因为它是一个动态类型语言”

在静态类型语言中，定义变量时必须声明类型。C, C++, Java, C#, Go都是这种语言。

在动态类型语言中，类型的概念依旧存在，但是这个变量的类型是动态变化的。

1

“foo”

在上面这个例子中，Python创建第二个变量的时候用了同样的名字，但是变量类型是str（字符型），这样就对先前在内存中给a分配的空间进行了释放和再分配。

静态类型语言的这种设计并不是为了麻烦大家――它们是按照CPU的运行方式设计的。如果最终需要将所有内容都转化为简单的二进制操作，那就必须将对象和类型转换为低级数据结构。

Python自动完成了这个过程，我们看不见，也没必要看见。

不必声明类型不是使Python变慢的原因。Python语言的设计使我们几乎可以创建任何动态变量。我们可以在运行时替换对象中的方法，也可以胡乱地把低级系统调用赋给一个值。几乎怎么修改都可以。

正是这种设计使得优化Python变得异常困难。

为了阐明我的观点，我将使用一个MacOS中的应用。它是一个名为Dtrace的系统调用跟踪工具。CPython发行版没有内置DTrace，因此你必须重新编译CPython。以下演示中使用3.6.6版本。

wget https://github.com/python/cpython/archive/v3.6.6.zip

unzip v3.6.6.zip

cd v3.6.6

make

现在python.exe将在整条代码中使用Dtrace跟踪器。Paul Ross就Dtrace做了一篇很棒的短演讲。 你可以下载Python的DTrace启动文件来测试函数调用、执行时间、CPU时间、系统调用等各种有意思的事情。例如：

sudo dtrace -s toolkit/<tracer>.d -c ‘../cpython/python.exe script.py’

DTrace启动文件：

https://github.com/paulross/dtrace-py/tree/master/toolkit

演讲链接：

https://github.com/paulross/dtrace-py#the-lightning-talk

py_callflow跟踪器显示应用程序中的所有函数调用

因此，是Python的动态类型让它变慢的吗？

• 比较和转换类型是耗时的，因为每次读取、写入变量或引用变量类型时都会进行检查
• 很难优化一种如此动态的语言。其他语言之所以那么快是因为他们牺牲了一定的灵活性，从而提高了性能。
• 了解一下Cython，它结合了C-Static类型和Python来优化已知类型的代码，可以提供84倍速度的性能提升。

结论

Python的缓慢主要是由于它动态和多用途的特点。它可以用于解决几乎所有问题，但是更加优化而快捷的替代方案可能存在。

但是，有一些方法可以通过利用异步计算，理解分析工具，以及考虑使用多个解释器来优化Python应用程序。

对于有些启动时间相对不重要，并且即时编译器（JIT）可以提高效率的应用，可以考虑使用PyPy。

对于性能优先并且有更多静态变量的代码部分，请考虑使用Cython。

多线程爬取表情包

有一个网站，叫做“斗图啦”，网址是：https://www.doutula.com/。这里面包含了许许多多的有意思的斗图图片，还蛮好玩的。有时候为了斗图要跑到这个上面来找表情，实在有点费劲。于是就产生了一个邪恶的想法，可以写个爬虫，把所有的表情都给爬下来。这个网站对于爬虫来讲算是比较友好了，他不会限制你的headers，不会限制你的访问频率（当然，作为一个有素质的爬虫工程师，爬完赶紧撤，不要把人家服务器搞垮了），不会限制你的IP地址，因此技术难度不算太高。但是有一个问题，因为这里要爬的是图片，而不是文本信息，所以采用传统的爬虫是可以完成我们的需求，但是因为是下载图片所以速度比较慢，可能要爬一两个小时都说不准。因此这里我们准备采用多线程爬虫，一下可以把爬虫的效率提高好几倍。

一、分析网站和爬虫准备工作：

构建所有页面URL列表：

这里我们要爬的页面不是“斗图啦”首页，而是最新表情页面https://www.doutula.com/photo/list/，这个页面包含了所有的表情图片，只是是按照时间来排序的而已。我们把页面滚动到最下面，可以看到这个最新表情使用的是分页，当我们点击第二页的时候，页面的URL变成了https://www.doutula.com/photo/list/?page=2，而我们再回到第一页的时候，page又变成了1，所以这个翻页的URL其实很简单，前面这一串https://www.doutula.com/photo/list/?page=都是固定的，只是后面跟的数字不一样而已。并且我们可以看到，这个最新表情总共是有869页，因此这里我们可以写个非常简单的代码，来构建一个从1到869的页面的URL列表：

1. # 全局变量，用来保存页面的URL的
2. PAGE_URL_LIST = []
3. BASE_PAGE_URL = 'https://www.doutula.com/photo/list/?page='
4. for x in range(1, 870):
5. url = BASE_PAGE_URL + str(x)
6. PAGE_URL_LIST.append(url)

获取一个页面中所有的表情图片链接：

我们已经拿到了所有页面的链接，但是还没有拿到每个页面中表情的链接。经过分析，我们可以知道，其实每个页面中表情的HTML元素构成都是一样的，因此我们只需要针对一个页面进行分析，其他页面按照同样的规则，就可以拿到所有页面的表情链接了。这里我们以第一页为例，跟大家讲解。首先在页面中右键->检查->Elements，然后点击Elements最左边的那个小光标，再把鼠标放在随意一个表情上，这样下面的代码就定位到这个表情所在的代码位置了：

01.png

可以看到，这个img标签的class是等于img-responsive lazy image_dtz，然后我们再定位其他表情的img标签，发现所有的表情的img标签，他的class都是img-responsive lazy image_dtz：

02.png

03.png

因此我们只要把数据从网上拉下来，然后再根据这个规则进行提取就可以了。这里我们使用了两个第三方库，一个是requests，这个库是专门用来做网络请求的。第二个库是bs4，这个库是专门用来把请求下来的数据进行分析和过滤用的，如果没有安装好这两个库的，可以使用以下代码进行安装（我使用的是python2.7的版本）：

1. # 安装requests
2. pip install requests
3. # 安装bs4
4. pip install bs4
5. # 安装lxml解析引擎
6. pip install lxml

然后我们以第一个页面为例，跟大家讲解如何从页面中获取所有表情的链接：

1. # 导入requests库
2. import requests
3. # 从bs4中导入BeautifulSoup
4. from bs4 import BeautifulSoup
6. # 第一页的链接
7. url = 'https://www.doutula.com/photo/list/?page=1'
8. # 请求这个链接
9. response = requests.get(url)
10. # 使用返回的数据，构建一个BeautifulSoup对象
11. soup = BeautifulSoup(response.content,'lxml')
12. # 获取所有class='img-responsive lazy image_dtz'的img标签
13. img_list = soup.find_all('img', attrs={'class': 'img-responsive lazy image_dta'})
14. for img in img_list:
15. # 因为src属性刚开始获取的是loading的图片，因此使用data-original比较靠谱
16. print img['data-original']

这样我们就可以在控制台看到本页中所有的表情图片的链接就全部都打印出来了。

下载图片：

有图片链接后，还要对图片进行下载处理，这里我们以一张图片为例：http://ws2.sinaimg.cn/bmiddle/9150e4e5ly1fhpi3ysfocj205i04aa9z.jpg，来看看Python中如何轻轻松松下载一张图片：

1. import urllib
2. url = 'http://ws2.sinaimg.cn/bmiddle/9150e4e5ly1fhpi3ysfocj205i04aa9z.jpg'
3. urllib.urlretrieve(url,filename='test.jpg')

这样就可以下载一张图片了。

结合以上三部分内容：

以上三部分，分别对，如何构建所有页面的URL，一个页面中如何获取所有表情的链接以及下载图片的方法。接下来把这三部分结合在一起，就可以构建一个完整但效率不高的爬虫了：

1. # 导入requests库
2. import requests
3. # 从bs4中导入BeautifulSoup
4. from bs4 import BeautifulSoup
5. import urllib
6. import os
8. # 全局变量，用来保存页面的URL的
9. PAGE_URL_LIST = []
10. BASE_PAGE_URL = 'https://www.doutula.com/photo/list/?page='
11. for x in range(1, 870):
12. url = BASE_PAGE_URL + str(x)
13. PAGE_URL_LIST.append(url)
16. for page_url in PAGE_URL_LIST:
17. # 请求这个链接
18. response = requests.get(page_url)
19. # 使用返回的数据，构建一个BeautifulSoup对象
20. soup = BeautifulSoup(response.content,'lxml')
21. # 获取所有class='img-responsive lazy image_dtz'的img标签
22. img_list = soup.find_all('img', attrs={'class': 'img-responsive lazy image_dta'})
23. for img in img_list:
24. # 因为src属性刚开始获取的是loading的图片，因此使用data-original比较靠谱
25. src = img['data-original']
26. # 有些图片是没有http的，那么要加一个http
27. if not src.startswith('http'):
28. src = 'http:'+ src
29. # 获取图片的名称
30. filename = src.split('/').pop()
31. # 拼接完整的路径
32. path = os.path.join('images',filename)
33. urllib.urlretrieve(src,path)

以上这份代码。可以完整的运行了。但是效率不高，毕竟是在下载图片，要一个个排队下载。如果能够采用多线程，在一张图片下载的时候，就完全可以去请求其他图片，而不用继续等待了。因此效率比较高，以下将该例子改为多线程来实现。

二、多线程下载图片：

这里多线程我们使用的是Python自带的threading模块。并且我们使用了一种叫做生产者和消费者的模式，生产者专门用来从每个页面中获取表情的下载链接存储到一个全局列表中。而消费者专门从这个全局列表中提取表情链接进行下载。并且需要注意的是，在多线程中使用全局变量要用锁来保证数据的一致性。以下是多线程的爬虫代码（如果有看不懂的，可以看视频，讲解很仔细）：

1. #encoding: