python3

python3爬取动态网站图片

泪湿孤枕 提交于 2020-01-03 04:09:47
思路: 1、图片放在<image>XXX</image>标签中 2、利用fiddler抓包获取存放图片信息的js文件url 3、利用requests库获取html内容,然后获取其中图片id 4、利用fiddler抓取下载图片地址,结合图片id来下载图片(大文件) # -*- coding:UTF-8 -*- import requests, json, time from contextlib import closing class get_photos(object): def __init__(self): self.photos_id = [] self.download_server = 'https://unsplash.com/photos/xxx/download?force=trues'#下载图片地址,通过fiddler抓包获取 self.target = 'https://unsplash.com/napi/photos?page=1&per_page=24'#存有图片信息的js文件地址 self.headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.142 Safari

python3-基础

﹥>﹥吖頭↗ 提交于 2020-01-03 03:56:39
Python是一种计算机编程语言。计算机编程语言和我们日常使用的自然语言有所不同,最大的区别就是,自然语言在不同的语境下有不同的理解,而计算机要根据编程语言执行任务,就必须保证编程语言写出的程序决不能有歧义,所以,任何一种编程语言都有自己的一套语法,编译器或者解释器就是负责把符合语法的程序代码转换成CPU能够执行的机器码,然后执行。Python也不例外。 Python的语法比较简单,采用缩进方式,写出来的代码就像下面的样子: # print absolute value of an integer: a = 100 if a >= 0: print(a) else: print(-a) 以 # 开头的语句是注释,注释是给人看的,可以是任意内容,解释器会忽略掉注释。其他每一行都是一个语句,当语句以冒号 : 结尾时,缩进的语句视为代码块。 缩进有利有弊。好处是强迫你写出格式化的代码,但没有规定缩进是几个空格还是Tab。按照约定俗成的管理,应该始终坚持使用4个空格的缩进。 缩进的另一个好处是强迫你写出缩进较少的代码,你会倾向于把一段很长的代码拆分成若干函数,从而得到缩进较少的代码。 缩进的坏处就是“复制-粘贴”功能失效了,这是最坑爹的地方。当你重构代码时,粘贴过去的代码必须重新检查缩进是否正确。此外,IDE很难像格式化Java代码那样格式化Python代码。 最后,请务必注意

python之模块

女生的网名这么多〃 提交于 2020-01-02 22:23:17
模块是一个包含所有你定义的函数和变量的文件,其后缀名是.py。模块可以被别的程序引入,以使用该模块中的函数等功能。这也是使用 python 标准库的方法。 模块让你能够有逻辑地组织你的python代码段;把相关的代码分配到一个模块里能让你的代码更好用,更易懂。 模块能定义函数,类和变量,模块里也能包含可执行的代码。 [python@master model]$ more model_1.py def p_fun(): print('hello world') return [python@master model]$ more main.py from model_1 import p_fun if __name__ == "__main__": #判断是否为主程序执行口 p_fun() 运行: [python@master model]$ python3 main.py hello world from ... import * :这样会把模块中的所有内容导入到当前命名空间,一般不建议使用,消耗内存空间,也容易出现未预知的问题。 1.搜索路径 当导入一个模块后,python解析器对模块位置的搜索顺序是: 当前目录----shell变量PYTHONPATH下的每个目录----------python模块路径目录 模块的搜索路径存储在system模块的sys.path变量中

python3基本语法

我的未来我决定 提交于 2020-01-02 18:28:03
变量 python通过=进行变量赋值,声明变量时不需要声明数据类型 #-*- coding:utf -8-*- #/usr/bin/python3 #在声明变量时不需要声明变量类型 counter = 100 #整型变量 miles = 1000.0 #浮点型变量 name = "runobb" #字符串 #打印变量:print() print(counter) print(miles) print(name) #查看数据类型:type() print(type(counter)) print(type(miles)) print(type(name))#同时为多个变量赋值#创建一个整型对象,值为1,三个变量被分配到相同的内存空间a = b = c = 1#id()查看该变量的内存空间地址 In [16]: print(id(a)) 1658082080 In [17]: print(id(b)) 1658082080 In [18]: print(id(c)) 1658082080 数值运算 >>>5 + 4 # 加法 9 >>> 4.3 - 2 # 减法 2.3 >>> 3 * 7 # 乘法 21 >>> 2 / 4 # 除法,得到一个浮点数 0.5 >>> 2 // 4 # 除法,得到一个整数 0 >>> 17 % 3 # 取余 2 >>> 2 ** 5 # 乘方 32 注意

002:Virtualenv创建虚拟环境

生来就可爱ヽ(ⅴ<●) 提交于 2020-01-02 06:03:39
前戏: 1、安装python解释器,建议安装时选上添加到系统,具体情况如下图: 2、PyCharm安装就不说了,主要的是安装专业版(社区版没有django、flask等功能,至于破解——你懂的); 安装 virtualenv : virtualenv 是用来创建虚拟环境的软件工具,我们可以通过 pip 或者 pip3 来安装: pip install virtualenv pip3 install virtualenv 创建虚拟环境: 创建虚拟环境非常简单,通过以下命令就可以创建了: virtualenv [虚拟环境的名字] 注:如果你当前的 Python3/Scripts 的查找路径在 Python2/Scripts 的前面,那么将会使用 python3 作为这个虚拟环境的解释器。如果 python2/Scripts 在 python3/Scripts 前面,那么将会使用 Python2 来作为这个虚拟环境的解释器。本人没有这个癖好,系统上同时装python2和python3; 进入环境: 虚拟环境创建好了以后,那么可以进入到这个虚拟环境中,然后安装一些第三方包; 进入虚拟环境在不同的操作系统中有不同的方式,一般分为两种,第一种是 Windows ,第二种是 *nix : 1、 windows 进入虚拟环境:进入到虚拟环境的 Scripts 文件夹中,然后执行 activate

python3 与 Django 连接数据库:Error loading MySQLdb module: No module named 'MySQLdb'

北慕城南 提交于 2020-01-01 23:22:03
在 python2 中,使用 pip install mysql-python 进行安装连接MySQL的库,使用时 import MySQLdb 进行使用 在 python3 中,改变了连接库,改为了 pymysql 库,使用 pip install pymysql 进行安装,直接导入即可使用 但是在 Django 中, 连接数据库时使用的是 MySQLdb 库,这在与 python3 的合作中就会报以下错误了 django.core.exceptions.ImproperlyConfigured: Error loading MySQLdb module: No module named 'MySQLdb' 解决方法:在 __init__.py 文件中添加以下代码即可。 import pymysqlpymysql.install_as_MySQLdb() 额,找了一下却没有找到 install_as_MySQLdb() 这个方法的源码,不过顾名思义应该是让 Django 把 pymysql 当成 MySQLdb 来使用吧 当然,出现这个问题可能是另外一个很基本的原因,就是没有安装相关库,这个直接用 pip 安装就可以了,这个在上面也有详细的描述呢 来源: https://www.cnblogs.com/peng-lan/p/9605045.html

【Python数据分析】Python3操作Excel-以豆瓣图书Top250为例

给你一囗甜甜゛ 提交于 2020-01-01 18:53:33
本文利用Python3爬虫抓取豆瓣图书Top250,并利用xlwt模块将其存储至excel文件,图片下载到相应目录。旨在进行更多的爬虫实践练习以及模块学习。 工具 1.Python 3.5 2.BeautifulSoup、xlwt模块 开始动手 首先查看目标网页的url: https://book.douban.com/top250?start=0, 然后我尝试了在代码里直接通过字符串连接仅改变”start=“后面的数字的方法来遍历所有的250/25 = 10页内容,但是后来发现不行,那样的话出来的永远是第一页,于是通过浏览器的F12开发者工具检查,发现start是要post上去的,如下图: (图1) 所以建立一个postData的dict: postData = {"start": i} #i为0,25,...225 每次将其post上去即可解决返回都是第一页的问题。 分析网页可知,一本书的罗列信息以及要爬取的点如下图: (图2) 从上到下需要爬取的信息有: 1. 图书链接地址 2. 封面图片链接 我到时候会将此链接打开,下载图片到本地 (download_img函数) 3. 书名 要注意的是这里书名取title的内容而不去a标签中的string信息,因为string信息可能包含诸如空格、换行符之类的字符,给处理造成麻烦,直接取title格式正确且无需额外处理。 4. 别名

python3基础2

半世苍凉 提交于 2020-01-01 01:20:59
1、表达式 if......else (1)用户登录验证 import getpass name=input("请输入用户名:") pwd=getpass.getpass("请输入密码:") if name=="xiaoming" and pwd=="123": print("welcome you!!!") else: print("用户名或密码错误!") (2)猜年龄游戏 age=18 userage=int(input("请输入年龄:")) if age<userage: print("猜大了!!!") elif age>userage: print("猜小了!!!") else: print("恭喜你猜对啦!!!") 2、表达式 for 例子:(1)输出循环10次 for i in range(10): print("i:",i) 输出结果为: i: 0 i: 1 i: 2 i: 3 i: 4 i: 5 i: 6 i: 7 i: 8 i: 9 (2)输出循环10次,遇到5的不走了,直接跳入下一次循环 for i in range(10): if i==5: continue print("i:",i) 输出结果为: i: 0 i: 1 i: 2 i: 3 i: 4 i: 6 i: 7 i: 8 i: 9 (3)输出循环10次,遇到5就不走了,直接退出 for i in

安装face_recognition

为君一笑 提交于 2020-01-01 00:17:13
一、安装CentOS的扩展工具 1、yum -y upgrade(更新除CentOS核心包外的所有软件包) 2、yum -y install yum-utils 3、yum -y groupinstall development(安装一些开发工具,以便于后面使用源码的安装方式安装软件) 二、安装支持环境 1、安装python3 1)依赖环境:yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gdbm-devel db4-devel libpcap-devel xz-devel 2)安装包:wget -P /tmp https://www.python.org/ftp/python/3.6.6/Python-3.6.6.tar.xz 3)解压:tar -Jxf /tmp/Python-3.6.6.tar.xz 4)编译与安装:/tmp/Python-3.6.6/configure --enable-optimizations --prefix=/usr/local/python3 && make && make install 5)创建软链接 1、ln -s /usr/local/python3/bin/python3 /usr

安装face_recognition

六月ゝ 毕业季﹏ 提交于 2020-01-01 00:17:09
一、安装CentOS的扩展工具 1、yum -y upgrade(更新除CentOS核心包外的所有软件包) 2、yum -y install yum-utils 3、yum -y groupinstall development(安装一些开发工具,以便于后面使用源码的安装方式安装软件) 二、安装支持环境 1、安装python3 1)依赖环境:yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gdbm-devel db4-devel libpcap-devel xz-devel 2)安装包:wget -P /tmp https://www.python.org/ftp/python/3.6.6/Python-3.6.6.tar.xz 3)解压:tar -Jxf /tmp/Python-3.6.6.tar.xz 4)编译与安装:/tmp/Python-3.6.6/configure --enable-optimizations --prefix=/usr/local/python3 && make && make install 5)创建软链接 1、ln -s /usr/local/python3/bin/python3 /usr