url

python 微博爬取图片不用cookie

ⅰ亾dé卋堺 提交于 2020-03-12 13:32:26
Python 爬取微博图片,no cookie   想爬微博的某个用户的的图片,不使用cookie。代码如下。使用方法很简单,小白可用。整个代码需要修改的就是id,如何找到目标用户的id呢?两个方法: 1、打开手机微博,进入用户主页,按下图操作: https://weibo.com/u/2117146340,u后面这一串数字就是id 2、用户搜索博主名字,点击找人,切记不是其他方法 # -*- coding: utf-8 -*- import urllib . request import json import requests import os path = 'D:\\picture\\weibo\\' #id = '2093492691' id = '3627764220' proxy_addr = "122.241.72.191:808" # pic_num = 0 weibo_name = "programmer" def use_proxy ( url , proxy_addr ) : req = urllib . request . Request ( url ) req . add_header ( "User-Agent" , "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML,

.Net Core调用第三方WebService

浪子不回头ぞ 提交于 2020-03-12 11:14:19
本示例使用的是.net core2.2版本,微软提供了访问第三方服务的扩展,只需要在Startup.cs中添加。 紧接着就是通过DI直接使用。示例如下: using Microsoft.AspNetCore.Mvc; using System; using System.Collections.Generic; using System.Net; using System.Net.Http; using System.Threading.Tasks; namespace demo.Controllers { [Route("api/[controller]")] [ApiController] public class ValuesController : ControllerBase { private readonly IHttpClientFactory _httpClientFactory; public ValuesController(IHttpClientFactory httpClientFactory) { _httpClientFactory = httpClientFactory; } [HttpGet] public async Task<ActionResult<string>> Get() { var url = @"http://127.0.0.1

ajax GET和POST函数的封装。

我的梦境 提交于 2020-03-12 09:06:48
<script> document.onclick = function(){ var url = "http://localhost/ajax/data/get-post.php"; ajax({ success:function(res){ console.log(res); }, url:url, type:"get", data:"user=admin&pass=123" }); } function ajax(ops){ // 默认属性处理 ops.type = ops.type || "get"; ops.data = ops.data || ""; // 根据当前的请求方式,决定是否需要拼接数据,处理url ops.url = ops.type=="get" ? ops.url + "?" + ops.data : ops.url; // if(ops.type=="get"){ // ops.url = ops.url+ops.data // } // 创建xhr对象 var xhr = new XMLHttpRequest(); // 开启请求 xhr.open(ops.type, ops.url); // 根据类型决定send的内容及内容数据格式 if(ops.type == "get"){ xhr.send(); }else{ xhr

vue-router实现原理

*爱你&永不变心* 提交于 2020-03-12 09:05:45
近期面试,遇到关于vue-router实现原理的问题,在查阅了相关资料后,根据自己理解,来记录下。 我们知道vue-router是vue的核心插件,而当前vue项目一般都是单页面应用,也就是说vue-router是应用在单页面应用中的。 那么,什么是单页面应用呢?在单页面应用出现之前,多页面应用又是什么样子呢? 单页面应用与多页面应用 单页面 即 第一次进入页面的时候会请求一个html文件,刷新清除一下。切换到其他组件,此时路径也相应变化,但是并没有新的html文件请求,页面内容也变化了。 原理是:JS会感知到url的变化,通过这一点,可以用js动态的将当前页面的内容清除掉,然后将下一个页面的内容挂载到当前页面上,这个时候的路由不是后端来做了,而是前端来做,判断页面到底是显示哪个组件,清除不需要的,显示需要的组件。这种过程就是单页应用,每次跳转的时候不需要再请求html文件了。 多页面 即 每一次页面跳转的时候,后台服务器都会给返回一个新的html文档,这种类型的网站也就是多页网站,也叫做多页应用。 原理是:传统的页面应用,是用一些超链接来实现页面切换和跳转的 其实刚才单页面应用跳转原理即 vue-router实现原理 vue-router实现原理 原理核心就是 更新视图但不重新请求页面。 vue-router实现单页面路由跳转,提供了三种方式:hash模式、history模式

thinkphp中URL传参数的几种方式

≡放荡痞女 提交于 2020-03-12 08:40:00
在thinkphp中,url传参合asp.net中原理类似,下面就单个参数和多个参数传递方式进行一个简单讲解 1.传单个参数 单个参数这种比较简单,例如 想像edit操作里面传递一个id值,如下写法__URL__/edit/id/1 1 http: //localhost/index.php/user/edit/id/1 id和其值1要分别位于/后面 后台获取id通过 $id=$_GET['id'] 即可获取其具体值。 2.传多个参数 传多个参数相对比较麻烦一点,可以通过两种方式 第一种:传id,和status 1 http: //localhost/index.php/user/edit/id/1/status/2 status参数紧接其后写即可 后台获取两个参数 1 2 $id = $_GET [ 'id' ]; $status = $_GET [ 'status' ]; 还有一种比较常规的用法如下: 1 http: //localhost/index.php/user?id=1&&status=2 但这种方式不可以通过$_GET['id']的方式来获取,需要通过如下方式 1 2 3 $id = $_REQUEST [ 'id' ]; $status = $_REQUEST [ 'status' ]; //能通过$_GET['ID']获取的值,通过$_REQUEST['id'

LogoutFilter

扶醉桌前 提交于 2020-03-12 08:27:13
LogoutFilter 介绍 LogoutFilter是一个登出过滤器,当请求经过LogoutFilter时,过滤器会请判断当前请求的URL是否是登出URL,如果匹配,就执行遍历执行登出handlers。默认情况下,会清空SecurityContextHolder的身份认证信息,以及发送一个登出成功的事件。 代码分析 我们首先看一下LogoutFilter的构造器,代码如下: public LogoutFilter ( LogoutSuccessHandler logoutSuccessHandler , LogoutHandler . . . handlers ) { this . handler = new CompositeLogoutHandler ( handlers ) ; Assert . notNull ( logoutSuccessHandler , "logoutSuccessHandler cannot be null" ) ; this . logoutSuccessHandler = logoutSuccessHandler ; //默认登出URL是/logout setFilterProcessesUrl ( "/logout" ) ; } 如果我们项目的登出URL与默认登录URL有出入,需要手动配置进行配置,配置如下: @Override

Ajax学习

心不动则不痛 提交于 2020-03-12 08:10:17
Ajax简介 AJAX 不是新的编程语言,而是一种使用现有标准的 新方法 。 AJAX 最大的优点 是在不重新加载整个页面的情况下,可以与服务器交换数据并更新部分网页内容。 增加B/S的体验性 Ajax 创建XMLHttpRequest 创建:new XMLHttpRequest(); 使用的时候应该判断一下;看浏览器是否支持 XMLHttpRequest; 向服务器发送请求 open()和send()方法 xmlhttp . open ( "GET" , "ajax_info.txt" , true ) ; xmlhttp . send ( ) ; 方法 描述 open(method,url,async) 规定请求的类型、URL以及是否异步处理请求。 · method: 请求的类型,GET或POST · url: 文件在服务器上的位置 · async: true(异步)或false(同步) send(string) 将请求发送到服务器。 · string : 仅用于POST请求。 选择GET和POST? 与POST相比,GET更快也更简单;并且在大部分情况下都能使用; 使用POST请求的情况: *1 无法使用缓存文件;(更新服务器上的文件或数据库) *2 向服务器发送大量数据(POST没有数据量限制) *3 发送包含未知字符的用户输入时,POST比GET更稳定也更可靠;

jQuery Ajax 前端和后端数据交互的问题

别来无恙 提交于 2020-03-12 07:44:33
原理:前端与后端的数据交互,最常用的就是GET、POST,比较常用的用法是:提交表单数据到后端,后端返回json 前端的数据发送与接收 1)提交表单数据 2)提交JSON数据 后端的数据接收与响应 1)接收GET请求数据 2)接收POST请求数据 3)响应请求 1、提交表单数据 1)GET请求 1 var data = { 2 "name": "test", 3 "age": 1 4 }; 5 $.ajax({ 6 type: 'GET', 7 url: /your/url/, 8 data: data, // 最终会被转化为查询字符串跟在url后面: /your/url/?name=test&age=1 9 dataType: 'json', // 注意:这里是指希望服务端返回json格式的数据 10 success: function(data) { // 这里的data就是json格式的数据 11 }, 12 error: function(xhr, type) { 13 } 14 }); 2)POST请求 1 var data = {} 2 // 如果页面并没有表单,只是input框,请求也只是发送这些值,那么可以直接获取放到data中 3 data['name'] = $('#name').val() 4 5 // 如果页面有表单

Python数据分析与爬虫

余生长醉 提交于 2020-03-12 04:58:26
数据分析重要步骤: 1.数据获取 可以进行人工收集获取部分重要数据 可以在各个数据库中导出数据 使用Python的爬虫等技术 2.数据整理 从数据库、文件中提取数据,生成DataFrame对象 采用pandas库读取文件 3.数据处理 数据准备: 对DataFrame对象(多个)进行组装、合并等操作 pandas操作 数据转化: 类型转化、分类(面元等)、异常值检测、过滤等 pandas库的操作 数据聚合: 分组(分类)、函数处理、合并成新的对象 pandas库的操作 4.数据可视化 将pandas的数据结构转化为图表的形式 matplotlib库 5.预测模型的创建和评估 数据挖掘的各种算法: 关联规则挖掘、回归分析、聚类、分类、时序挖掘、序列模式挖掘等 6.部署(得出结果) 从模型和评估中获得知识 知识的表示形式:规则、决策树、知识基、网络权值 原网址: https://blog.csdn.net/qq_35187510/article/details/80078143 爬取网页数据步骤: 简介: (1)网络爬虫(又被称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者): 是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。其实通俗的讲就是通过程序去获取web页面上自己想要的数据

(二)基本框架

我的未来我决定 提交于 2020-03-12 04:48:17
1.初始化 from flask import Flask app = Flask(__name__) flask类的构造函数只有一个必须指定的参数,即主模块或包的名字。 2.路由 http://python.jobbole.com/80956/ 处理URL和函数之间关系的程序称为路由 定义路由的最简便方式,是使用app.route修饰器 @app.route('/') def index(): return '<h1>hello world</h1>' URL和函数之间的关系在此表现为:比如不熟的域名为www.example.com,在浏览器中访问http://www.example.com后,会触发对应的index()函数。此函数的返回值称为相应,即客户端会接收到的内容。如果客户端是Web浏览器,相应就是现实给用户查看的文档。 index()这样的函数称为视图函数。 Flask支持动态URL,只需在route秀时期中使用特殊的句法。 @app.route('/user/<name>') def user(name): return '<h1>hello, %s!</h1>' % name 3.启动服务器 用run方法启动flask Web服务器: if __name__ == '__main__': app.run(debug=True) debug设为True进入调试模式 4