爬虫是什么

 

'''    近年来，随着网络应用的逐渐扩展和深入，如何高效的获取网上数据成为了无数公司和个人的追求，在大数据时代，谁掌握了更多的数据，谁就可以获得更高的利益，而网络爬虫是其中最为常用的一种从网上爬取数据的手段。    网络爬虫，即Web Spider，是一个很形象的名字。如果把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页的。网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。如果把整个互联网当成一个网站，那么网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来。'''

爬虫的比喻：      如果我们把互联网比作一张大的蜘蛛网，那一台计算机上的数据便是蜘蛛网上的一个猎物，而爬虫程序就是一只小蜘蛛，沿着蜘蛛网抓取自己想要的猎物/数据爬虫的定义：      向网站发起请求，获取资源后分析并提取有用数据的程序 爬虫的价值：      互联网中最有价值的便是数据，比如天猫商城的商品信息，链家网的租房信息，雪球网的证券投资信息等等，这些数据都代表了各个行业的真金白银，可以说，谁 掌握了行业内的第一手数据，谁就成了整个行业的主宰，如果把整个互联网的数据比喻为一座宝藏，那我们的爬虫课程就是来教大家如何来高效地挖掘这些宝藏，掌握了爬 虫技能，你就成了所有互联网信息公司幕后的老板，换言之，它们都在免费为你提供有价值的数据。 请求库封装了TCP 套接字(传输层),所以只要关注http协议(应用层) http协议 +ip&端口(域名通过dns解析) +路由(这个html存放的位置) http比作高速公路,他有规则

 

哪些语言可以实现爬虫

# 1.php：    可以实现爬虫。php被号称是全世界最优美的语言（当然是其自己号称的，就是王婆卖瓜的意思），但是php在实现爬虫中支持多线程和多进程方面做的不好。# 2.java：    可以实现爬虫。java可以非常好的处理和实现爬虫，是唯一可以与python并驾齐驱且是python的头号劲敌。但是java实现爬虫代码较为臃肿，重构成本较大。# 3.c、c++：    可以实现爬虫。但是使用这种方式实现爬虫纯粹是是某些人（大佬们）能力的体现，却不是明智和合理的选择。# 4.python：    可以实现爬虫。python实现和处理爬虫语法简单，代码优美，支持的模块繁多，学习成本低，具有非常强大的框架（scrapy等）且一句难以言表的好！没有但是！

 爬虫的应用

# 1.通用爬虫：通用爬虫是搜索引擎（Baidu、Google、Yahoo等）“抓取系统”的重要组成部分。主要目的是将互联网上的网页下载到本地，形成一个互联网内容的镜像备份。　　1）搜索引擎如何抓取互联网上的网站数据？　　　　　a)门户网站主动向搜索引擎公司提供其网站的url　　　　　b)搜索引擎公司与DNS服务商合作，获取网站的url　　　　　c)门户网站主动挂靠在一些知名网站的友情链接中# 2.聚焦爬虫：聚焦爬虫是根据指定的需求抓取网络上指定的数据。　　例如： 　　　　  获取豆瓣上电影的名称和影评，而不是获取整张页面中所有的数据值。

 爬虫的基本流程

# 1、发起请求: 　　使用http库向目标站点发起请求，即发送一个Request　　Request包含：请求头、请求体等# 2、获取响应内容　　如果服务器能正常响应，则会得到一个Response　　Response包含：html，json，图片，视频等# 3、解析内容　　解析html数据：正则表达式，第三方解析库如Beautifulsoup，pyquery等　　解析json数据：json模块　　解析二进制数据:以b的方式写入文件# 4、保存数据　　数据库　　文件

请求与响应

 

# URL的格式由三部分组成：    ①第一部分是协议(或称为服务方式)。    ②第二部分是存有该资源的主机IP地址(有时也包括端口号)。    ③第三部分是主机资源的具体地址，如目录和文件名等# http协议：    https://www.cnblogs.com/kermitjam/p/10432198.html# robots协议:     https://www.cnblogs.com/kermitjam/articles/9692568.html# Request：　　用户将自己的信息通过浏览器（socket client）发送给服务器（socket server）# Response：　　服务器接收请求，分析用户发来的请求信息，然后返回数据（返回的数据中可能包含其他链接，如：图片，js，css等）# ps：　　浏览器在接收Response后，会解析其内容来显示给用户，而爬虫程序在模拟浏览器发送请求然后接收Response后，是要提取其中的有用数据。

Request

#1、请求方式：    常用的请求方式： 　　　　GET，POST 其他请求方式： 　　　　HEAD，PUT，DELETE，OPTHONS    ps：用浏览器演示get与post的区别，（用登录演示post）    post与get请求最终都会拼接成这种形式： 　　　　k1=xxx&k2=yyy&k3=zzz post请求的参数放在请求体内：       可用浏览器查看，存放于form data内 　　　　get请求的参数直接放在url后#2、请求url    url全称统一资源定位符，如一个网页文档，一张图片    一个视频等都可以用url唯一来确定    url编码:     　　https://www.baidu.com/s?wd=图片    　　图片会被编码（看示例代码）    网页的加载过程是：    　　加载一个网页，通常都是先加载document文档，在解析document文档的时候，遇到链接，则针对超链接发起下载图片的请求。#3、请求头    User-agent： 　　　　请求头中如果没有user-agent客户端配置，服务端可能将你当做一个非法用户。 　　　　    Cookies： 　　　　cookie用来保存登录信息。 　　 Referer: 　　　　浏览器上次访问的网页url

　　一般做爬虫都会加上请求头

#4、请求体    如果是get方式，请求体没有内容    如果是post方式，请求体是format data　　ps：    1、登录窗口，文件上传等，信息都会被附加到请求体内    2、登录，输入错误的用户名密码，然后提交，就可以看到post，正确登录后页面通常会跳转，无法捕捉到post 

 

 

 

 Response

# 1、响应状态:     200：代表成功    301：代表跳转    404：文件不存在    403：权限    502：服务器错误# 2、响应头: Respone header    set-cookie：可能有多个，是来告诉浏览器，把cookie保存下来。    # 3、网页源代码: preview    最主要的部分，包含了请求资源的内容,如网页html、图片和二进制数据等。

 

 

总结

# 1、总结爬虫流程：    爬取--->解析--->存储# 2、爬虫所需工具：    请求库：requests,selenium    解析库：正则，beautifulsoup，pyquery    存储库：文件，MySQL，Mongodb，Redis# 3、爬虫常用框架：    scrapy