python 爬虫 一键爬取携程旅游团数据 |
您所在的位置:网站首页 › 携程旅行评价语 › python 爬虫 一键爬取携程旅游团数据 |
python 爬虫 一键爬取携程旅游团数据
前言
最近我的好朋友在做期末大作业,需要分析疫情前后对旅游行业的影响。于是,就求助我,想让我帮忙趴取一下携程旅游团的评价数据,包括评价时间、评价内容、评分这三条数据。 源码已上传到GitHub,有需要的伙伴自取:源码地址,如果有帮到你,不要忘记给个小⭐⭐ 网站分析 第一步 查看首页数据格式首先我们打开协程网站,随便搜一个地点,这里我以重庆为例: 地址:https://vacations.ctrip.com/list/whole/d-chongqing-158.html?from=do&startcity=2 大概就是这么个页面形式,为了减少工作量的同时,获取到更多的数据,我们采用销量优先的筛选模式,对这些参团游进行重新排序。 我们可以看到,排名前几名的都有非常可观的评价数,这里我们就取排名前4的旅游团 我们在当前页面按F12 进入开发者模式,看看当前呈现在我们面前的数据的原貌是什么 这里需要注意一点,进入开发者模式后,我们需要先点击另一个排序模式,再点回销量优先: 这样做的原因就是单纯的刷新页面,由于有些数据之前已经加载过了,就不会再进行请求了。 对了,在进行第二次点击时,注意点击clear (就在红点旁边),清除一下 这次,我们来看看加载了哪些数据: 这里我们先选择XHR进行筛选,过滤掉图片、js、css等文件。 这么多请求,哪个是我们需要的呢?最好的办法呢,就是一个一个看! 这里我就不给大家演示了,就直接用红色框标出来我们需要的 我们将右边的json数据的进行展开,会发现,在products这个里面,就是我们需要的数据: 这里我把products种的第一个数据赋值过来大家看看: { "id":1020423035, "name":"重庆4日自由行·【爆红名宿&网红拍照圣地】精选民宿·套房任选丨全家出动·渝见你的温馨时光丨走步道·坐索道·看轻轨·赏夜景·吃火锅·不一样的旅行", "type":1, "typeName":"自由行", "level":0, "price":0, "departureCityId":2, "saleMode":"S", "brandName":"携程自营", "saleCount":0, "commentCount":44, "commentScore":4.6, "buType":"GT", "saleout":false, "hotelName":"滨之星商务度假公寓(重庆解放碑店) 重庆斯维登服务公寓(解放碑协信公馆) 重庆两江公馆服务公寓(解放碑大唐诺亚店) 重庆渝佳酒店公寓解放碑日月光店 重庆斯维登服务公寓(解放碑大唐诺亚) 重庆大唐诺亚服务公寓 重庆云尚轻奢酒店公寓 重庆解放碑日月光云菲度假公寓 重庆一瓦涧精品民宿酒店 coco北欧小居住宿(重庆解放碑店) 久栖·重庆日月光酒店公寓解放碑店", "hotelStar":0, "hotelStarLicence":0, "hotelCustomEval":0, "correlationScore":0 }经过英文提示和数据的对比,我们获取我们需要的信息 id:每个旅行项目的编号 saleMode:销售模式,S 表示self 猜测是自营的意思至于多少人购买,总和评分这些我们不需要,在这里就不说了 找到我们要请求接口了,我们看看需要提交哪些数据吧: {"contentType":"json","head":{"cid":"09031160411534832517","ctok":"","cver":"1.0","lang":"01","sid":"8888","syscode":"09","auth":"","extension":[]},"version":"80400","client":{"trace":"none","device":"PC","source":"NVacationSearchV2","variables":[{"key":"SHXVERSION","value":"B"}],"cid":"1590973576257.dfu8z"},"poiType":{"poid":158,"type":"D","keyword":"重庆"},"filtered":{"sort":2,"channel":"Online","tab":"A126","saleCity":2,"startCity":2,"pageSize":30,"pageIndex":1,"items":[]},"returnType":{"type":"all","filters":"ProductNewLine,ProductLine,HotDestination,HotScenicSpot,SaleDepartureStat,TravelDays,DepartureDate,Month,ProductPattern,ProductLevel,ADSuitPersons,ProductDistrict,ProviderBrand,PriceRange,Promotion,OnSale","recommendProduct":true}}这就是一个json形式的数据,然后我们看一下请求地址:https://vacations.ctrip.com/list/restapi/gateway/13561/search?_fxpcqlniredt=09031160411534832517 我们只需要构造请求数据,然后发送到请求地址就可以获取我们想要的数据啦,接着往下看吧 第二步 查看详细页数据格式前面我们获取了首页的数据,接下来面临一个问题:我们如何通过主页进入到详情页呢? 通常我们都是先在html数据页面获取每个旅行项目详情页的链接,但是,这个项目并不直接给你提供这样的链接,而是通过js进行自行组装(我猜测的)。先不管了,我们先点击看看链接形式是什么样的 地址链接:https://vacations.ctrip.com/tour/detail/p1020423035s2.html 我们再点击第二个旅游项目的详情页: 链接地址:https://vacations.ctrip.com/tour/detail/p2563522s2.html 我们再拿出来前面我们获取的第一个旅游项目的id编号:1020423035 这下我们能够发现,这两个链接只有中间数字上的不同,而且,我们这中间的数字不是别的,就像该旅行项目的id编号。 我们有了详情页的地址,那么获取详情页的数据岂不是轻而易举? NO NO NO !!! 事情没那么简单,这里我不带大家验证了,直接告诉大家,用户评价的数据是通过js后续请求加载进来的,直接通过请求htm地址页面,无法获取,除非你使用一些其他高级的手段,比如使用selenium工具包进行真实浏览器访问。扯远了 ,我们接下来还是通过F12控制台寻找数据 老样子,XHR 筛选数据,通过一个一个查找以及英文提示,我们很快的就能找到我们所需要的数据: { "commentId":13705053, "originalId":0, "userId":"300****168", "userInfo":{ "displayName":"300****168", "avatarUrl":"https://dimg04.c-ctrip.com/images/t1/headphoto/646/318/109/a865fe5f5465407d8befd5dc487a8554.jpg", "curLevelCode":"10", "curLevelName":"黄金贵宾" }, "content":"难忘的一次旅行,走了几个经典路线,喜欢上重庆这座城市!重庆独特的城市文化,令人震撼的自然景观,都给我留下了 |
今日新闻 |
推荐新闻 |
CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |