content=urllib.o" />
python打开网页获取网页内容方法总结 |
您所在的位置:网站首页 › python获取浏览器内容 › python打开网页获取网页内容方法总结 |
在学习python爬虫的过程中,总会遇到要获取网页内容的时候,下面就对如何获取网页内容进行总结。 方法一: >import urllib >url="http://www.baidu.com" #这里是需要获取的网页 >content=urllib.open(url).read() #使用urllib模块获取网页内容 >print content #输出网页的内容 功能相当于查看网页源代码方法二: >import urllib2 >from bs4 import BeautifulSoup #这里需要导入BeautifulSoup >url="http://www.baidu.com" >content=urllib2.urlopen(url) >soup=BeautifulSoup(content) #将网页内容转化为BeautifulSoup 格式的数据 >print soup方法三: >import requests >content=requests.get(url).content >print content这里是使用的python的requests模块获取网页的内容。 方法四: >import codecs #导入codecs模块 >f=codecs.open(url,"r","utf-8") #使用codecs函数以打开的方式打开url 设置默认的编码方式为utf-8 >content=f.read() >f.close() >print content这里是使用的python的codecs模块。 推荐: BeautifulSoup的安装可以查看博客。 python中的模块安装及更新方法,可以查看博客(pip,easy_install)。 解决python中出现乱码问题,可以查看博客。 |
今日新闻 |
推荐新闻 |
CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |