Python在HTML内提取元素

您所在的位置:网站首页 python获取字符串中特定内容 Python在HTML内提取元素

Python在HTML内提取元素

2024-07-08 07:17| 来源: 网络整理| 查看: 265

使用Beautiful Soup 提取HTML里面的内容 (1)基本用法(2)提取HTML里面的内容1)获取名称2)获取属性3)获取内容4)嵌套选择5)关联选择(Ⅰ)子节点和子孙节点(Ⅱ)父节点和祖先节点(Ⅲ)兄弟节点 6)方法选择器7)CSS选择器8)总结:

Beautiful Soup:简单来说,Beautiful Soup就是Python的一个HTML或XML的解析库,可以用它来方便地从网页中提取数据。Beautiful Soup在解析时实际上依赖解析器,它除了支持Python标准库中的HTML解析器外,还支持一些第三方解析器(比如lxml)。下面是一些常见的解析器: 在这里插入图片描述 ** 通过以上对比可以看出,lxml解析器有解析HTML和XML的功能,而且速度快,容错能力强,所以推荐使用它。**

(1)基本用法 from bs4 import BeautifulSoup html = """ The Dormouse's story

Once upon a time there were three little sisters; and their names were , Lacie and Tillie; and they lived at the bottom of a well.

...

""" soup = BeautifulSoup(html, 'lxml') #print(soup) print(soup.prettify()) # 使用prettify()格式化显示输出

运行结果如下:

The Dormouse's story Once upon a time there were three little sisters; and their names were Elsie Lacie and Tillie and they lived at the bottom of a well. ... 得到一个BeautifulSoup对象后,一般通过BeautifulSoup类的基本元素来提取html中的内容:

在这里插入图片描述

(2)提取HTML里面的内容 1)获取名称

可以利用name属性获取节点的名称。这里还是以上面的文本为例,选取title节点,然后调用name属性就可以得到节点名称:

print(soup.title) print(type(soup.title)) print(soup.title.name) #获取title的名字 print(soup.title.string) #获取title字符串里面的内容 print(soup.title.get_text()) #获取title字符串里面的内容

对应结果如下:

The Dormouse's story title The Dormouse's story The Dormouse's story

首先打印输出title节点的选择结果,输出结果正是title节点加里面的文字内容。接下来,输出它的类型,是bs4.element.Tag类型,这是Beautiful Soup中一个重要的数据结构。经过选择器选择后,选择结果都是这种Tag类型。Tag具有一些属性,比如string属性,调用该属性,可以得到节点的文本内容,所以接下来的输出结果正是节点的文本内容。 当有多个节点时,这种选择方式只会选择到第一个匹配的节点,其他的后面节点都会忽略。

print(soup.p)

结果如下:

The Dormouse's story

我们发现结果是第一个p节点的内容,后面的几个p节点并没有选到。

2)获取属性

每个节点可能有多个属性,比如id和class等,选择这个节点元素后,可以调用attrs获取所有属性:

print(soup.p) print(soup.p.attrs) print(soup.p.attrs["name"])

结果如下:

The Dormouse's story {'class': ['title'], 'name': 'dromouse'} dromouse

可以看到,attrs的返回结果是字典形式,它把选择的节点的所有属性和属性值组合成一个字典。接下来,如果要获取name属性,就相当于从字典中获取某个键值,只需要用中括号加属性名就可以了。比如,要获取name属性,就可以通过attrs['name']来得到。

3)获取内容

可以利用string属性或get_text()获取节点元素包含的文本内容,比如要获取第一个p节点的文本:

print(soup.p) print(soup.p.string) print(soup.p.get_text())

结果如下:

The Dormouse's story The Dormouse's story The Dormouse's story 4)嵌套选择

在上面的例子中,我们知道每一个返回结果都是bs4.element.Tag类型,它同样可以继续调用节点进行下一步的选择。比如,我们获取了head节点元素,我们可以继续调用head来选取其内部的title节点元素:

print(soup.head.title) print(type(soup.head.title)) print(soup.head.title.string)

运行结果如下:

The Dormouse's story The Dormouse's story

第一行结果是调用head之后再次调用title而选择的title节点元素。然后打印输出了它的类型,可以看到,它仍然是bs4.element.Tag类型。也就是说,我们在Tag类型的基础上再次选择得到的依然还是Tag类型,每次返回的结果都相同,所以这样就可以做嵌套选择了。(判断是否是bs4.element.Tag类型:if isinstance(soup,bs4.element.Tag))。

5)关联选择

在做选择的时候,有时候不能做到一步就选到想要的节点元素,需要先选中某一个节点元素,然后以它为基准再选择它的子节点、父节点、兄弟节点等,这里就来介绍如何选择这些节点元素。

(Ⅰ)子节点和子孙节点

选取节点元素之后,如果想要获取它的直接子节点,可以调用contents属性,示例如下:

print(soup.p.contents)

运行结果如下:

['\n Once upon a time there were three little sisters; and their names were\n ', Elsie , '\n', Lacie, ' \n and\n ', Tillie, '\n and they lived at the bottom of a well.\n ']

可以看到,返回结果是列表形式。p节点里既包含文本,又包含节点,最后会将它们以列表形式统一返回。

需要注意的是,列表中的每个元素都是p节点的直接子节点。比如第一个a节点里面包含一层span节点,这相当于孙子节点了,但是返回结果并没有单独把span节点选出来。所以说,contents属性得到的结果是直接子节点的列表。

同样,我们可以调用children属性得到相应的结果:

for i, child in enumerate(soup.p.children): print(i, child)

运行结果如下:

0 Once upon a time there were three little sisters; and their names were 1 Elsie 2 3 Lacie 4 and 5 Tillie 6 and they lived at the bottom of a well. (Ⅱ)父节点和祖先节点

如果要获取某个节点元素的父节点,可以调用parent属性:

soup = BeautifulSoup(html, 'lxml') print(soup.a.parent)

运行结果如下:

Once upon a time there were three little sisters; and their names were , Lacie and Tillie; and they lived at the bottom of a well.

这里我们选择的是第一个a节点的父节点元素。很明显,它的父节点是p节点,输出结果便是p节点及其内部的内容。

需要注意的是,这里输出的仅仅是a节点的直接父节点,而没有再向外寻找父节点的祖先节点。如果想获取所有的祖先节点,可以调用parents属性。

(Ⅲ)兄弟节点

可以用next_sibling和previous_sibling分别获取节点的下一个和上一个兄弟元素,next_siblings和previous_siblings则分别返回所有前面和后面的兄弟节点的生成器。

6)方法选择器

Beautiful Soup还为我们提供了一些查询方法,比如find_all()和find()等,调用它们,然后传入相应的参数,就可以灵活查询了。

'''它的API如下:''' find_all(name , attrs , recursive , text , **kwargs)

调用了find_all()方法,传入name , attrs , recursive , text , **kwargs参数,返回结果是列表类型,每个元素依然如果都是bs4.element.Tag类型,所以依然可以进行嵌套查询。 例如:

html=''' Hello Foo Bar Jay Foo Bar ''' from bs4 import BeautifulSoup soup = BeautifulSoup(html, 'lxml') for ul in soup.find_all(name='ul'): print(ul.find_all(name='li'))

运行结果如下:

[Foo, Bar, Jay] [Foo, Bar]

返回结果是列表类型,列表中的每个元素依然还是Tag类型。接下来,就可以遍历每个li,获取它的文本了:

除了find_all()方法,还有find()方法,只不过后者返回的是单个元素,也就是第一个匹配的元素,而前者返回的是所有匹配的元素组成的列表。find()返回结果不再是列表形式,而是第一个匹配的节点元素,类型依然是Tag类型。

7)CSS选择器

使用CSS选择器时,只需要调用select()方法,传入相应的CSS选择器即可,示例如下:

html=''' Hello Foo Bar Jay Foo Bar ''' from bs4 import BeautifulSoup soup = BeautifulSoup(html, 'lxml') print(soup.select('.panel .panel-heading')) print(soup.select('ul li')) print(soup.select('#list-2 .element')) print(type(soup.select('ul')[0]))

运行结果如下:

[ Hello ] [Foo, Bar, Jay, Foo, Bar] [Foo, Bar]

这里我们用了3次CSS选择器,返回的结果均是符合CSS选择器的节点组成的列表。例如,select('ul li')则是选择所有ul节点下面的所有li节点,结果便是所有的li节点组成的列表。

最后一句打印输出了列表中元素的类型。可以看到,类型依然是Tag类型。

嵌套选择 select()方法同样支持嵌套选择。例如,先选择所有ul节点,再遍历每个ul节点,选择其li节点,样例如下:

from bs4 import BeautifulSoup soup = BeautifulSoup(html, 'lxml') for ul in soup.select('ul'): print(ul.select('li'))

运行结果如下:

[Foo, Bar, Jay] [Foo, Bar]

可以看到,这里正常输出了所有ul节点下所有li节点组成的列表。

8)总结:

① 到此,Beautiful Soup的用法基本就介绍完了,最后做一下简单的总结。 ② 推荐使用lxml解析库,必要时使用html.parser。 ③ 节点选择筛选功能弱但是速度快。 ④ 建议使用find()或者find_all()查询匹配单个结果或者多个结果。 ⑤ 如果对CSS选择器熟悉的话,可以使用select()方法选择。



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3