在 h 标签之后查找 'p' 标签

myl*_*nid 5 python beautifulsoup web-scraping

我想找到从网页中提取标题和段落文本。问题是在具有相同标题标签和段落标签的标题之后有灵活数量的标题和段落。

示例 HTML -

<h6>PHYSICAL DESCRIPTION</h6>

<p>
    <strong class="offender">YOB:</strong> 1987<br />
    <strong class="offender">RACE:</strong> WHITE<br />
    <strong class="offender">GENDER:</strong> FEMALE<br />
    <strong class="offender">HEIGHT:</strong> 5'05''<br />
    <strong class="offender">WEIGHT:</strong> 118<br />
    <strong class="offender">EYE COLOR:</strong> GREEN<br />
    <strong class="offender">HAIR COLOR:</strong> BROWN<br />
</p>


<h6>SCARS, MARKS, TATTOOS</h6>
<p>     
  &nbsp;    
</p>
Run Code Online (Sandbox Code Playgroud)

我使用的代码如下 -

sub = soup.findAll('h6')
    print sub.text

sub = soup.findAll('p')
for strong_tag in sub.find_all('strong'):
    print strong_tag.text, strong_tag.next_sibling
Run Code Online (Sandbox Code Playgroud)

由于标头中不包含 p 标签,我不确定如何处理 HTML 以使其写入。

有没有一种方法可以将 HTML 视为文件并找到下一个 h6 标签,然后找到下一个 p 标签并一直这样做到最后?

Mar*_*ers 4

您可以在这里使用Tag.find_next_sibling()

for header in soup.find_all('h6'):
    para = header.find_next_sibling('p')
Run Code Online (Sandbox Code Playgroud)

.find_next_sibling()调用返回第一个 p标签,它是标头标签的下一个同级标签。

演示:

>>> for header in soup.find_all('h6'):
...     print header.text
...     para = header.find_next_sibling('p')
...     for strong_tag in para.find_all('strong'):
...         print strong_tag.text, strong_tag.next_sibling
...     print
... 
PHYSICAL DESCRIPTION
YOB:  1987
RACE:  WHITE
GENDER:  FEMALE
HEIGHT:  5'05''
WEIGHT:  118
EYE COLOR:  GREEN
HAIR COLOR:  BROWN

SCARS, MARKS, TATTOOS
Run Code Online (Sandbox Code Playgroud)

如果当前标题和下一个标题之间没有段落,这可能会找到错误的标签:<p>

<h6>Foo</h6>
<div>A div, not a p</div>

<h6>Bar</h6>
<p>This <i>is</i> a paragraph</p>
Run Code Online (Sandbox Code Playgroud)

在这种情况下,搜索 a<p> a<h6>标签:

for header in soup.find_all('h6'):
    next_sibling = header.find_next_sibling(['p', 'h6'])
    if next_sibling.name == 'h6':
        # no <p> tag between this header and the next, skip
        continue
Run Code Online (Sandbox Code Playgroud)

header.find_next_sibling(['p', 'h6'])调用将查找下一个段落下一个标题,以先到者为准。