欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

python网络爬虫入门(一)

程序员文章站 2022-05-08 17:41:21
...

第一次入门Python爬虫,用的工具是pycharm,写python的时候会用到很多包,例如requests…可通过file-setting-project interpreter中的+号进行下载并引用即可,软件就不会报错。
下面是写的一些python例子的模块:

#encoding=utf-8
import requests
from bs4 import BeautifulSoup

resp = requests.get('https://book.douban.com/top250?start=0')

soup = BeautifulSoup(resp.text, 'lxml')

# find_all()方法,
# 注意class是Python关键词,后面要加下划线_:
alldiv = soup.find_all('div', class_='pl2')
for a in alldiv:
    names = a.find('a')['title']
    print(names)


allp = soup.find_all('div', class_='star clearfix')
for p in allp:
    authors = p.select('span')[2].get_text()#选择p节点的第三个span元素,并获取span中的文字
    print(authors)

相关标签: Python 爬虫