Python利用百度地图爬取商家信息
程序员文章站
2022-12-04 21:08:56
import requestsimport jsonimport pandas as pddef request_hospital_data(): ak="换成自己的 AK" # 换成自己的 AK,需要申请 ct = ('衢州','宁波','台州','温州','丽水','杭州','湖州','金华') keywords=('粥') url = ["http://api.map.baidu.com/place/v2/search?query="+keywords+"&am...
import requests import json import pandas as pd def request_hospital_data(): ak="换成自己的 AK" # 换成自己的 AK,需要申请 ct = ('衢州','宁波','台州','温州','丽水','杭州','湖州','金华') keywords=('粥') url = ["http://api.map.baidu.com/place/v2/search?query="+keywords+"&page_size=20&scope=1®ion=" + cs + "&output=json&ak=" + ak for cs in ct] params = {'page_num':0} # 请求参数,页码 for url1 in url: #print(url1) request = requests.get(url1,params=params) #print(request)# 请求数据 total = json.loads(request.text)['total'] # 数据的总条数 #print(total) total_page_num = (total+19) // 20 # 每个页面大小是20,计算总页码 items = [] # 存放所有的记录,每一条记录是一个元素 for i in range(total_page_num): params['page_num'] = i request = requests.get(url1,params=params) for item in json.loads(request.text)['results']: if "telephone" in item: name = item['name'] telephone = item.get('telephone', '') province = item['province'] city = item['city'] area = item['area'] address = item['address'] #print(name,telephone,province,city,area,address) new_item = (name,telephone,province,city,area,address) #print(new_item) items.append(new_item) #使用pandas的DataFrame对象保存二维数组 df = pd.DataFrame(items, columns=['name','telephone','province','city','area','address']) print(df) #df.drop_duplicates(inplace=True) df.to_csv('粥1.csv', index=False,encoding='',mode='a')request_hospital_data()
本文地址:https://blog.csdn.net/weixin_45206990/article/details/108251724
上一篇: 街头巷尾的雷人糗事乐翻天
推荐阅读
-
神箭手云爬虫-爬取携程【国际】航班/机票信息-利用python解析返回的json文件将信息存储进Mysql数据库
-
【python】淘宝利用cookies登录,爬取商品信息
-
Python利用百度地图爬取商家信息
-
python利用requests模块,实现爬取电影天堂最新电影信息。
-
python--输入检索词自动爬取百度搜索页标题信息
-
利用python实现简单的爬虫,爬百度文库相关词条信息
-
Python如何利用正则表达式爬取网页信息及图片
-
Python利用多线程来爬取网页信息的功能
-
python利用requests模块,实现爬取电影天堂最新电影信息。
-
Python爬虫小白入门经典之爬取动态网页高德地图信息