tadashi000000

theme:

スクレイピング

summary:

PythonのBeautifulSoupを利用して食べログのラーメン屋情報をスクレイピング

points:

・Requestsのバージョンは2.18.4

・beautifulsoup4のバージョンは4.6.0

・それぞれAnaconda3 5.0.0に同梱されていたので改めてインストールはしない

・正規表現はコンパイルして高速化

flow:

・食べログの新宿のラーメン屋のリストページをベースにする

・リストページのリスト番号を順次requests.get

・リストページをパーシングして各店舗の情報ページURLをゲット

・各店舗の情報ページをパーシングして店名と営業時間情報を抽出

date:
reference:

Beautiful Soup Documentation

https://www.crummy.com/software/BeautifulSoup/bs4/doc/
Python:

import requests
from bs4 import BeautifulSoup
import re
class Tabelog:
	"""
	食べログスクレイピングクラス
	"""
	def __init__(self, base_url):
		self.__regexcomp = re.compile(r'\n|\s')
		counter = 1
		while True:
			list_url = base_url + str(counter) +  "/"
			if self.scrape_list(list_url) != True:
				break
			counter += 1
		return
	def scrape_list(self, list_url):
		"""
		一覧ページのパーシング
		"""
		r = requests.get(list_url)
		if r.status_code != requests.codes.ok:
			return False
		soup = BeautifulSoup(r.content, 'lxml')
		soup_a_list = soup.find_all("a", class_="list-rst__rst-name-target")
		if len(soup_a_list) == 0:
			return False
		for soup_a in soup_a_list:
			item_url = soup_a.get("href")
			self.scrape_item(item_url)
		return True
	def scrape_item(self, item_url):
		"""
		個別情報ページのパーシング
		"""
		r = requests.get(item_url)
		if r.status_code != requests.codes.ok:
			print(f"error:not found{item_url}")
			return
		soup = BeautifulSoup(r.content, 'lxml')
		soup_table = soup.find("table", class_="rstinfo-table__table")
		self.scrape_info(soup_table)
		return
	def scrape_info(self, soup_table):
		"""
		基本情報の抽出
		"""
		soup_tr_list = soup_table.find_all("tr")
		for soup_tr in soup_tr_list:
			if soup_tr.th.string in {"店名", "営業時間"}:
				item = self.__regexcomp.sub("", soup_tr.td.get_text())
				itemheader = "" if (soup_tr.th.string == "店名") else "\t"
				print(itemheader + item)
		return
Tabelog(base_url="https://tabelog.com/tokyo/A1304/A130401/rstLst/ramen/")
output:

麺匠竹虎(めんしょうたけとら)
	11:00~翌9:00日曜営業
すごい煮干ラーメン凪新宿ゴールデン街店本館(【旧店名】ラーメン凪煮干王)
	24時間営業日曜営業
煮干中華そば鈴蘭新宿店(すずらん)
	11:00~24:00(日曜日のみ11:00~23:00)日曜営業
東京豚骨拉麺ばんから新宿歌舞伎町店
	11:00~翌8:00日曜営業
麺匠竹虎新宿店
	11:00~翌朝9:00(L.O.翌朝8:30)
中国美食唐苑酒楼新宿本店(【旧店名】中華四大料理品珍楼)
	11:00~24:00(L.O.23:30)※ランチ11:00~16:00日曜営業
999新宿店(カオカオカオ)
	平日11:30~14:0017:30~24:00土・日曜日・祝日12:00~15:0017:00~24:00日曜営業
希望軒新宿3丁目店
	[日~木曜日]11時~23時30分[金・土・祝前日]11時~翌1時30分日曜営業
陳家私菜新宿店
	【平日】ランチ11:30~15:00(L.O.14:30)ディナー17:30~23:30(L.O.22:45)【土、日、祝日】ランチ11:30~15:00(L.O.14:30)ディナー17:30~21:30(L.O.21:00)貸切でのご利用は人数・ご予算ご相談下さい。日曜営業
陳麻家西新宿店(チンマーヤ)
	平日11:30~16:0017:00~23:30金・祝前日11:30~24:00土日祝11:30~23:00日曜営業
謝朋殿本店新宿110ビル店(シャホウデン)
	※2016年12月1日より下記営業時間とさせていただきます。【月~金】ランチ11:00~16:00(L.O15:30)ディナー17:00~23:00(L.O22:00)【土】11:00~23:00ランチ(L.O16:00)ディナー(L.O22:00)【日・祝】11:00~22:00ランチ(L.O16:00)ディナー(L.O21:00)日曜営業
味噌屋八郎商店新宿店
	11:00~23:00(ラストオーダー23:00)日曜営業
よってこや新宿南口店
	11:00~02:00(L.O.01:30)日曜営業
広州市場新宿東口店
	11:00~24:00(L.O23:45)日曜営業
桂花ラーメン新宿ふあんてん
	朝4:00~25:00日曜営業
広州市場西新宿店
	11:00~0:00日曜営業
夜来香新宿店(イエライシャン)
	ランチ11:30~14:00ディナー17:00~翌0:00(L.O.23:10)日曜営業
小次郎歌舞伎町店
	【月~日】11:00~翌4:00日曜営業
ローストビーフ油そばビースト
	11時~翌朝8時(L.O.7:30)日曜営業
昌平ラーメン成子坂店
	11:00~22:30(L.O.22:15)
昌平ラーメン新宿西口店
	[月~金]11:00~24:00[土・祝]11:00~23:30LOは閉店40分前まで
ダイナーファイブガロン新宿ゴールデン街2号店(Diner5GALLONS)
	18:00~翌5:00(L.O.翌4:30)日曜営業
東京油組総本店西新宿組(トウキョウアブラグミソウホンテン)
	月~土11:00~翌4:00日11:00~21:00日曜営業
焼きあご塩らー麺たかはし本店
	11:00~翌5:00(L.O5:00)無休(年末年始を除く)日曜営業
春日亭西新宿店
	月曜日~土曜日11:00~23:00日曜日・祝日11:00~22:00日曜営業
麺屋海神(めんやかいじん)
	[月~金]11:00~15:0016:30~23:30[土・祝]11:00~23:30[日・連休最終日]11:00~23:00日曜営業
すためし新宿西口1号店
	11:00~23:30日曜営業
味の初七丁目店
	11:00~15:0017:00~23:30(L.O.22:45)
日高屋西武新宿前店(ひだかや)
	24時間日曜営業
喜多方ラーメン蔵新宿南口店
	11:30~24:00日曜営業
百日紅(さるすべり)
	11:00~23:00日曜営業
おかゆと麺のお店粥餐庁京王モール店(カユサンチン)
	【モーニング)】7:00~10:00(月~金のみ)【月~金】11:00~23:00(L.O22:20)【土・日・祝】11:00~22:00日曜営業
煮干しらーめん玉五郎東京新宿店
	11:00~23:00日曜営業
麺処しゅう
	24時間営業日曜営業
風来居新宿店(ふうらいきょ)
	11:00~23:00スープが終わり次第終了いたします日曜営業
らーめん山頭火新宿南口店(さんとうか)
	11:00~23:30(L.O.23:00)日曜営業
大勝軒まるいち新宿東南口店
	11:00~03:00日曜営業
桂花ラーメン新宿西口店
	11:00~翌1:00日曜営業
東京味噌らーめん萬馬軒花橙歌舞伎町支店(【旧店名】辛味噌ラーメン松本)
	月~金11:30~15:00(lo)18:00~翌02:00(l.o)土18:00~翌02:00(l.o)
日高屋西新宿1丁目店
	24時間日曜営業
歌舞伎町麺’S倶楽部KING(かぶきちょうめんずくらぶきんぐ)
	19:00~翌12:00(L.O.翌11:00)
世界のなべけん
	21:00~翌8:00(L.O.翌7:00)
博多鶏ソバ華味鳥新宿三井ビル店(ハカタトリソバハナミドリ)
	月~土11:00~23:00(L.O.22:30)日11:00~15:00(L.O.14:30)【営業日変更のお知らせ】※2017/07/22~2017/08/31は土日祝は臨時休業とさせて頂きます。9月より通常営業致します。
壱角家新宿東南口店
	24時間日曜営業
利しり(りしり)
	18:30~翌5:00
麺くぼ田
	[月~土]11:30~15:0017:30~21:00※無くなり次第で終了
中華料理五十番
	11:30~21:00日曜営業
喜多方ラーメン坂内新宿パークタワー店
	11:00~23:00[土・日・祝]11:00~20:00日曜営業
二丁目つけめんガチ(二丁目つけめんGACHI)
	11:00~23:00(L.O.22:50)※祝日も営業。日曜営業
中国料理天華
	11:00~23:00(L.O.22:30)
横浜家系ラーメン横浜道新宿西口店
	
中華料理菜香菜新宿店
	24時間営業
風雲児(ふううんじ)
	11:00~15:0017:00~21:00※売り切れ次第終了
ラーメン二郎新宿歌舞伎町店
	[木~火]11:30~翌3:00日曜営業
新宿区役所お食事処けやき
	10:30~16:00
竹葉軒(チクヨウケン)
	11:30~14:5017:00~20:10
ラーメン龍の家新宿小滝橋通り店(RAMENTATSUNOYA)
	11:00~23:30(お並びいただく場合は23:00に受付終了)(2016.11.1現在)日曜営業
航海屋新宿店(こうかいや)
	[月~土・祝]11:00~翌1:00[日]11:00~21:00日曜営業
ひじり屋西新宿店
	[平日]11:30~翌1:00[土]11:30~23:00
らあめん満来(まんらい)
	11:00~23:00日曜営業
桂花ラーメン新宿東口駅前店(けいからーめん)
	[月~木・土]10:30~25:00(L・O)[金]10:30~翌朝4:00(L・O)[日]10:30~23:00日曜営業
名代富士そば西武新宿店
	24時間営業日曜営業
えびそば一幻新宿店
	11:00~23:00日曜営業
ミサト(misato)
	11:30~20:30
壱角家新宿中央東口店(イッカクヤ)
	24時間営業日曜営業
中国家庭料理楽亭
	
味一番!九州ラーメン博多っ子新宿店
	24時間営業※ランチ・タイム月~金11:00~14:00日曜営業
一竜西新宿店(イチリュウ)
	11:00~翌1:00日曜営業
博多天神一番街通り店(はかたてんじん)
	11:00~翌4:00日曜営業
天下一品歌舞伎町店(てんかいっぴん)
	[月~木]11:00~翌4:00[金・祝前]11:00~翌8:00[土]10:00~翌8:00[日・祝]10:00~翌2:00日曜営業
らあ麺やったる新宿店
	11:30~23:50(L.O)日曜営業
ラーメン王(らーめんおう)
	10:30~翌4:30
日高屋新宿3丁目店
	11:00~翌3:30
すごい煮干ラーメン凪西新宿七丁目店(【旧店名】ラーメン凪煮干王西新宿店)
	[月~土]11:00~23:00(L.O22:45)[日・祝]11:00~21:00(L.O20:45)※ラストオーダーは閉店時間15分前まで日曜営業
横浜家系壱角家新宿東口アルタ裏店
	24時間営業日曜営業
油そば総本店新宿中央東口店
	24時間営業日曜営業
老麺処圓(らーめんどこえん)
	[月~金]11:00~23:00[土・日・祝]11:00~22:00日曜営業
中華そばとん兵衛
	16:00~20:00
古武士
	11:00~23:00日曜営業
博多天神新宿東口店(はかたてんじん)
	[月~土]11:00~翌3:00[日・祝]11:00~20:00日曜営業
天下一品新宿西口店(てんかいっぴん)
	10:30~27:00日曜営業
三代目白兵衛
	【月~土】18:00~翌3:00(L.O)
麺家さざんか
	[月~金]11:00~15:3017:30~売切次第終了[土]11:30~15:30
製麺rabo
	[月~金]11:30~14:3018:00~21:30[土]11:30~14:30昼営業のみ。夜営業する場合もあり。要電話確認[祝日]昼営業のみ。夜営業する場合あり要電話確認
スモーキン・ブギ
	ランチタイム平日11:00~15:00夜は基本はライブハウスで、ライブが無い日はバー営業で朝5時まで。
ラー麺ずんどう屋新宿店
	【日月火水木】11:00AM~翌6:00AM【金土】24時間営業日曜営業
祥龍房刀削麺荘
	11:30~15:0017:30~01:00
日高屋新宿東口店
	10:30~翌3:30日曜営業
中華食堂一番館歌舞伎町店
	[月~土]24時間営業[日]~24:00(L.O.23:30)日曜営業
中華そば青葉新宿店(ちゅうかそば・あおば【旧店名】中華そば青葉新宿御苑店)
	[月~土]11:30~22:00LO[日・祝]11:30~22:00LO日曜営業
竃TOKYO(カマドトウキョウ)
	昼の部11:30~15:00ラストオーダー夜の部17:30~22:00ラストオーダー土曜・祝日は20:00ラストオーダー材料無くなり次第終了いたします。
壱角家新宿西口2号店(イッカクヤ)
	10:30~翌3:00日曜営業
俺の麺春道(オレノメンハルミチ)
	11:30~23:00日曜営業
大勝軒まるいち新宿店(タイショウケンマルイチ)
	10:00~23:00日曜営業
ラーメン二郎小滝橋通り店
	[月~土]11:00~25:00[日・祝]11:00~22:00月が祝日の場合は日曜25:00まで日曜営業
屯ちん新宿店(とんちん)
	11:00~翌4:00日曜営業
らーめん丸王
	[平日]11:00~23:00[土・日・祝]11:00~22:00
らぁめんほりうち
	[月~金]11:00~21:00(L.0)[土]11:00~20:00(L.0)
桂花ラーメン新宿末広店(けいからーめん)
	[月~木・土]11:00~23:15(L.O)[金]11:00~翌3:30(L.O)[日]11:00~22:00(L.O)日曜営業
萬馬軒
	[日]定休日[月~土]11:30~24:00
つけそば黒門(つけそば・くろもん)
	11::00~23:30日曜営業
どんどん西新宿本店
	24時間営業日曜営業
ラーメンスズキ
	[月~金]11:00~20:30[土曜日]11:00~14:00
肉そば家笑梟(ふくろう)
	月~金11:30~15:0018:00~23:00(スープなくなり次第終了)土・祝日11:30~15:0018:00~22:00(スープなくなり次第終了)日11:30~15:00(スープなくなり次第終了)
ラーメン餃子館小次郎新宿店
	11:00~翌4:00日曜営業
博多風龍西武新宿店
	[月~土]11:00~翌3:00[日]11:00~20:00※但し、翌日が祝日/代替休日の場合、翌3:00まで日曜営業
荒海(あらうみ)
	[月~土]11:00~翌3:00[日・祝]11:00~21:00休憩時間なしの通し営業なのでアイドルタイム(15:00~17:00)が空いていて便利です。日曜営業
まるしん本店
	11:00~翌3:00日曜営業
光麺新宿南口店(コウメン)
	11:00~翌5:00日曜営業
福助
	10:30~15:0017:00~20:00
台南担仔麺新宿店(タイナンターミー)
	[月~金]11:30~14:00/17:00~翌2:00[土・祝]12:00~翌2:00[日]12:00~24:00日曜営業
東京都保険医療公社大久保病院食堂
	10:00~16:00
ラーメン天華
	11:00~22:30
麺食い慎太郎
	[月~金]11:00~21:00(麺がなくなり次第閉店)[土]11:00~16:00
太陽のトマト麺Next新宿ミロード店
	11:00~23:00日曜営業
皇雅(コウガ)
	[月~金]11:00~21:00[土・日・祝]11:00~15:00※土・日・祝日で都合により休業する場合がありますのでお問い合わせください。
博多風龍新宿東口店
	11:00~翌3:00
ティーヌンキッチン西新宿店
	11:00~15:00(L.O.14:30)17:00~23:30(L.O.23:00)
日乃屋カレー東新宿店
	11時~22時
山田屋
	[月~金]11:00~15:0017:00~21:00[土]11:00~15:0017:00~20:00
わ蔵新宿店
	24時間営業日曜営業
太陽のトマト麺新宿東宝ビル店
	[日~木]11:00~23:00(L.O.22:30)[金・土]11:00~29:30(L.O.29:00)[平日ランチ]11:00~17:00日曜営業
一風堂新宿アイランドタワー店
	11:00~23:00(L.O.22:30)日曜営業
油そば総本店新宿東口アルタ裏店
	24時間営業日曜営業
新宿わんたん麺
	[水~日]6:00~お昼すぎ(閉店時間は曖昧)※6時前はBAR6時以降もお酒はOK。日曜営業
味噌蔵
	11:30~15:0017:30~20:30日曜営業
めん屋桔梗新宿店(ききょう)
	24時間営業日曜営業
西安餃子新宿センタービル店(シーアンギョウザ)
	[月~金]11:30~15:30(L.O.15:00)17:30~23:00(L.O.22:00)[土]11:30~15:30(L.O.15:00)17:00~22:00(L.O.21:00)
壱角家西新宿本店(イッカクヤ)
	24時間営業日曜営業
喜多方ラーメン坂内歌舞伎町店
	11:00~23:30日曜営業
はな火屋(はなびや)
	月~金11:00~23:00土祝11:00~21:00
徳川膳武
	昼11:30~15:00夜18:00~22:00(スープなくなり次第終了)
蒙古タンメン中本新宿店(もうこたんめんなかもと)
	11:00~24:00
どうとんぼり神座新宿店(どうとんぼりかむくら)
	24時間※月曜日8:00~11:00はメンテナンスのため閉店日曜営業
俺の空新宿店
	11:00~22:30日曜営業
壱角家西新宿店(イッカクヤ)
	月-金11:00~3:30土日祝11:00~23:45日曜営業
クルンテープミッドナイト
	[月~木]11:30~15:0017:00~翌2:00[金・土・日]11:30~15:0017:00~翌5:00日曜営業
無敵家(むてきや)
	[平日]11:00~22:00[日祝]11:00~20:00日曜営業
味八
	日曜営業
日高屋西武新宿前北店
	24時間営業日曜営業
AFURI新宿店(アフリ)
	11:00~22:00
舎鈴新宿西口店(シャリン)
	11:00~23:00(L.O.22:45)日曜営業
氣華(きっか)
	24時間営業日曜営業
東京みよし新宿店
	11:00~翌5:00日曜営業
中華食堂一番館西武新宿駅前店
	24時間営業日曜営業
万世麺店新宿西口店(【旧店名:万世パーコーメン】)
	10:30~22:00日曜営業
十味や(とおみや)
	[月~土]11:00~23:00(LO)[日]11:00~22:00(LO)日曜営業
ソルナムヤ勝龍らーめん
	11:30~25:00
永楽
	[火~日]11:00~15:0017:00~20:00日曜営業
札幌本舗
	[月~金]11:00~21:20(L.O.21:00)[土]11:00~20:30(L.O.22:00)[祝]11:00~19:30(L.O.19:00)
丁香(ティンシャン)
	[月~土]11:00~14:3017:00~19:30
日高屋新宿中央店
	[月~金]10:30~翌4:00[土・日]10:00~翌4:00日曜営業
貴太郎新宿本店(きたろう)
	11:00~24:00日曜営業
らーめん北の大地
	11:00~23:00日曜営業
元祖札幌や新宿2丁目((新宿2丁目))
	[月~木]18:00~翌02:00[金、土]18:00~翌04:00
三田製麺所新宿西口店(つけ麺専門店)
	10:00~翌2:00日曜営業
元祖札幌や新宿野村ビル店(がんそさっぽろや)
	月~金11:00~22:30(L.O.22:00)
壱角家新宿3丁目店(イッカクヤ)
	24時間営業日曜営業
直久新宿西口店
	月~金11:00~22:30(LO22:00)土11:00~22:00(LO21:30)日祝11:00~21:00(LO20:30)日曜営業
登喜和
	11:00~15:0017:30~20:30
ぼり・うむ西早稲田本店
	[月~金]11:30~15:3018:00~22:00[土]11:30~13:00[日祝]11:30~15:30注)営業時間は、変わることもあるようですので、店主ブログにて最新情報を確認して下さい。日曜営業
とんこつらーめんだるまのめ西武新宿駅前店
	11:00~23:30日曜営業
自家製麺製麺王
	
とんこつらぁ麺翔
	[月~土]11:00~23:00[日・祝]11:00~23:00日曜営業
もり平
	[月~木]17:30~22:00ランチ営業有り[金・土]17:30~24:00
坂内新宿西口思い出横丁店
	10:00~23:30日曜営業
福しん新宿ペペ前店(フクシン)
	11:00~翌2:00日曜営業
濃麻呂新宿歌舞伎町店(コクマロ)
	11:30~15:00/18:00~翌1:00日曜営業
札幌ラーメン大富
	11:00~21:00
食樂家光樂
	
麺屋翔
	[平日]11:00~15:0018:00~23:00[土・日・祝]11:00~15:0017:00~21:00※スープ切れ次第閉店日曜営業
若月(わかつき)
	11:00~翌1:00
しじみらーめん
	[火~日]朝の部7:00~16:00(火曜日は11:00~)夜の部18:00~翌7:00日曜営業
新高揚(しんこうよう)
	ランチタイム11:00~15:30ディナータイム17:00~23:00(平日)17:00~21:00(土・祝日)
味七歌舞伎町店
	18:00~翌4:30(L.O.)
麺屋武蔵新宿本店(めんやむさし)
	11:00~22:30(L.O.22:30)日曜営業
一風堂ルミネエスト新宿店
	11:00~23:00(L.O.22:30)
光来(こうらい)
	11:00~15:0016:30~21:00
博多天神新宿東口駅前店
	11:00~翌4:00日曜営業
つけ麺屋やすべえ新宿店
	[月~土]11:00~翌3:00[日]11:00~21:00日曜営業
壱○壱
	11:30~14:30
日高屋新宿靖国通店
	24時間日曜営業
岐阜屋(ギフヤ)
	[月~水・日]9:00~翌1:00[木~土]9:00~翌2:00日曜営業
華菜樓ルミネ新宿店(カサイロウ)
	11:00~23:00日曜営業
一蘭新宿中央東口店
	24時間営業日曜営業
博多天神新宿西口店(はかたてんじん)
	11:00~翌3:00日曜営業
町田家新宿南口店(まちだや)
	[月~土]11:00~22:00[日・祝]11:00~20:00日曜営業
一竜西武新宿駅前店
	営業時間:11:00~23:30全25席カウンター席:15席、テーブル席:6名席1卓、4名席1卓※終日全席喫煙
北京(ペキン)
	11:30~翌6:00日曜営業
豚村
	[月~金]11:30~14:30[土]12:00~17:00
東京らーめんてん(とうきょうらーめんてん)
	11:30~15:0017:30~翌1:00(L.O.翌0:30)日曜営業
品川製麺所新宿2丁目店
	24時間営業日曜営業
壱角家新宿5丁目店(イッカクヤ)
	10:30~翌7:00日曜営業
一蘭新宿歌舞伎町店
	10:00~翌6:00日曜営業
麺創玄古(げんこ)
	11:00~21:00
すごい煮干ラーメン凪新宿ゴールデン街店別館(【旧店名】ラーメン凪豚王)
	24時間営業日曜営業
福しん新宿小滝橋店
	11:00~翌02:00[土・日・祝]11:00~夜23:00日曜営業
麺屋勝道
	11:00~23:30(23:00L.O.)