【Python爬虫】120行代码爬取豆瓣电影，附源码_学习爬虫

学习爬虫，拿豆瓣电影进行练手，无奈豆瓣电影存在反爬机制，爬完250就会重定向要求我进行登陆操作，所以我这一次只爬取前50进行相关测试，废话不多说，我们来看下源代码：

import requests
from bs4 import BeautifulSoup
import re
import pandas
headers = {
'Host':'movie.douban.com'
'Origin':'movie.douban.com'
'User-Agent':'Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML like Gecko) Chrome/73.0.3683.103 Mobile Safari/537.36'

base_url = 'https://movie.douban.com/top250?start={&filter='
response = requests.get('https://movie.douban.com/top250?start=0&filter=' headers = headers)
if response.status_code == 200:
# print(response.text)
pass
pattern1 = re.compile('<div.*?class=\"item\">.*?<div.*?class=\"pic\">.*?<a.*?href=https://mparticle.uc.cn/"(.*?)\">' re.S) # 去掉所有换行符，并用正则表达式去匹配每一个页面的具体电影