必需的模块
在BeautifulSoup从类bs4将处理网页的解析。该datetime模块提供日期操作。Tinydb为NoSQL数据库提供API,该urllib3模块用于发出http请求。最后,xlsxwriterAPI用于创建Excel电子表格。
craigslist.py在文本编辑器中打开并添加必要的import语句:

添加全局变量
在import语句之后,添加全局变量和配置选项:

url存储要抓取的网页的URL,并total_added用于跟踪添加到数据库的结果总数。该urllib3.disable_warnings()函数忽略任何SSL证书警告。


雷达卡


京公网安备 11010802022788号







