| 所在主题: | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| 文件名: 示例数据(免费) | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| 资料下载链接地址: https://bbs.pinggu.org/a-3422201.html | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| 附件大小: | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
更新!(推荐)之前给大家分享了土地交易的数据 275万土地交易数据(2000-2021) 和详细的爬虫代码,今天给大家带来它的姊妹篇,2000-2021土地转让数据。
数据名称:2000-2021土地转让数据 爬虫软件:Stata 16 来源:中国土地市场网 网址:https://www.landchina.com/ 截止日期:2021年3月1日 观测值:81万+ 变量个数:32(详见后文) 数据特色:添加了经纬度(根据百度地图API)、添加了所在省份、所在城市和所在区县 爬了20来天,终于搞定了!这个数据虽然比不上上次土地交易数据的275万多,但81万也是非常多的。我不得不再一次强调Stata的爬虫能力,curl 还是非常好用的,特别是对付 post 请求。这里爬取的过程中也会有很多难点,比如:网站只提供前 200 页,如何爬取完整的数据呢?单一的 cookie 爬取太多页以后会触动反爬,又要如何应对呢?大量数据的爬取可能由于网络等原因,导致个别数据有问题,检查和补充完整则非常重要,我看到很多人处理的数据很不够精细,包括一些数据库,所以会了方法以后,还要有一颗细致的心和艺术的情怀。艺术的情怀?对,很多代码是需要想象力和创造力的。不太熟悉 curl 的小伙伴建议先百度找一下相关内容简单学习一下。在代码中,我也是加了非常多的注释便于大家理解。当然,并不是所有小伙伴都对爬虫代码感兴趣,如果向直接获取数据也是可以的!为了让大家更好地了解数据,在附件中提供了示例数据(根据总观测值抽样不到3%,大概又2万+观测值),大家可以免费下载查阅。 具体文件说明如下(完整的附件包含如下内容,如果只需要数据,则只包含2): 数据:2000-2021中国土地转让数据 来源:中国土地市场网 网址:https://www.landchina.com/ 截止日期:2021年3月1日 观测值:81万+ 文件说明: 1.Chinaland2_2021文件夹中的子文件夹均为爬取过程生成的文件夹 2.最终数据:2000-2021土地转让最终数据(含经纬度).dta 3.爬虫代码 (1)土地转让(链接爬取).do——爬取第一层数据代码(主要为了获取每条信息的网址链接) (2)土地转让(明细爬取).do——爬取第二层数据代码(明细数据) 各年观测值数量(2021年的数据截止到3月1日):
包含变量说明:
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
熟悉论坛请点击新手指南
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| 下载说明 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
1、论坛支持迅雷和网际快车等p2p多线程软件下载,请在上面选择下载通道单击右健下载即可。 2、论坛会定期自动批量更新下载地址,所以请不要浪费时间盗链论坛资源,盗链地址会很快失效。 3、本站为非盈利性质的学术交流网站,鼓励和保护原创作品,拒绝未经版权人许可的上传行为。本站如接到版权人发出的合格侵权通知,将积极的采取必要措施;同时,本站也将在技术手段和能力范围内,履行版权保护的注意义务。 (如有侵权,欢迎举报) |
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
京ICP备16021002号-2 京B2-20170662号
京公网安备 11010802022788号
论坛法律顾问:王进律师
知识产权保护声明
免责及隐私声明