如何用rvest包实现多网页数据的抓取？

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

如题。

万方数据库中，下翻页的网址和上一页完全相同，也就是一共有几千个相同网址的页面。那么如何用rvest包实现对这些网页中内容的抓取呢？

目前我只能抓到第一页的数据...sigh

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏1 回帖

关键词：Vest VES Est 如何用 万方数据库

cheshire_ 发表于 2019-10-25 18:19
如题。

万方数据库中，下翻页的网址和上一页完全相同，也就是一共有几千个相同网址的页面。那么如何用rv ...

发个网址看看

zhou1_20 发表于 2019-10-26 18:34
发个网址看看

比如搜“统计学”，出来的结果页面全是这个网址http://www.wanfangdata.com.cn/se ... 6&isTriggerTag=

cheshire_ 发表于 2019-10-27 08:29
比如搜“统计学”，出来的结果页面全是这个网址http://www.wanfangdata.com.cn/search/searchList.do?sea ...

1. url0 = 'http://www.wanfangdata.com.cn/search/searchList.do?searchType=all&showType=&pageSize=&searchWord=%E7%BB%9F%E8%AE%A1%E5%AD%A6&'
   
2. 
   
3. page = 3
   
4. 
   
5. url = paste0(url0,'page=',page)
   
6. 
   
7. web = read_html(url)
   
8. 
   
9. title = web %>% html_nodes('.ResultCont>.title')%>%html_text(trim = TRUE) %>%
   
10.   str_remove_all('\r|\t|\n') %>% str_extract('(?<=\\.).*')
    
11. title

复制代码

cheshire_ 发表于 2019-10-25 18:19
如题。

万方数据库中，下翻页的网址和上一页完全相同，也就是一共有几千个相同网址的页面。那么如何用rv ...

这已经是黑客行为了，不建议楼主深入挖下去。