完整程序教你怎样利用SAS抓取网页内容
发布:chenjieren | 分类:SAS软件培训
关于本站
人大经济论坛-经管之家:分享大学、考研、论文、会计、留学、数据、经济学、金融学、管理学、统计学、博弈论、统计年鉴、行业分析包括等相关资源。
经管之家是国内活跃的在线教育咨询平台!
CDA数据分析师证书
谁适合考CDA证书?年龄18-40周岁,专业是计算机、工商管理、统计学、管理科学类,学历本科及以上,行业是金融、信息技术、电信等,岗位是数据、产品、运营等。
TOP热门关键词
背景:搜索引擎对网站的收录,会影响到网站SEO,而目前没找到什么好的工具来统计被收录的情况,也不会其他程序来写爬出,将就着用sas来写(实在大材小用了)。提取的主要字段:-URL---页面Title---收录更新时间---排 ...
免费学术公开课,扫码加入 |
搜索引擎对网站的收录,会影响到网站SEO,而目前没找到什么好的工具来统计被收录的情况,也不会其他程序来写爬出,将就着用sas来写(实在大材小用了)。
提取的主要字段:
-URL---页面Title---收录更新时间---排列顺序---URL分类-
下面是代码(后面一部分可直接忽略):
*========================================================================
百度收录情况统计:
1.根据百度搜索结果源代码,提取其中搜索结果;
2.再统计相关页面的收录情况,及新增和删除页面情况;
3.再以文本文件形式发邮件。
-创建时间---创建人--------------
2011-08-25****
-更新时间---更新人---说明-----
2011-09-14**** 页面类型处理上使用正则表达式函数处理
2011-09-28**** 解决头一天未提取收录,比较新增和丢弃的页面比较日期至最近一次提取的数据
-说明---
本程序用于提取百度对网站的收录情况统计,为SEO提供参考,如果网站主要页面(如产品页)未被收录,
需要寻找原因(例如页面相似度太高)以改进。
========================================================================;
options mprint mlogic symbolgen;
%let basicn=100;
%macro _shoulu(website=,dslib=,dsout=);
%*--------------------------------
宏变量:website 格式yoursite.com,百度查询参数为"site:yoursite.com"
dsout 格式&dslib..yoursite_yymmdd,yymmdd为每次抓取百度搜索结果的日期
说明: pn,rn为百度查询参数,与SAS宏变量无关
*--------------------------------;
filename baidu url "http://www.mysas.net";
%*抓取收录的总数量,用于控制读取的页面数;
data _null_;
infile baidu length=len lrecl=5000;
input _t1 $varying5000. len;
if substr(_t1,1,13)='<p id="page">';
total=compress(scan(scan(_t1,-3,">"),-2,"<"),"找到相关结果个约,");
call symput("total",total);
run;
%put total number searched=&total;
%let n=%eval(&total/&basicn+1);
%put n=&n;
%*利用循环读取百度查询结果的下一页;
%do i=1 %to &n;
%if &i=1 %then %let pnum=0;
%else %let pnum=%eval(%eval(&i-1)*&basicn);
%put pn=&pnum;
%*每次查询结果设为100(参数rn=100);
filename baidu url "http://www.mysas.net";
......
剩余源程序如下:
[hide]http://www.mysas.net/sns/index.php?app=blog&mod=Index&act=show&id=1875&mid=43[/hide]
http://ww4.sinaimg.cn/large/73d8a243jw1dmizxxv8ktj.jpg
「经管之家」APP:经管人学习、答疑、交友,就上经管之家!
免流量费下载资料----在经管之家app可以下载论坛上的所有资源,并且不额外收取下载高峰期的论坛币。
涵盖所有经管领域的优秀内容----覆盖经济、管理、金融投资、计量统计、数据分析、国贸、财会等专业的学习宝库,各类资料应有尽有。
来自五湖四海的经管达人----已经有上千万的经管人来到这里,你可以找到任何学科方向、有共同话题的朋友。
经管之家(原人大经济论坛),跨越高校的围墙,带你走进经管知识的新世界。
扫描下方二维码下载并注册APP
免流量费下载资料----在经管之家app可以下载论坛上的所有资源,并且不额外收取下载高峰期的论坛币。
涵盖所有经管领域的优秀内容----覆盖经济、管理、金融投资、计量统计、数据分析、国贸、财会等专业的学习宝库,各类资料应有尽有。
来自五湖四海的经管达人----已经有上千万的经管人来到这里,你可以找到任何学科方向、有共同话题的朋友。
经管之家(原人大经济论坛),跨越高校的围墙,带你走进经管知识的新世界。
扫描下方二维码下载并注册APP
您可能感兴趣的文章
- SAS软件培训 ... | SAS9.2x_SAS9.3x_SAS9.4x_Hotfix ...
- SAS软件培训 ... | 下载SAS官方培训资料sas program ...
- SAS软件培训 ... | 请教一个SAS做聚类分析有关树形图 ...
- SAS软件培训 ... | SAS 9.31 32位, 迅雷下载!(20 ...
- SAS软件培训 ... | 【分享】Carpenter’s Complete ...
- SAS软件培训 ... | 求高人指导SAS总主成分分析综合得 ...
- SAS软件培训 ... | 详细介绍SAS
- SAS软件培训 ... | 外部文本数据文件创建SAS数据集的 ...
人气文章
本文标题:完整程序教你怎样利用SAS抓取网页内容
本文链接网址:https://bbs.pinggu.org/jg/ruanjianpeixun_sasruanjianpeixun_1220805_1.html
2.转载的文章仅代表原创作者观点,与本站无关。其原创性以及文中陈述文字和内容未经本站证实,本站对该文以及其中全部或者部分内容、文字的真实性、完整性、及时性,不作出任何保证或承若;
3.如本站转载稿涉及版权等问题,请作者及时联系本站,我们会及时处理。