[STATA数据压缩]你真的会用-compress-吗?-经管之家官网!

人大经济论坛-经管之家 收藏本站
您当前的位置> 考研考博>>

考研

>>

[STATA数据压缩]你真的会用-compress-吗?

[STATA数据压缩]你真的会用-compress-吗?

发布:皖山一流 | 分类:考研

关于本站

人大经济论坛-经管之家:分享大学、考研、论文、会计、留学、数据、经济学、金融学、管理学、统计学、博弈论、统计年鉴、行业分析包括等相关资源。
经管之家是国内活跃的在线教育咨询平台!

经管之家新媒体交易平台

提供"微信号、微博、抖音、快手、头条、小红书、百家号、企鹅号、UC号、一点资讯"等虚拟账号交易,真正实现买卖双方的共赢。【请点击这里访问】

提供微信号、微博、抖音、快手、头条、小红书、百家号、企鹅号、UC号、一点资讯等虚拟账号交易,真正实现买卖双方的共赢。【请点击这里访问】

我们知道,将数据导入STATA后,如果觉得数据储存空间有点大,会用-compress-命令进行压缩下。这样基本会搞定。可是最近的一次经历让我改变了看法:导入一份125M左右的Excel,后储存为.dta格式,居然有2.3+G--匪夷所思 ...
免费学术公开课,扫码加入


我们知道,将数据导入STATA后,如果觉得数据储存空间有点大,会用-compress-命令进行压缩下。这样基本会搞定。
可是最近的一次经历让我改变了看法:导入一份125M左右的Excel,后储存为.dta格式,居然有2.3+G -- 匪夷所思吧!
回到STATA,compress --> save ,依然是那么大!……思索良久…… -des- 查看下, 哇!有三个字符型变量居然是:str2045!!看来应该就是这个原因了,why?经过一阵摸索,发现了原来是有一条记录导入时出现差错:一个单元格里放入几乎所有变量的值,too long too long……删除 --> compress --> save , 马上只有200+M了!
总结:如果发现.dta格式大小异常,不妨尝试查看是不是因为某个字符型变量出现问题。
1.des --> 找出异常长的字符型变量,如:abvar。2.replace abvar=subinstr(abvar," ","",.) --> 消除不必要的空格(多数情况下,空格都是占空间的和无意义的!)
3.-compress-并-des abvar-如果差不多了就到这吧,毕竟时间宝贵!如果还是很异常,如:str1000!那么,继续吧。。。
4.ed abvar --> 肉眼大概估计出正常的、最小的长度为多少合适,如:str30(或者省去这一步,直接跳到下一步)
5.ed abvar if length(abvar) >= 30--> 哪些作怪的异常记录必会在这里面,通常这一步就可以发现它们了!
6.发现了后,接下来3种处理方法,自己选择吧!
A、修改记录:如果只有少数几个异常记录,直接手动在单元格里改吧,可以避免损失这几条样本(but,谨慎!不可逆。。。)
B、删除:drop if length(abvar)># (#的大小自己设定一个--保证异常的记录删除又不会影响正常的记录即可!)
删除后 --> compress --> OK!
C、-recast-如:recast str30 abvar , force (慎用,因为如果30这个数不准确,那么会造成部分记录显示不完全!
then,-compress- --> OK!
详细操作,见代码:
  1. * 主要针对字符型变量的压缩


  2. *=产生仿真数据=
  3. cap drop tsvar //实验变量
  4. cap drop rfvar
  5. input str200 tsvar
  6. "Storage "
  7. "space "
  8. " of "
  9. "your "
  10. "data "
  11. "is "
  12. " matter ! "
  13. " So what can we do ? this is a abnormal entry , because its too long too long ..." //异常记录!
  14. end
  15. gen rfvar=tsvar //参照变量
  16. compress// 自动压缩至最小的、合适的长度 -- tsvar 最后一条记录的长度
  17. // 这一步是为了&仿真& -- 因为导入数据时stata会自动匹配最合适、最小的str长度
  18. ed
  19. des

  20. * &很明显这么长的变量不是我们想要的 -- 因为将会占用很大储存空间!!!&
  21. * &当你手中有这样的数据时,按照常规的-compress-命令是无法实现压缩的&
  22. * &有人会想到,找出这样的异常记录值,单独处理掉 -- good idea !&
  23. * &First,发现是否有这样异常的记录 ;then,处理!&
  24. * go on !

  25. *=压缩=
  26. *-去除无意义的空格 //多数情况下,空格是不必要的
  27. replace tsvar=subinstr(tsvar," ","",.) //if you hope to reserve some blanks , you can use -trim- etc ...
  28. compress tsvar
  29. des // look! --> str62

  30. *-找出异常值,并处理掉-
  31. *异常值,目前我只能凭经验去找,而且肉眼很难去找到的:
  32. * 大致浏览 tsvar -->
  33. * 大概估计出正常的、最长的记录应该会是: str10 -->
  34. ed if length(tsvar)>=10// -> found!
  35. drop in 8
  36. ed
  37. * -->
  38. compress
  39. des // look: str7
  40. * 压缩完成!!!
复制代码
最后附上一个自编的批量删除空格的小命令:-dlblanks- (见代码!)用法:dlblanks v1v2v3 ...[if][in], 即可删除字符型变量v1v2v3 ...中的所有空格。
  1. *! version 2015年2月16日21:44:11
  2. *! Author : Firsword


  3. *= dlblanks v1 v2 v3 ...[if] [in]
  4. *= 批量删除变量中的所有空格



  5. cap pro drop dlblanks
  6. pro define dlblanks
  7. version 13.0

  8. syntax varlist(string) [if] [in]

  9. tokenize `varlist'
  10. loc n : word count `varlist'
  11. forval i=1/`n'{
  12. replace ``i''=subinstr(``i''," ","",.)`if' `in'
  13. }

  14. end
复制代码
「经管之家」APP:经管人学习、答疑、交友,就上经管之家!
免流量费下载资料----在经管之家app可以下载论坛上的所有资源,并且不额外收取下载高峰期的论坛币。
涵盖所有经管领域的优秀内容----覆盖经济、管理、金融投资、计量统计、数据分析、国贸、财会等专业的学习宝库,各类资料应有尽有。
来自五湖四海的经管达人----已经有上千万的经管人来到这里,你可以找到任何学科方向、有共同话题的朋友。
经管之家(原人大经济论坛),跨越高校的围墙,带你走进经管知识的新世界。
扫描下方二维码下载并注册APP
本文关键词:

本文论坛网址:https://bbs.pinggu.org/thread-3566263-1-1.html

人气文章

1.凡人大经济论坛-经管之家转载的文章,均出自其它媒体或其他官网介绍,目的在于传递更多的信息,并不代表本站赞同其观点和其真实性负责;
2.转载的文章仅代表原创作者观点,与本站无关。其原创性以及文中陈述文字和内容未经本站证实,本站对该文以及其中全部或者部分内容、文字的真实性、完整性、及时性,不作出任何保证或承若;
3.如本站转载稿涉及版权等问题,请作者及时联系本站,我们会及时处理。
数据分析师 人大经济论坛 大学 专业 手机版