楼主: fujingchi
26808 12

[数据管理求助] 数据文件太大,内存不够怎么办? [推广有奖]

  • 0关注
  • 0粉丝

大专生

76%

还不是VIP/贵宾

-

威望
0
论坛币
8 个
通用积分
0
学术水平
0 点
热心指数
0 点
信用等级
0 点
经验
491 点
帖子
50
精华
0
在线时间
42 小时
注册时间
2014-7-23
最后登录
2015-8-31

楼主
fujingchi 发表于 2014-7-26 14:42:41 |AI写论文

+2 论坛币
k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群
赵安豆老师微信:zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

感谢您参与论坛问题回答

经管之家送您两个论坛币!

+2 论坛币
      由于研究需要,从数据库中下载了数据,以TXT格式保存的,文件很大,最大的有3.7个G。我想把他们通过STATA处理,其中较小的文件能够载入STATA,但大一点就不行了,显现下面的错误信息:
op. sys. refuses to provide memory
    Stata's data-storage memory manager has already allocated 1792m bytes and it
    just attempted to allocate another 16m bytes.  The operating system said no.
    Perhaps you are running another memory-consuming task and the command will
    work later when the task completes.  Perhaps you are on a multiuser system
    that is especially busy and the command will work later when activity quiets
    down.  Perhaps a system administrator has put a limit on what you can
    allocate; see help memory.  Or perhaps that's all the memory your computer can
    allocate to Stata.
error in line 3093458 of file


我的电脑内存是4G的,换更大内存的电脑能解决问题吗?
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

关键词:数据文件 怎么办 especially allocated specially allocated command running already another

沙发
SpencerMeng 在职认证  发表于 2014-7-26 14:46:31
没关系

来条命令

set mem 5g
已有 1 人评分论坛币 收起 理由
crystal8832 + 10 这个命令已经不需要了

总评分: 论坛币 + 10   查看全部评分

藤椅
fujingchi 发表于 2014-7-26 14:49:46
SpencerMeng 发表于 2014-7-26 14:46
没关系

来条命令
. set mem 5g
value too large
r(912);

. set mem 4g
set memory ignored.
    Memory no longer needs to be set in modern Statas; memory adjustments are
    performed on the fly automatically.

我用的是STATA12

板凳
蓝色 发表于 2014-7-26 14:56:39
没有处理过这么大的文件
不过即使导入stata也会运行很慢的

不如改用sas,大数据的东西最好还是不要用stata处理了
stata的优势一点也体现不出来了
已有 1 人评分论坛币 学术水平 热心指数 信用等级 收起 理由
crystal8832 + 10 + 1 + 1 + 1 是的,每个软件都有自己的长处

总评分: 论坛币 + 10  学术水平 + 1  热心指数 + 1  信用等级 + 1   查看全部评分

报纸
fujingchi 发表于 2014-7-26 14:59:20
蓝色 发表于 2014-7-26 14:56
没有处理过这么大的文件
不过即使导入stata也会运行很慢的
谢谢,我以前都是用EXCEL的,STATA都没用过,现在看来只能换SAS试试了。

地板
xingxf 发表于 2014-7-26 22:53:24
Stata 12及以后版本,不需要set memory,你系统有多大内存它就可以用多大内存。Stata最大支持1T内存。Stata是将数据一次性读入内存,然后在内存中处理数据。你4G内存确实小了些。操作系统及其他程序就要占据1G多内存,你的文件达到3.7G,肯定装不下啊。你增加内存可以解决目前的问题,另外你需要确保你的操作系统是64位的,32位系统不支持4G以上内存。Stata增加内存,处理大数据绝对没问题的。增大内存(8G,16G),处理3.7G的文件不在话下。我电脑32G内存,经常用Stata处理10G左右文件,处理速度很快,没问题。以你目前的内存情况,即便SAS可以处理3.7G文件,但是读取速度也会很慢。
已有 1 人评分论坛币 学术水平 热心指数 信用等级 收起 理由
crystal8832 + 20 + 1 + 1 + 1 观点有启发

总评分: 论坛币 + 20  学术水平 + 1  热心指数 + 1  信用等级 + 1   查看全部评分

7
fujingchi 发表于 2014-7-27 09:58:04
xingxf 发表于 2014-7-26 22:53
Stata 12及以后版本,不需要set memory,你系统有多大内存它就可以用多大内存。Stata最大支持1T内存。Stata ...
昨天我后来拿8G内存的电脑试了试,还是不行啊,出现同样的提示!真不知道该怎么办了!操作系统是WIN8

8
wfldragon 发表于 2014-7-27 19:52:50
fujingchi 发表于 2014-7-27 09:58
昨天我后来拿8G内存的电脑试了试,还是不行啊,出现同样的提示!真不知道该怎么办了!操作系统是WIN8
也有可能在数据格式转换时增加了数据的大小。建议只筛选相关的变量进行处理。

9
xingxf 发表于 2014-7-28 02:25:54
fujingchi 发表于 2014-7-27 09:58
昨天我后来拿8G内存的电脑试了试,还是不行啊,出现同样的提示!真不知道该怎么办了!操作系统是WIN8
你那个数据库可以导出dta格式么?

10
fujingchi 发表于 2014-7-29 10:38:13
不可以,目前已经用SPSS解决了

您需要登录后才可以回帖 登录 | 我要注册

本版微信群
加好友,备注jltj
拉您入交流群
GMT+8, 2026-1-1 12:34