楼主: 2095144011
4420 15

[统计软件] 用R如何读取一个大的文本文件? [推广有奖]

11
铁锷未残 学生认证  发表于 2018-5-3 15:30:03
铁锷未残 发表于 2018-5-1 20:10
https://www.rdocumentation.org/packages/data.table/versions/1.10.4-2/topics/fread
使用fread函数读取GB量级的数据。

12
2095144011 发表于 2018-5-4 15:38:57
铁锷未残 发表于 2018-5-3 15:30
使用fread函数读取GB量级的数据。
我并没有认为这解决了问题,由于数据是列很多,依旧没有办法读取

13
铁锷未残 学生认证  发表于 2018-5-5 09:57:43
2095144011 发表于 2018-5-4 15:38
我并没有认为这解决了问题,由于数据是列很多,依旧没有办法读取
请把用fread函数读取数据的代码以及显示结果以图片形式粘贴出来?

14
2095144011 发表于 2018-5-8 09:42:11
铁锷未残 发表于 2018-5-5 09:57
请把用fread函数读取数据的代码以及显示结果以图片形式粘贴出来?
嗯,读取1.9G, 大约要10多秒,只是我并不清楚其读取快速的原因,在转换成矩阵或者是使用行列号调取对应数值的时候也还是要花费不少时间

15
铁锷未残 学生认证  发表于 2018-5-8 09:55:06
铁锷未残 发表于 2018-5-1 20:10
https://www.rdocumentation.org/packages/data.table/versions/1.10.4-2/topics/fread
https://cloud.r-project.org/
阅读一下Reference manual就知道了

16
2095144011 发表于 2018-5-9 11:30:34
铁锷未残 发表于 2018-5-8 09:55
https://cloud.r-project.org/
阅读一下Reference manual就知道了
后来把数据拆分成5000个300M的文件来读,进行逐一提取,每个文件用fread花费3s,还是要好几个小时咯

您需要登录后才可以回帖 登录 | 我要注册

本版微信群
jg-xs1
拉您进交流群
GMT+8, 2026-1-7 15:26