请选择 进入手机版 | 继续访问电脑版
楼主: xjh_109
6118 15

[问答] R读取6.8G的大文件txt中的部分列,求帮助! [推广有奖]

ntsean 发表于 2016-7-16 21:11:31 |显示全部楼层 |坛友微信交流群
sparkR will solve your problem even you have 4G memory

使用道具

bbslover 发表于 2016-7-17 01:23:56 |显示全部楼层 |坛友微信交流群
数据太大,可以先读取一定·行数·,一定·列数·。

使用道具

lqj530 在职认证  发表于 2016-7-17 06:31:49 来自手机 |显示全部楼层 |坛友微信交流群
xjh_109 发表于 2016-7-14 18:54
R读取6.8G的大文件txt中的部分列,求帮助!


一行一行读取,readLine函数

使用道具

万人往LVR 在职认证  发表于 2016-7-17 19:57:01 |显示全部楼层 |坛友微信交流群
一种是先在本地建一个mysql,将txt存入mysql后利用RODBC包读取数据

另一种利用ff包的read.table.ffdf函数直接读入磁盘,再提取相应的列。具体见帮助文档https://cran.r-project.org/web/packages/ff/ff.pdf

使用道具

xjh_109 发表于 2016-7-18 17:53:40 |显示全部楼层 |坛友微信交流群
非常感谢大家的解答,问题现在解决了,笨办法解决的,用perl进行选取相应的列之后文件变成3.2G左右,之后进行perl文件分割,分为四个文件,分别进行读取后进行分析!


大家建议的解决方法和我查到的基本差不多!但是主要是初步分析,电脑内存也不想在加了!


最后还是感谢各位!

使用道具

鱼籽酱牛肉酱 发表于 2016-7-14 19:15
data
用read.table函数读取较大文件会卡住

使用道具

您需要登录后才可以回帖 登录 | 我要注册

本版微信群
加好友,备注cda
拉您进交流群

京ICP备16021002-2号 京B2-20170662号 京公网安备 11010802022788号 论坛法律顾问:王进律师 知识产权保护声明   免责及隐私声明

GMT+8, 2024-4-19 03:24