R_Language 板


LINE

※ 引述《hotlin0709 (hotlin0709)》之铭言: : [问题类型]:使用for回圈读取多资料夹内多个csv 处理 : 效能谘询(我想让R 跑更快) : [软体熟悉度]: : 入门(写过其他程式,只是对语法不熟悉) : [问题叙述]: : 我要读取多个资料夹内的多个csv,然後读进来後,全部资料做简单的处理filter一些变数, : 并将撷取完资料的某一栏位加总起来。 : 以下是我写的方式,但是跑太久了......请问有比较快速的方法吗? : [程式范例]: : library(dplyr) : l<- list.files(path="/users/Johnny/downloads/M08A",pattern="*") : bindtemp <- data.frame() : temp <- data.frame() : for (k in l){ : ll<- list.files(path=paste("/users/Johnny/downloads/M08A/",k,sep = ''),pattern="*") : for (i in ll) { : file_names <- paste("/users/Johnny/downloads/M08A/",k,i,sep = '/') : files <- list.files(path=file_names, pattern="*") : for (file in files) { : bindtemp <- read.csv(paste(file_names,file,sep="/"),header=F) : temp <- rbind(temp,bindtemp) : } : } : } : df3<-temp %>% filter((V3=="03F0961N"|V3=="03F0846S"),V4==31) %>% summarise(n=sum(V5)) : [关键字]: : for回圈 读取多资料夹的CSV 觉得M08A好像在哪看过= =? 你是在用交通部的资料吗 而且V3 filter的条件看起来像是VD ID,03F0961N是国道三号北上车道961公里吧XD 你的程式主要问题是不断扩增data.frame,造成不断重复复制 第二个问题是没必要用到三层回圈,只需要recursive = TRUE就可以解决了 所以这两个问题用下面这样就可以解决,范例code如下: library(data.table) # 直接用list.files直接取得全部的csv档案 (recursive = TRUE) csvFiles <- list.files(path="/users/Johnny/downloads/M08A", pattern="\\.csv$", recursive = TRUE) # 开一个空间存读进来的资料 temp <- vector("list", length(l)) for (i in seq_along(csvFiles)) temp[[i]] <- fread(csvFiles[i]) # 读进每一个csv资料 DF <- rbindlist(temp) # 把list of data.table/data.frame合并成一个 setDF(DF) # 转回去成data.frame 剩下就看你DF要拿去做什麽了 建议可以把这个常用的资料直接存成一些可以快速import的格式 之後要读也比较容易 --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.235.42.68
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/R_Language/M.1522760673.A.C86.html ※ 编辑: celestialgod (36.235.42.68), 04/03/2018 21:12:03
1F:推 Luluemiko: 推 04/03 23:42
2F:推 hotlin0709: 嗯嗯谢谢您的回覆感恩感恩xdd 04/04 17:18
3F:→ hotlin0709: 嗯嗯是的在用交通部高速公路的资料哈哈 04/04 17:19







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:WOW站内搜寻

TOP