R_Language 板


LINE

这篇想呈现怎样整理修改data.frmae/data.table内的资料 过程中,是否会制作资料复本会造成效能的低落 我试着把可能的解法都想在这篇里面 这篇用一个最简单的例子 包含"Null"字元的一个正数csv档案 目标是要把Null转成NA,并且全部column都转成int/num 可以考虑几种方式 1. 用read.csv读,使用default option,再做剩下的修改 2. 用read.csv读,设定stringsAsFactors=FALSE,直接对chr做修改 3. 用read.csv读,设定na.strings = "Null",所有column就会直接变成int 4. 用fread读,使用default options,再做剩下的修改 5. 用fread读,设定na.strings = "Null",再做剩下的修改 这样看起来3.是最方便的方式,不过fread再读大资料时,有它的效率优势 考虑一个有50000个row,200个column的资料,其中有156行包含"Null" 比较看看怎样的转换方式最快。 程式:http://pastebin.com/hX4Biq7x machine: CPU: Celeron [email protected] 6GB Ram Revolution R Open: R version 3.2.0 (2015-04-16) Platform: x86_64-w64-mingw32/x64 (64-bit) Running under: Windows 7 x64 (build 7601) Service Pack 1 Unit: seconds expr min lq mean median uq max neval method_1 3.971753 4.036618 4.460901 4.535446 4.731301 5.329010 20 method_2 3.772901 3.842948 4.494862 4.049869 4.323830 9.667021 20 method_3 3.788617 3.853613 4.132342 3.921652 4.347161 5.132272 20 method_4 3.716265 3.843885 4.145333 3.998319 4.247201 5.708531 20 method_5 12.481331 13.448137 17.182267 14.693496 17.808658 32.192652 20 method_6 12.348287 13.795098 16.440180 15.891280 17.371023 27.189625 20 method_7 4.773306 4.849003 5.630633 5.326955 5.695046 11.200814 20 method_8 4.100167 4.172661 4.989753 4.536472 5.041444 9.395030 20 method_9 3.908649 4.057392 4.580684 4.365466 4.685546 8.113558 20 method_10 3.920710 3.991021 4.342576 4.350796 4.621759 5.118484 20 method_11 3.756906 3.814765 4.528976 4.191450 4.553097 7.491762 20 method_12 4.215348 4.312883 4.487966 4.440046 4.558055 5.273808 20 method_13 4.214801 4.299568 4.650518 4.482193 4.683664 7.368416 20 method_14 3.859733 3.975412 4.406024 4.316589 4.433386 6.868416 20 method_15 3.814103 4.236323 4.428712 4.367902 4.615070 5.399137 20 小评: method_5跟method_6 (data.frame+sapply)是最差的方式 method_7(data.frame (读入不转factor) as.matrix+as.integer)为次差的方式 最好的方式是method_3跟method_4 (data.table+plyr::colwise) 稍差的方法如method_10 (data.frame (default读入) + base::transform) method_14 (data.table (default读入) + data.table::transform) method_15 (data.table (读入设定nastrings) + data.table::transform) method_12跟method_13 (data.table + dplyr::mutate_each_)表现颇为中庸 如果有其他方法,欢迎提出比较,感谢各位。 结论: 如果资料小的时候,直接使用3.的方式读入资料即可 如果资料较大(大概超过一百万个数值)的时候,建议用fread配上colwise做修改 [关键字]: plyr, dplyr, data.table, data.frame --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 123.205.27.107
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/R_Language/M.1436685772.A.51F.html ※ 编辑: celestialgod (123.205.27.107), 07/12/2015 15:34:32
1F:推 thea: 推推! 07/12 15:57
2F:推 Wush978: push 07/12 19:44
3F:→ gsuper: fread() 爱用者+1 07/12 19:56
4F:推 leo0650: 推 07/12 21:46
5F:推 yaowei2010: 推炸! 07/13 10:31
6F:推 MADNUG: 推,很好的参考!! 07/15 15:30
7F:推 mayneck: 推一个,很棒的参考 07/16 22:54







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Gossiping站内搜寻

TOP