Perl 板


LINE

※ 引述《corny (玉咪)》之铭言: : 我有两个档案 : 这两个档案都是好几万笔 : a.txt b.txt : ------------- ------------- : abc111 abc123 abc555 abc111 : abc222 abc124 cde666 cde123 : cde333 cde125 : cde444 cde126 : ------------- ------------- : 目标是要知道 a.txt 跟 b.txt 第一栏的前三个字元是不是相同 : 并且抓出该行输出到 c.txt : c.txt : --------------------------- : abc111 abc123 abc555 abc111 : abc222 abc124 abc555 abc111 : cde333 cde125 cde666 cde123 : cde444 cde126 cde666 cde123 : --------------------------- : 现在写好了一个shell script如下 : 不过执行效率非常差 : 全部跑完需要好几个小时 : 在网路上找到一些关於perl的资讯 : 不过完全没有接触过这个语言 : 不知道perl是不是能快速的处理 : while read line1 : do : temp1=$(echo $line1 | awk '{print substr($1,1,3)}') : while read line2 : do : temp2=$(echo $line2 | awk '{print substr($1,1,3)}') : [ $temp1 == $temp2 ] && echo $line2 $line1 >> c.txt : done < a.txt : done < b.txt 不知道下面的程式符不符合你的要求? #!/usr/bin/perl use warnings; use strict; use Tie::File; tie my @line_a, 'Tie::File', 'a.txt' or die "cannot open file 'a.txt'\n"; tie my @line_b, 'Tie::File', 'b.txt' or die "cannot open file 'b.txt'\n"; open my $c_txt, '>', 'c.txt' or die "cannot open file 'c.txt'\n"; my %cache = (); my $lnum = 0; for my $line (@line_a) { my $prefix = substr($line, 0, 3); push @{$cache{$prefix}}, $lnum++; } for my $line (@line_b) { my $prefix = substr($line, 0, 3); next if !exists($cache{$prefix}); for my $lnum (@{$cache{$prefix}}) { print {$c_txt} "$line_a[$lnum] $line\n"; } } 假设 a.txt 有 M 行,而 b.txt 有 N 行 你的回圈就要跑 M*N 次 (复杂度为 O(N*M)) 再加上你是用 shell script 实作 它要不断 spawn 新行程来跑 $(...) 内的程式 而 ">> c.txt" 和 "< a.txt" 会不断开启和关闭档案 最後就是印象中 "while read" 并不适合用在读取大资料量的档案(速度会很慢) 所以自然快不了 我的做法为先读取 a.txt,然後用杂凑(hash)储存每行前 3 个字元与其所在的行数, 之後再读取 b.txt,由杂凑查询其在 a.txt 相应的行数 因为查询杂凑键值的复杂度为 O(1), 所以整个程式的复杂度降为 O(N+M) 这是用空间(杂凑)来换取时间 而读取指定的行数是由 Tie::File 这个 module 去处理的 ( http://perldoc.perl.org/Tie/File.html ) 它的读取速度是程式最大的瓶颈 希望对你有帮助~ --



※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 61.230.178.183
1F:推 iFEELing: 善用 HASH , 记忆体现在不贵 , 不用那麽省... 03/21 03:09
2F:推 giacch:open(READ, 'b.txt'); chomp(@TMP=<READ>); close(READ); 03/21 04:37
3F:→ giacch:foreach(@TMP) { $b{$1}=$_ if(/^(...)/); } 03/21 04:37
4F:→ giacch:open(READ, 'a.txt'); chomp(@TMP=<READ>); close(READ); 03/21 04:37
5F:→ giacch:foreach(@TMP) { print $_.' '.$b{$1}."\n" if(/^(...)/); 03/21 04:37
6F:→ giacch:这样可以跑范例... 03/21 04:38
7F:推 corny:非常感谢,在redhat上可以正确执行,cygwin上前三行只有b的 03/21 10:50
8F:→ corny:资料,这是甚麽原因呢? 03/21 10:50
9F:→ corny:原来是换行符号的问题,不过chomp(@TMP=<READ>)为何没作用? 03/21 13:40
10F:推 corny:请问一下~hash之後如何取得各栏位资料?有类似awk的方法吗 03/21 19:11
11F:→ frank1983:@fields = split /\s+/, $line; 03/21 22:34







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Gossiping站内搜寻

TOP