Python 板


LINE

※ 引述《allen511081 (蓝)》之铭言: : ※ 引述《allen511081 (蓝)》之铭言: : : 各位好,小弟上次抓的资料格式已经如我上次发问的样子 : : title birdName count : : XXX yyy zzz : : XXX yyy zzz : : XXX yyy zzz : : XXX yyy zzz : : 但是我现在想要把格式改成以下的样子,这样可以方便以後的处理 : : title title title title birdName count birdName count birdName count : : XXX XXX XXX XXX yyy zzz yyy zzz yyy zzz =>为一笔 : : 後面的birdName和count是依据网页资料的笔数决定,每个网页的笔数不一定, 用了原 po 提供的范例档,底下是好读完整版 http://nbviewer.ipython.org/gist/ccwang002/6b51ae21a91cba13c2ef/Transform.ipynb 我是用 Python 3.4 跑的,2.x 要注意一下 unicode 的转换。 你爬下的内容有 \ufeff 之类的字元没有清,要小心栏位不要处理错, 我有特别独立出来成输入的参数 (obs_cols) 。 import pandas as pd def flatten_obs(bird_obs, obs_cols, preserved_cols=None): """Flatten brid observations into one row record.""" keep_cols = preserved_cols if preserved_cols else [] # assume values preserved columns don't change keep_values = list(bird_obs.loc[0, keep_cols].values) # flatten bird observation flatten_obs = [] flatten_cols = [] for bird_ix, (bird, count) in ( bird_obs.loc[:, obs_cols].iterrows() # extract wanted columns ): flatten_obs.extend([bird, count]) # create incremental column suffix, starting 0 flatten_cols.extend([ 'bridName_%d' % bird_ix, # birdName_0, ... 'count_%d' % bird_ix, # count_0, ... ]) # join kept and flatten columns as DataFrame return pd.DataFrame( [keep_values + flatten_obs], # nested list required by DataFrame columns = keep_cols + flatten_cols ) 使用的话, orig_df = pd.read_csv('./items.csv') obs_cols = ['birdName', 'count'] preserved_cols = ['weather', 'location', 'time', 'date', 'birdCondition'] flatten_df = flatten_obs(orig_df, obs_cols, preserved_cols) 合并 flatten_df 的话可以用 pandas.concat,重覆的就放在一起, 遇上没有的栏位,就会自动补 NaN 值(相当於对不同记录的栏位做 OUTER JOIN) 用法: pd.concat(flatten_df_list) 我觉得你在爬的时候那些 preserved_cols 值并不会重覆出现,应该是你额外加的, 所以现在有种做两次功(重覆->去重覆)的感觉,也许可以重想一下程式的流程。 这个版本的 code 为了好读和方便可能不是最有效的方式, 也尽量不用 Numpy 函式来处理,因为不确定你对它的熟悉度。 pd.concat 可以完全不用,因为合并的栏位长什麽可以很简单的预测(最多几只鸟) 这样就能预先建立好一个矩阵。 CSV 我直接读有格式错误,我使用的档案都放在 https://gist.github.com/6b51ae21a91cba13c2ef -- 以後不玩程式码上色了… PyCon APAC 2015 Call for Proposals! https://tw.pycon.org/2015apac/en/ 也诚徵志工喔(站内信或 [email protected]) --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.44.9.45
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Python/M.1423672403.A.E89.html ※ 编辑: ccwang002 (114.44.9.45), 02/12/2015 00:37:33







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:BabyMother站内搜寻

TOP