DataScience 板


LINE

※ 引述《littleyuan (baby)》之铭言: : 大家好 : 我是ML新手 跟的前辈是很优秀的超强者 : 但是前辈很不organized 写的code总是不commit : 主管希望下个项目之前我可以提出报告要如何改进并且希望前辈能跟进 : 我是觉得ML和其他写程式有点不同 : 因为不断测试参数 每次调参数都commit的话好像太繁杂 所以我一般是有了好结果才com : mit一次 不知道大家一般怎麽做的 : 另一个问题是资料库会更新 更新过程那原来的model 不变读到的数据就不一样了那出来 : 的结果也还是不一样 : 这样要怎麽reproduce做出和原来一样正确率?? : 大家会写个word档纪录每次Data的变化吗? : 想知道大家实际工作上是如何管理的呢? 我写一点自己的想法。除了推文里写的
1F:推 abc2090614: ....这算大哉问等级的问题 (拉椅子等回答04/14 05:33
2F:→ abc2090614: 我通常是参数会存到另一个档里04/14 05:34
3F:→ abc2090614: /data 部分丢进.gitignore 会备份但尽量不动04/14 05:35
4F:→ abc2090614: 在训练模型时不能一直用新data 不然会变多头马车04/14 05:36
5F:→ abc2090614: 取什麽data或一些business logic写进.md或test cases04/14 05:37
6F:→ abc2090614: 之前有试过用GNU make 不过不太顺手04/14 05:38
7F:→ abc2090614: 最近发现这个但还没试过, 他的模板大致不错, 有些04/14 05:39
8F:→ abc2090614: 我不太同意就是: 04/14 05:39
9F:→ abc2090614: google搜 cookie cutter data science04/14 05:39
我的作法是 开两个repository 假设专案叫xyz 那我会开一个 xyz-explore 另一个 xyz-prod xyz-explore里面可能很乱 不会完全照 software version control 的方式作 但只要作出比目前存在 xyz-prod 里好上一截的东西 就把 explore 里的pipeline和参数搬过去 连同 sample data, 说明档之类的一起弄进去 我觉得 git 是软体界的东西 对软体工程师的工作流程帮助很大 因为建软体时有 spec 可以照着走 但作资料科学时常常前进一步後退两步 或是今天新抓的data source 写的 script 试的方法 明天结果跑出来跟垃圾一样 如果 xyz-prod 里的档够乾净 通常老板和其他人容易看懂 都ok xyz-explore 里面目前我还没想到一个好的整理法 特别是常常在探索时写的一堆 .sql .hql 真的不知道怎麽归类 通常我都是一边写一边建 .md 像写日记一样 回头只要能找到自己当时为什麽会写这段code 抓这个data 或这个不等式是因为什麽business logic 在干嘛就行 xyz-prod 就尽量照着软体界的 version control 走 经理和老板想看的是 prod 不是 explore 把 explore 跟 production 工作流程分开的想法我是从这看来的 https://edwinth.github.io/blog/workflow/ 之前有对这个想法写过一篇 blog post 仅供参考 http://changhsinlee.com/exploration-product-workflow/ --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 68.71.180.136
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1523668790.A.95B.html
10F:推 littleyuan: 谢谢你 真的很感谢 我会试着用这个方式做看看 我在ML 04/14 10:08
11F:→ littleyuan: 和programming界都很菜鸟还有很多在摸索 就连git也是 04/14 10:08
12F:→ littleyuan: 今年才开始使用 我会继续精进的 04/14 10:08







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Boy-Girl站内搜寻

TOP