作者cylee (Artisan)
看板Soft_Job
标题[请益] 关於 NLP 如何自学(书/公开课程)?
时间Sat May 28 19:20:14 2022
Hi 各位先进，
本人背景是毕业很久的资工硕，目前从事 infra 开发的 back-end
engineer，目前待的公司准时上下班，想学些能累积技术的主题
熟悉的语言有: C++/Python/Rust
因为在学时完全没接触过，想请问有碰过的先进们，自学的话有没
有推的书、公开课能分享。另外 NLP 现在业界真的拿它来赚钱的公
司/组织是不是偏少(台商)，还是只是我没碰到而已?
谢谢各位
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.229.53.217 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1653736816.A.47C.html
※ 编辑: cylee (36.229.53.217 台湾), 05/28/2022 19:23:13
1F：推 Lushen: 唯一推荐台大李宏毅 05/28 19:32
3F：→ Lushen: 基本上算台湾讲的最通俗易懂了 05/28 19:49
4F：→ Lushen: 尤其推荐他的 ML 课程 讲的真D猛 05/28 19:50
5F：推 pha123661: NLP线上课程推荐 Stanford CS224N: 05/28 23:32
7F：→ pha123661: PLoROMvodv4rOSH4v6133s9LFPRHjEmbmJ 05/28 23:33
8F：推 NTUmaki: 台大2个教授有开放课程又有名的就是做NLP的 可以先看他们 05/28 23:55
9F：→ NTUmaki: 的影片（陈 侬、李宏毅） 05/28 23:55
10F：推 kkes0001: nlp只碰过学界的居多，业界很少 05/29 08:30
11F：推 ElegonSin: 看教授影片+自己动手玩玩看简单的 05/29 09:32
12F：→ ElegonSin: python 我推simple transformer 05/29 09:33
13F：→ ElegonSin: 我觉得NLP最常见的应用可能就像是YT的推荐影片 05/29 09:34
14F：推 oachan: 电商搜寻、推荐、对话机器人、RPA也是有不少题目可以做的 05/29 11:10
15F：→ DrTech: 差很多吧，推荐系统recommendation 与NLP，与搜寻引擎，在 05/29 11:56
16F：→ DrTech: 学术界，业界完全是不同专业。 05/29 11:56
17F：→ DrTech: 除非你去烂公司，乱做一通没实战的公司，不然你做search， 05/29 11:57
18F：→ DrTech: nlp，recommendation 要做的事情，完全不同。资历也不通。 05/29 11:57
19F：→ DrTech: 搜寻，要怎麽ranking，nlp的人通常都不会。推荐系统，要怎 05/29 12:00
20F：→ DrTech: 麽做多模态(multifmodal)的特徵，通常NLP，搜寻的人又没碰 05/29 12:01
21F：→ DrTech: 过。彼此之间专业真的差很多。 05/29 12:01
22F：→ DrTech: 另外NLP的各种序列标注模型，搜寻与推荐的团队，根本没几 05/29 12:03
23F：→ DrTech: 个人有碰过。专业完全不同。 05/29 12:03
24F：→ DrTech: 最後，搜寻与推荐，很多资料pipeline的工作，都与机器学习 05/29 12:04
25F：→ DrTech: 与NLP无关。 05/29 12:04
26F：→ sachialanlus: 我研究所学nlp 但工作找backend 跟你相反 05/29 13:14
27F：→ sachialanlus: 赚钱与否不清楚 但nlp工作其实不少 台商也有 05/29 13:15
28F：→ DrTech: 真正拿NLP来商业化赚钱的，不是哪种旁门左道，做好玩，或 05/29 13:22
29F：→ DrTech: 是做了NLP没效益也没差的部门喔。我在台湾看了几年台商不 05/29 13:22
30F：→ DrTech: 到3家而已。 05/29 13:22
31F：→ DrTech: NLP工作是很多啦，但是拿来赚钱变现的公司，台商绝对没有5 05/29 13:24
32F：→ DrTech: 家。 05/29 13:24
33F：→ sachialanlus: 确实有可能是这样没错 而且我看到的nlp缺都和medica 05/29 13:26
34F：→ sachialanlus: l相关 我猜现阶段应该都赔钱 放眼未来的感觉 05/29 13:26
35F：→ DrTech: 而且大部分公司，就是要你会ope source 就好。讲太多太深 05/29 13:26
36F：→ DrTech: 的别人也听不懂。 05/29 13:26
37F：→ sachialanlus: 我选nlp是因为像是怕cv饱和 押宝nlp 但做了才发现自 05/29 13:33
38F：→ sachialanlus: 己对nlp的兴趣不高 後来就选有兴趣的web 薪水也不错 05/29 13:33
39F：推 oachan: 同意大大说的，台湾纯NLP工作少，大部分学NLP都是找外商 05/29 14:15
40F：→ oachan: 或是其他相关应用领域 05/29 14:15
41F：推 jamfly: Huggingface 套一下 应该是很多地方的常态… 05/29 23:12
42F：→ recorriendo: Search跟NLP没差那麽多啦 vector space model就搜 05/30 01:48
43F：→ recorriendo: 寻引擎开始用的 NLP後来引进 (不过我後来发现很多人 05/30 01:48
44F：→ recorriendo: 不知到这段历史 以为vector space model是十年前左 05/30 01:48
45F：→ recorriendo: 右NLP的大发明) 排序的部分也就几个公式而已 05/30 01:48
46F：→ recorriendo: 说实话现在很多搞NLP的几乎都不懂IR的一些经典技法 05/30 01:51
47F：→ recorriendo: 了 tf-idf之类的 其实很多时候可以拿来作快速proto 05/30 01:51
48F：→ recorriendo: typing 05/30 01:51
49F：→ DrTech: 楼上，现在线上有哪个主流的搜寻引擎或商品，是用vector s 05/30 09:36
50F：→ DrTech: pace做的？或tf-idf做，然後去搜向量？没有吧。速度慢，效 05/30 09:36
51F：→ DrTech: 果又差。 05/30 09:36
52F：→ DrTech: 排序部分就那几个公式？你们的产品是什麽场景，CTR多少呢 05/30 09:41
53F：→ DrTech: ？正常商品怎麽可能几个传统公式就能搞定。 05/30 09:41
54F：→ DrTech: 另外，传统IR根本不管用户特徵，只管文字上表面相似度，这 05/30 09:44
55F：→ DrTech: 也是现代化搜寻系统与NLP工作差异极大的地方。 05/30 09:44
56F：→ DrTech: NLP为什麽工作少，是因为没有独立能赚钱的应用。到最後能 05/30 09:50
57F：→ DrTech: 赚钱的搜寻，推荐，广告业务，会用到NLP的技术比例其实没 05/30 09:50
58F：→ DrTech: 那麽高。 05/30 09:50
59F：→ DrTech: 如果是纯赚钱考量，还不如直接去学搜寻，推荐，广告。NLP 05/30 09:51
60F：→ DrTech: 有遇到需求再学较好。 05/30 09:51
61F：→ cylee: 多谢各位的建议，我的起始点就是想要学一个有技术壁垒的 05/30 12:03
62F：→ cylee: 技术，而不是别人学几个月就宣称他能上手的。 05/30 12:05
63F：→ recorriendo: 我说IR以前用vector space model 05/30 12:50
64F：→ recorriendo: NLP现在在用 上面是看不清楚推文乱曲解 05/30 12:53
65F：→ recorriendo: IR排序比NLP多的就是那些公式 现在当然都 05/30 12:56
66F：→ recorriendo: 用deep learning 你要说这个那差异更小 05/30 12:56
67F：→ recorriendo: 另外 国内要做search 大多就给客户内部使用而已 还 05/30 13:02
68F：→ recorriendo: 真的是老公式套一套就够了 (当然直接用package更快 05/30 13:02
69F：→ recorriendo: ) 而面向大众的搜寻引擎 现在就是google独占市场 其 05/30 13:02
70F：→ recorriendo: 他做也是白做 05/30 13:02
71F：→ recorriendo: 另外 tf-idf不是传统IR用法而已 事实上它的idea很多 05/30 13:15
72F：→ recorriendo: 地方都可以用 近期的像AllenAI的SciSpacy套件也用到 05/30 13:15
73F：→ recorriendo: 了 我也说了它只是当一个baseline或prototype而已 05/30 13:15
74F：→ recorriendo: 最终成品要SOTA当然就不是用tf-idf 05/30 13:15
75F：→ recorriendo: 不过说到底 我同意如果要去做电商推荐、搜寻的 不用 05/30 13:23
76F：→ recorriendo: 特别深入NLP 05/30 13:23
77F：推 penniless: 推楼上，感觉某楼在diss传统操作挺外行的。而且绝对没 05/31 00:48
78F：→ penniless: 有甚麽领域差很多这种事。ACL了解一下，看看有多少是搜 05/31 00:48
79F：→ penniless: 索推荐相关.... 05/31 00:48