作者ariainaqua (挑战那刻就是全新的开始)
看板NTU
标题[网宣] 台大 AI ALIGNMENT WORKSHOP
时间Thu Jul 24 16:15:42 2025
Hi 大家好,我们是 台大 AI Safety 读书会,由来自台大学生与校友们创办,
今年年初有在板上宣传且有不少同学踊跃参与,
可惜的是读书会并没有办法容纳那麽多同学。
所以经过讨论後,决定在今年暑假举办两个梯次的 AI Alignment Workshop,
日期分别在 8/2-3 与 8/16-17,欢迎各位同学踊跃参与。
以下是我们这次活动的介绍。
---
课程内容:ARENA 3.0
ARENA (Alignment Research Engineer Accelerator) 是国外已验证
有效的 AI 安全性技术课程。
这次我们引进台湾,让大家能系统性地学习 AI Alignment 相关技术。
两天你会学到:
Day 1: AI Safety基础与机制解释性
- AI Alignment 重要性与当前挑战
- Transformer 架构深度理解
- Sparse Autoencoders (SAE) 解释性技术实作
- Mechanistic Interpretability 分析
Day 2: 强化学习与模型评估
- 人类反馈强化学习 (RLHF) 原理与实作
- LLM 评估方法论
- Inspect 评估框架应用
师资与 TAs 阵容
主讲:刘禹彤 (Tik Tok Software Engineer)、吕栢颐 (网媒博四)、
刘祖丞 (Travo AI Lead)
TAs:张嘉泰 (资讯二)、蔡侑宸 (数学四)、胡皓雍 (电信硕零)、
蔡镇宇 (Junyi Academy Data Team Lead)
活动资讯
时间:第一梯次 8/2-3、第二梯次 8/16-17 (周末),10:00--18:00
地点:台大德田馆 R309
人数:每梯次 25 人
费用:免费 (感谢 Open Philanthropy 赞助),并提供免费的午餐 & 下午茶
适合谁参加?
- 有 Python 程式设计经验
- 对深度学习有基本认识
- 能完整参与两天课程
- 对 AI 安全性有学习动机
主要欢迎:大学生 (资讯/电机/数学/物理)、硕士生、对AI有兴趣的高中生或工作人士
实际期待
两天无法让你成为专家,但能够:
- 建立对 AI Alignment 领域的系统性认知
- 掌握基础的机制解释性分析工具,理解 RLHF 在 AI 对齐中的作用
- 获得後续深入学习的明确方向
报名方式
官网:
https://reurl.cc/QaL289
报名表:
https://reurl.cc/yArOxO
这是很好的入门机会,建议有兴趣的同学尽早申请
如果你身边有对 AI 安全性感兴趣的朋友,欢迎标记他们或分享这篇贴文!
主办:AI Safety Taiwan (EA Taiwan)
协办:NTU AI Safety 读书会
#AISafety #AIAlignment
#MachineLearning #Taiwan #ARENA
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 140.112.90.77 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/NTU/M.1753344949.A.C95.html
※ 编辑: ariainaqua (140.112.90.77 台湾), 07/24/2025 22:41:35
1F:推 IsonaEi: 推推,已填报名单 07/25 06:45