Tech_Job 板


LINE

https://x.com/janleike/status/1791498185627865147 OpenAI安全團隊負責人Jan Leike也宣布辭職了: "在過去的幾個月裡,我的團隊一直在逆風航行。有時我們在計算方面遇到困難,完成這 項重要的研究變得越來越困難。(這是指高層不給足夠算力嗎??) 建造比人類更聰明的機器本質上是一項危險的工作。 OpenAI 代表全人類承擔著巨大的責任。 但在過去的幾年裡,安全文化和流程已經讓位給閃亮的產品。 我們早就該認真看待通用人工智慧的影響了。 我們必須優先考慮盡可能為它們做好準備。 這樣,我們才能確保AGI造福全人類。 OpenAI 必須成為一家安全第一的 AGI 公司。 我想對所有OpenAI員工說: 學會感受 AGI。 採取適合您正在建立的內容的嚴肅態度。 我相信你可以「傳遞」所需的文化變革。 我指望你了。 世界指望著你。 openai-愛心:" 過去幾年,OpenAI安全團隊和Altman因為理念不合(防止AI害人 V.S. 商業營利)不斷內鬥: 2021年 - GPT-3 團隊領導者因安全問題辭職 Dario 和 Daniela Amodei 離開 OpenAI,創辦了 Anthropic,理由是在優先考慮安全研 究方面存在分歧。 達裡奧受訪時表示,他的P(doom)是10-25%。 2021年 - RLHF 安全研究主管辭職 RLHF 的發明者 Paul Christiano 博士從 OpenAI 的安全團隊辭職,創辦了獨立的非營利 組織 Alignment Research Center。 克里斯蒂安諾在接受採訪時表示,他的P(doom)是 50%。 2023年 - OpenAI 董事會解僱執行長 Sam Altman 共同創辦人 Ilya Sutskever 站在 OpenAI 董事會的一邊,投票決定終止 Sam Altman 的 領導職務。 該非營利委員會的使命是確保安全有益的 AGI。 2024年 - OpenAI 解雇了兩位安全研究人員 利奧波德·阿申布倫納 (Leopold Aschenbrenner) 和帕維爾·伊茲梅洛夫 (Pavel Izmailov) 因涉嫌洩露信息而被解僱。 阿申布倫納被視為一顆冉冉升起的新星,也是伊 利亞·蘇茨克韋爾的親密盟友。 2024年 - 關心安全的研究員辭職 Daniel Kokotajlo 辭職的原因是「對 OpenAI 在 AGI 時代負責任地行事失去了信心」 。 他表示他的 P(doom) 是 70%。 2024年 - 首席科學家 Ilya Sutskever 辭職 Sutskever 之前曾說:"無論如何,人工智慧的未來將會是美好的。 如果它對人類也有 好處,那就太好了。 " 2024年 - 超級對齊負責人 Jan Leike 辭職 與 Ilya Sutskever 共同領導 Superalignment 團隊的 Jan Leike 也辭職了。 雷克先 前在接受採訪時表示,他的P(doom)是10-90%。 由於OpenAI離職員工都要簽協議保證不對外說OpenAI壞話(否則拿不到公司股份),外界常 常對離職員工的影射推文感到困惑。為此Altman決定做出回應: https://x.com/sama/status/1791543264090472660 "我非常感謝@janleike對 openai 的對齊研究和安全文化所做的貢獻,我為他的離開感到 非常難過。他是對的,我們還有很多事情要做;我們致力於這樣做。在接下來的幾天裡我 將發表一篇更長的文章。" 希望不是官腔式廢話回應啊! --
QR Code



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.253.177.213 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Tech_Job/M.1716047382.A.520.html
1F:推 earltyro : 廢話 他抄著谷歌臉書 怕安全問題 不敢大力發展的LLM 05/19 01:52
2F:→ earltyro : 模型 跑出來以為自己是救世主 出來賺到爛 微軟收購 05/19 01:53
3F:→ earltyro : 後死都不歸自己 就是OPENAI爆了 你的事 我BING只是 05/19 01:53
4F:→ earltyro : 您客戶端 OPENAI好 那是我的投資 然後同一個模型GOO 05/19 01:53
5F:→ earltyro : GLE META被拿出來安全操練 你的功能 網紅每一個都 05/19 01:53
6F:→ earltyro : 說功能好棒棒 05/19 01:53
7F:→ camp0102 : 內部極其混亂 整個快炸了 05/19 06:17
8F:→ wts4832 : 炸了誰來接盤? 微軟嗎? 05/19 09:21
9F:→ yunf : 遲早被反噬 05/19 13:22
10F:推 kkmon : 內部是都會來ptt分享嗎 XD 大家好熟 05/20 09:05
11F:推 WWIII : 人類要尋死路了 05/20 12:15
12F:推 jamesho8743 : 離職的都是負責AI安全的 是不是在進行什麼危險實驗 05/20 12:48
13F:→ jamesho8743 : ? 看來天網即將誕生 05/20 12:48







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:e-shopping站內搜尋

TOP