作者ewings (火星人当研究生)
看板Aviation
标题Re: [闲聊] 人工智慧全盘掌握民航机飞行的可能性？
时间Tue Aug 27 00:13:09 2024
※ 引述《amanda815625 ()》之铭言：
: 飞机的自动控制系统
: 从上个世纪就有开始开发
: 包括自动驾驶和自动油门
目前还没办法交给AI的最大原因，就是没人知道AI里面是什麽，
人类不知道AI会不会因为跑道上出现一头猪，然後决定将整架飞机插进草地上？
早期的AI是由人类透过程式建立规则，使系统能够在特定的场景下做出特定的反应，
此时人类可以确保自己知道AI的底层逻辑是什麽，也能找到bug在那边，
但是这样的系统受限於人类无法设想所有可能发生的离谱事件，
所以这样的系统是非常具有局限性的，如果遇到设想外的状况，
AI就无法应对。
而自从机械学习、深度学习、大语言模型的出现，
配合海量的资料库，AI可以自我学习，而不需要人类逐条建立规则，
现在AI的性能相较早期的AI有剧烈的提升，
但是这带来另一个问题是，人类无法掌控AI到底学会了什麽。
就以ChatGPT为例，它并没有自发产生人类的道德感，甚至会说谎来回答问题，
就连OpenAI的创办人奥特曼也承认人类目前也还不能理解AI底层是怎麽运作的。
如果一个没有在底层就加入人类道德判断的AI，
你又怎麽有办法相信这个AI会优先保护人类而不是跑道上的猪呢？
这个问题在上个世纪就由以萨克.艾西莫夫探讨过，而提出的方案就是机器人三定律，
然而目前AI技术的发展，却还没有能力将机器人三定律写入AI的最底层里，
因此最後还是需要人类进行监督，而如果需要人类监督，
就没比现在的自动驾驶与ILS来的有优势。
飞机和汽车不同，飞机的安全标准要远高於汽车，
而汽车到现在还无法做到不在人类监控下的完全自动驾驶，
安全标准更高的民航业更不可能近期内放心交给AI。
: 从最早期的机械控制到後来的电子控制
: 飞机的电脑和系统一直在进步
: 目前飞机起飞和降落
: 基本上都是机长和副机长控制
: (早期有飞航工程师)
: 但有系统辅助
: 降落时如果复飞也可以交给电脑
: 那如果开发出人工智慧系统
: 全盘让人工智慧接管飞机的起飞和降落
: 不只是无人机
: 而是民航机由人工智慧AI来驾驶
: 在技术上是否有可行性呢？
: 从自动导航
: 变成人工智能AI导航
: 再变成人工智慧接管全部程序
: 不只是固定在37000英尺巡航高度的时候
: 而是包括起飞和降落
: 通通由人工智慧来控制
: 人类不干预
: 这样有没有可能做到？？
--
乱喂流浪狗的人其实和渣男没什麽两样
一个是让狗以为自己是有主人的狗，一个是让人以为感情有了归宿
但都只是做半套不想完全负责而已
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.32.235.116 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Aviation/M.1724688794.A.6D2.html
1F：推 c52chungyuny: 先做到一架飞机单一驾驶员吧 08/27 04:04
2F：推 miragejames: 推分析 08/27 06:41
3F：推 Answerme: AI飞机那乾脆AI旅行就好了，直接远端机器人开机帮你登机 08/27 08:03
4F：→ Answerme: checkin，商务探亲旅游免出门免坠机空难 08/27 08:03
5F：→ pippen2002: 先去帮忙洒农药都盯垃圾? 08/27 10:12
6F：推 akira30: ChatGPT你的理解是错的，他是个语言模型，他负责的是接 08/27 16:51
7F：→ akira30: 话游戏自然不会知道自己是不是在幻想，他计算的是字和字 08/27 16:51
8F：→ akira30: 之间结合的机率。另外目前光自动驾驶其实就很够民航使用 08/27 16:51
9F：→ akira30: 了 08/27 16:51
10F：→ ewings: 连LLM都无法透过人类语言资料训练出人类的道德观，更复杂 08/27 18:00
11F：→ ewings: 的AGI要怎麽训练出人类的道德？ 08/27 18:00
12F：推 gruenherz: AI知道人没有道德，所以乾脆不需学习？ 08/27 18:17
13F：推 yuzuki: 这麽说来我们也经常不知道人类在干嘛，明明没有东西故障， 08/27 23:50
14F：→ yuzuki: 却也做出莫名其妙的决定 08/27 23:50
15F：→ ewayne: 因为很多负责写程式的人都不怎麽重视道德阿... 08/28 02:20
16F：→ sammy98: 连人都会关错引擎了 Ai怎麽学正确的？ 08/28 06:41
17F：推 pooh24: 现在是human factor，以後要变AI factor了 08/28 09:55