https://simonwillison.net/2023/Mar/11/llama/ https://simonwillison.net/2023/Mar/13/alpaca/ Simon Willison提到，很快大家都会有自己的ai助手。 看时间轴： 24th February 2023: LLaMA is announced, starts being shared with academic partners: https://research.facebook.com/publications/llama-open-and-efficient-foundation-language-models/ 2nd March: Someone posts a PR with a BitTorrent link to the models: https://github.com/facebookresearch/llama/pull/73 10th March: First commit to llama.cpp by Georgi Gerganov: https://github.com/ggerganov/llama.cpp 11th March: llama.cpp now runs the 7B model on a 4GB RaspberryPi: https://twitter.com/miolini/status/1634982361757790209 12th March: npx dalai llama: https://cocktailpeanut.github.io/dalai/ 13th March (today): llama.cpp on a Pixel 6 phone: https://twitter.com/thiteanish/status/1635188333705043969 And now, Alpaca. https://crfm.stanford.edu/2023/03/13/alpaca.html ------------------------------------------ 详细想法与内容就请看simon willison的部落格。 我是蛮认同这想法的，LLM(Large Language Model)很快就会普及。 https://cocktailpeanut.github.io/dalai/#/ 自动安装的script都出了。LLaMA的Inference在现代多核CPU跑是可行的，现在优化速度也很快。 离ChatGPT，GPT4还有一段距离，但很够用了，而且整个网路一起发展，可能很快就追上也不一定。我虽然最近超忙，但都想找时间看能不能移植到OpenCL。 我觉得LLM最大的好处是summerize(总结) 例如之前讨论手刻Make的问题。 Make是偶而一用，真的容易忘记指令跟功能，也就不容易发现问题。 LLM在这就很适合帮忙，把make档给它，解释总结，很快就能发现问题，就不须要找很难找到的Make专家。 虽然LLM容易"hallucinate"但用LLM写个简单的Make档案当个开头也很好。 Code看不懂，用太多不明functions？LLM来帮忙。 ffmpeg参数太多太复杂？LLM写给你。 这是当年google横空出世让网路好用起来。再一次大感动。大家真的可以好好追踪这个发展。可以自己控制的LLM，可以发展的功能太多了。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.224.232.158 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1678856174.A.098.html