上一次写关于类似（大语言模型）的思考是在去年10月份了，主要是关于LLM机理、预训练、微调等算法层面的思考。不过后面也提到了未来的方向，以及行业的思考。到今天看那些内容依然实用，而且有种“预判”逐渐成真的感觉。其实我个人很不喜欢预言、预测或诸如此类的事物，但当我们对一个行业了解的足够多、足够深时，很多时候对一些方向性问题的判断就会比较准确。

言归正传，今天正好看到了OpenAI前首席研究官Bob McGrew采访（中文版），又有了新的想法，正好也谈一谈最近的一些思考。主要围绕着采访中的主题，谈谈自己的看法。

More →