定义:大模型计算机(LLM Computer)是处理上下文理解与生成的计算系统。
设计原则:
1:上下文相关和上下文无关分离
2:以Memory为中心的计算系统
3:新的Memory有容量,带宽,计算,通信4个维度
4:系统从一维扩展改为二维扩展
5:面向低延迟优化设计的系统
我们的观点:
上下文理解与生成不仅仅是一个算法问题,也对应了一类计算架构,我们将根据这种计算架构设计出的计算系统定义为大模型计算机(LLM Computer); 上下文理解与生成,是一个智能体最基本的功能,我们认为LLM Computer是一个通用计算系统;前述5项原则,描述了一个LLM Computer在设计时所遵守的基本准则。
上述5项原则,已经不再使用冯•诺伊曼体系所定义的Processor, Memory的二元结构,而是以四维Memory为基本单元组成的计算系统,LLM Computer是第一个非冯•诺伊曼体系的通用计算系统,也将成为CPU,GPU之后的第三个通用计算平台。