正如我们将在第1.8节中看到的,带宽或吞吐量是在一定时间内完成的工作总量,如磁盘传输的MB/s。相比之下,延迟或响应时间是事件开始和完成之间的时间,比如磁盘访问的毫秒。图1.9显示了微处理器、内存、网络和磁盘的技术里程碑在带宽和延迟方面的相对改进。图1.10更详细地描述了这些例子和里程碑。
图1.9 图1.10中带宽和延迟的里程碑相对于第一个里程碑的对数图。 请注意,延迟提高了8-91倍,而带宽提高了约400-32,000倍。除了网络,我们注意到,自上一版以来的六年中,其他三种技术的延迟和带宽都有适度的改善。延迟为0%-23%,带宽为23%-70%。更新自Patterson, D., 2004. 延迟落后于带宽。【引用自ACM通讯 47 (10), 71-75。】 微处理器、内存、网络和磁盘在25-40年内的性能里程碑。 微处理器的里程碑是几代IA-32处理器,从16位总线、微编码80286到64位总线、多核、乱序执行、超流水线(superpipelined)的Core i7。内存模块的里程碑,从16位宽的普通DRAM到64位宽的双数据率第三版同步DRAM。以太网从10 Mbits/s推进到400 Gbits/s。磁盘的里程碑是基于旋转速度,从3600转/分提高到15000转/分。每种情况都是最佳的带宽,而延迟是假设没有竞争的简单操作的时间。更新自Patterson, D., 2004. 延迟落后于带宽。 性能是微处理器和网络的主要区别因素,因此它们的收益最大。带宽提高了32,000-40,000倍,延迟提高了50-90倍。对于内存和磁盘来说,容量通常比性能更重要,所以容量的提高更多,但400-2400倍的带宽进步仍然比8-9倍的延迟进步大得多。
显然,在这些技术中,带宽已经超过了延迟,而且可能会继续这样做。一个简单的经验法则是,带宽的增长至少是延时改进的平方。计算机设计者应该据此制定计划。