NVIDIA通用计算首代架构 Tesla 与 CUDA 1.0 剖析

我们大家都知道英伟达早期是做显卡的，在我上大学的时候，同学们给自己的电脑上配一块英伟达的显卡一般都是为了玩游戏更爽。

但是近些年来随着比特币、大模型等应用场景的火热，英伟达也早就完成了从显卡到通用计算 GPGPU 的华丽转身。造就了今天将近4.3万亿美金市值的巨无霸。

我们今天就从英伟达的第一代数据中心 GPU - Tesla 说起。通过深入地了解第一代 Tesla 架构以及和它配套的 CUDA 1.0。学习完本文后，我们将对以下问题有比较深入的理解。

• 英伟达为啥要从游戏显卡转型科学计算？
• Tesla 中的统一着色架构到底是什么，为什么重要？
• 通用GPU中 SM 流多处理器都包含了哪些硬件模块？
• 为什么合理使用常量能大幅度提升 GPU 的计算能力？
• CUDA如何实现使用C/C++就能进行GPU编程的？

好了，让我们开始今天的 GPU 学习之旅！

一、英伟达游戏卡的困局

先让飞哥带大家把地球时间进度条倒回到 2004 年。

当时英伟达与 ATI（后被 AMD 收购）的显卡大战进入白热化阶段。尽管英伟达通过 GeForce 6/7 系列占据市场优势，但图形市场增长逐渐放缓，且 AMD 凭借 Radeon 9700 Pro 等产品在部分领域实现反超。此时，英伟达继续找到第二增长曲线。

当时就有这么一个领域，科学领域面临计算瓶颈。传统 CPU 集群成本高且不说，而且且性能低下。部分科学研究者开始利用 GPU 的图形 API 和各种 Shader语言（HLSL、GLSL、Cg等）实现了一些图像分割、CT图像重建、快速傅立叶变换、图像以及音视频编解码等算法。

这就让英伟达眼前一亮，原来 GPU 还可以这么玩。于是灵感就来了，如果能在计算场景提供专用硬件，和更方便使用的编程工具，那是不是就能占据通用计算这块市场。这第二曲线不就打开了么！

说干就干。英伟达在 2006 年推出了 Tesla 系列的 GPU，以及 CUDA 编程套件。开始了从显卡到通用计算的转型。

二、Tesla 架构介绍

英伟达在 2006 年开辟了新的通用计算系列产品名字叫 Tesla。

首代 Tesla 通过统一着色架构（Unified Shader Architecture）将传统分离的顶点着色器、像素着色器、几何着色器统一为可编程的流处理器（Streaming Processor）。该流处理器虽然设计上主要是处理可执行顶点、像素等着色图形任务，但也可执行与图形无关的计算指令，为通用计算提供了基础