1.硬核观察 #1112 1/7 的驱驱动 Linux 内核代码是 AMD GPU 驱动代码
2.GPU的架构(一)
3.GPU driver和CUDA_toolkit、cuDNN及CUPY安装
4.Amdgpu driver——Module Parameters
5.NVIDIA重磅官宣！动源全面开源GPU内核驱动：闭源显卡驱动将被弃用
6.Android 怎么获取GPU驱动版本

硬核观察 #1112 1/7 的程序 Linux 内核代码是 AMD GPU 驱动代码

       Linux 内核代码的硬核观察揭示了一个显著的事实：AMD GPU 驱动代码占据了内核源代码的1/7以上，具体超过了万行。驱驱动这其中包括AMD为每代新GPU提供的动源大量自动生成的头文件，它们就像详尽的程序瑞贝生 源码文档，反映出AMD对驱动开发的驱驱动投入。相比之下，动源英伟达开源的程序Nouveau驱动代码只有约万行，显示出AMD在内核贡献上的驱驱动巨大影响力。

       尽管AMD在代码贡献上积极主动，动源但老王对此提出疑问：在内核中不断增加代码是程序否真的有益？尤其考虑到ReiserFS的命运。曾经流行的驱驱动ReiserFS日志文件系统因开发者的个人问题而停滞，最终在Linux 5.及后续版本中被标记为废弃。动源其后，程序随着主要开发者入狱，ReiserFS项目逐渐消亡，反映出开发者社区对项目污点的敏感和项目延续性的依赖。

       另一个例子是Visual Studio for Mac，微软的Mac版开发工具，从开源到闭源，最终被计划在年废弃。VS Mac曾作为.NET IDE，但与Windows版本的差距明显。微软在发现VS Code更受欢迎后，逐渐淘汰边缘项目，而MonoDevelop的开源替代品DotDevelop仍在持续发展中。

GPU的架构(一)

       GPU驱动框架：连接与优化的核心

       驱动框架是GPU与操作系统、窗口标准之间的桥梁，它影响着图形渲染的效率。驱动不仅管理着编译器，如shader和kernel，确保兼容性和性能，云短信php源码对于低端GPU，它可能需要简化语法支持。通用计算功能则是通过将kernel转换为可执行的任务，实现高效并行处理。

       图形渲染环节则需要精心优化，通过帧管理器，重复渲染被高效组织，避免不必要的计算。内存管理是关键，显存管理可能不在GPU直接控制范围内，而是通过驱动间接处理。

       异构性：GPU架构的多样性

       GPU的异构性体现在其多级缓存结构，从高速到低速，为不同任务提供定制化性能。区分于分离架构和耦合式架构，这在PC和移动平台之间形成了显著差异，满足了不同应用场景的需求。

       NVIDIA Fermi架构：深度剖析

       NVIDIA的Fermi架构以其GPC/TPC/SM结构闻名，其中包括SP（Stream Processors）、SFU（Shader Function Units）、缓存和内存接口。Fermi架构有个SM，每个SM内部的复杂细节反映了其强大性能。

       GPU逻辑管线：指令流转与性能优化

       从API调用的drawcall开始，驱动处理并打包成Pushbuffer。GPU接收并执行指令，从顶点着色器到几何着色器，每个阶段都通过逻辑管线进行高效处理。Warp结构和调度策略确保任务并行性和一致性，同时处理早期Z测试以减少无效像素。

       从高级语言到机器指令的编译过程，虽然通常在离线完成，听歌猜曲源码但GPU实时执行的性能优化技术，如VRS和MVR，正在推动图形渲染的革新。物理引擎借助NVIDIA的PhysX和FleX等技术，为逼真交互提供强大的支持。

       挑战与未来：网格着色与GPU技术的前沿

       随着网格着色的兴起，GPU能力不再局限于传统的顶点和像素操作，而是扩展到高级几何合成和LOD管理。新技术如VRS、Texture-Space Shading和MVR，不断优化渲染效率与视觉质量。GPU架构的持续演进，如RTX平台，将光线追踪、AI加速和图形处理提升到了新的高度。

GPU driver和CUDA_toolkit、cuDNN及CUPY安装

       笔记本电脑的GPU驱动已经过时，导致无法安装新软件，于是进行了更新。

       对于新手而言，安装GPU driver、CUDA Toolkit、cuDNN等是一个大挑战，容易出错且难以定位问题。

       这三者的关系是：GPU driver是底层硬件与软件的桥梁，它决定了CUDA版本，而CUDA版本又决定了cuDNN版本，进而影响上层应用如tensorflow、pytorch、cupy、oneflow等。

       首先，创建内存盘源码安装GPU driver至关重要，我花费了很长时间才成功安装。

       安装的关键是下载驱动到本地进行安装。

       安装完成后，可以在NVIDIA控制面板查看驱动和CUDA版本。

       接下来，安装CUDA Toolkit和cuDNN，根据CUDA版本下载对应的cuDNN版本，解压后复制到CUDA文件夹下。

       安装cupy后，即可实现GPU加速。

       安装pytorch有两种方法：直接从官网下载安装，或通过清华源下载whl文件后使用pip安装。

       安装TensorFlow时，如果遇到“Cannot uninstall wrapt”错误，需要先运行命令再重新安装。

Amdgpu driver——Module Parameters

       本文主要介绍amdgpu驱动程序的模块参数，这些参数主要依据内核文档：模块参数 - Linux内核文档 (kernel.org)。

       amdgpu驱动程序支持以下模块参数：

       vramlimit（int）

       用于限制测试时的VRAM大小（以MiB为单位），默认值为0，表示使用完整VRAM。

       vis_vramlimit（int）

       限制测试时CPU可见的VRAM大小（以MiB为单位），默认值为0，表示所有CPU可见的vram。

       GartSize（uint）

       测试时限制GART（用于内核）的大小（以Mib为单位），默认值为-1，取决于asic。

       gttsize（int）

       限制GTT域（用于用户空间）的大小（以MiB为单位），默认值为-1，使用1/2 RAM，最小为3GB。

       moverate（int）

       设置最大缓冲区迁移速率（以MB/s为单位），锤子曲线源码默认值为-1，设置为8MB/s。

       audio（int）

       设置HDMI/DP音频，仅影响非DC显示器处理，默认值为-1，启用；设置为0，禁用。

       disp_priority（int）

       设置显示优先级（1=正常，2=高），仅影响非DC显示器处理，默认值为0，自动设置。

       hw_i2c（int）

       启用硬件i2c引擎，仅影响非DC显示器处理，默认值为0，禁用。

       pcie_gen2（int）

       禁用PCIE Gen2/3模式（0=禁用，1=启用），默认值为-1，自动启用。

       msi（int）

       禁用MSI（消息信号中断）功能（1=启用，0=禁用），默认值为-1，自动启用。

       lockup_timeout（字符串）

       设置GPU调度超时值（以毫秒为单位），格式为[Non-Compute]或[GFX，Compute，SDMA，Video]。默认为0或负值，将调整为默认超时值。

       dpm（int）

       覆盖动态电源管理设置（0=禁用，1=启用），默认值为-1，自动设置。

       fw_load_type（int）

       设置不同固件加载类型进行调试（如果支持），如果ASIC支持则设置为0直接加载；设置为-1选择ASIC的默认加载模式。默认值为-1，自动设置。

       aspm（int）

       禁用ASPM（自动电源管理）（1=启用，0=禁用），默认值为-1，自动启用。

       runpm（int）

       覆盖dGPU运行时电源管理控制。amdgpu驱动程序可以在空闲状态动态关闭dGPU电源（如果支持）。默认值为-1，自动启用；设置为0禁用此功能；设置为-2，当连接显示器时自动启用关闭电源。

       ip_block_mask（uint）

       覆盖在GPU上启用的IP模块（如gfx、display、video等）。每个GPU都是IP模块的集合，使用此参数可禁用特定块。请注意，IP块没有固定索引，有些ASIC可能没有某些IP或可能包含一个IP的多个实例，因此从ASIC到ASIC的顺序各不相同。请参阅内核日志中的驱动程序输出以获取ASIC上的IP列表。默认值为0xffffffff，启用设备上的所有块。

       ...（其他参数内容省略，以保持文章长度控制）

NVIDIA重磅官宣！全面开源GPU内核驱动：闭源显卡驱动将被弃用

       NVIDIA已做出重大公告，决定全面转向开源GPU内核驱动，逐步淘汰闭源驱动。在R驱动发布后的持续发展，R版本的到来标志着这一转变的正式实施。从R驱动开始，所有GPU驱动将采用开源内核，这不仅性能与闭源相当甚至有所提升，还包含了异构内存管理、机密计算和Grace平台一致性内存架构等新特性。

       值得注意的是，开源内核模块并非适用于所有GPU。Grace Hopper和Blackwell顶级平台将仅支持开源，旧版的Maxwell、Pascal或Volta架构则不兼容，用户仍需使用专有驱动。对于Turing、Ampere、Ada Lovelace和Hopper架构的较新GPU，NVIDIA建议切换至开源选项，以利用其带来的便利和灵活性。

       这一转变对Linux用户和开发者来说是个好消息，开源驱动将有助于开发者深入理解内核事件调度与工作负载交互，提升调试效率。企业软件开发者也能更轻松地将驱动集成到定制Linux内核中，增强了系统的定制性和适应性。

Android 怎么获取GPU驱动版本

       通过文档的查找，以及源码的剖析，Android的GPU信息需要通过OpenGL来获取，android framework层提供GL来获取相应的参数，而GL要在使用自定义的View时才可以获得，下面是获得GPU信息的例子： 1.实现Render类 [java] view plaincopy class DemoRenderer implements GLSurfaceView.Renderer { public void onSurfaceCreated(GL gl, EGLConfig config) { Log.d("SystemInfo", "GL_RENDERER = " +gl.glGetString(GL.GL_RENDERER)); Log.d("SystemInfo", "GL_VENDOR = " + gl.glGetString(GL.GL_VENDOR)); Log.d("SystemInfo", "GL_VERSION = " + gl.glGetString(GL.GL_VERSION)); Log.i("SystemInfo", "GL_EXTENSIONS = " + gl.glGetString(GL.GL_EXTENSIONS)); } @Override public void onDrawFrame(GL arg0) { // TODO Auto-generated method stub } @Override public void onSurfaceChanged(GL arg0, int arg1, int arg2) { // TODO Auto-generated method stub } } 2.实现GLSurfaceView [java] view plaincopy class DemoGLSurfaceView extends GLSurfaceView { DemoRenderer mRenderer; public DemoGLSurfaceView(Context context) { super(context); setEGLConfigChooser(8, 8, 8, 8, 0, 0); mRenderer = new DemoRenderer(); setRenderer(mRenderer); } } 3.在Activity中 new 一个 DemoGLSurfaceView 对象 4.设置这个View对象 [java] view plaincopy public class Demo extends Activity { @Override public void onCreate(Bundle savedInstanceState) { super.onCreate(savedInstanceState); GLSurfaceView glView = new DemoGLSurfaceView(this); this.setContentView(glView); } }

为什么gpu需要驱动程序?而cpu则不需要?

       GPU与CPU分别运行各自的系统，二者独立但需相互交流数据与指令。GPU的驱动程序在主操作系统中充当GPU客户端的角色，这是其与CPU交互的桥梁。同样，GPU固件中也应具备接收与发送端处理程序，用于与CPU端程序交互。GPU需要与CPU进行沟通，因此驱动程序的存在至关重要。若说CPU无需驱动，这显然并不准确。

       驱动程序在GPU与CPU间扮演重要角色，确保二者有效通信。CPU运行主操作系统，GPU则运行其内部操作系统，两者之间需要驱动程序作为桥梁，以实现数据和指令的传递。没有驱动程序，GPU将无法与CPU有效沟通，导致系统运行出现问题。因此，GPU需要驱动程序，而这一需求同样适用于CPU。在CPU与GPU间，驱动程序充当着双方沟通的媒介。

       综上所述，尽管GPU和CPU在运行各自的系统，但两者仍需通过驱动程序进行数据与指令的交流。GPU驱动程序作为GPU客户端与主操作系统之间的连接，CPU固件中的接收与发送端处理程序则确保与CPU的交互。没有这些驱动程序，系统的正常运行将受到影响。因此，无论是GPU还是CPU，驱动程序的存在都是其操作和功能实现的关键。不能简单地认为CPU不需要驱动程序，因为这忽视了驱动程序在两者之间沟通中所扮演的重要角色。

GPU驱动程序需要升级么？

       gpu驱动程序，其实就是显卡驱动程序需要升级。

       直接用驱动精灵升级就好。

       1、在官网下载驱动精灵标准版；

       驱动精灵官网

       2、安装好后，启动驱动精灵，点击主界面的“驱动管理”；

       3、等待扫描完成，滑动鼠标找到显卡选项，点击驱动升级；

       4、等待驱动升级安装完成即可

使用Docker搭建GPU训练环境

       构建宿主机环境

       为了确保Docker容器能够访问宿主机的GPU资源，搭建宿主机环境时需完成以下步骤：安装GPU驱动、Docker和NVIDIA Container Toolkit。

       安装GPU驱动

       首先，访问NVIDIA官网下载与显卡和操作系统对应的驱动版本（本示例中文件为NVIDIA-Linux-x_-...run）。接着，通过命令安装build-essential工具集，以便驱动安装。随后，赋予驱动文件权限并执行安装命令。重启系统后，通过输入命令验证显卡信息以确认驱动安装成功。

       安装Docker

       通过github安装Docker，如果网络不佳，可选择gitee安装。启动服务并验证安装。

       安装NVIDIA Container Toolkit

       如果初次尝试安装失败，请参照NVIDIA官方文档进行安装。

       安装完成后，Docker、NVIDIA所需环境搭建完毕。

       CUDA安装

       值得注意的是，GPU驱动与CUDA是两个不同的概念。驱动使系统识别显卡，而CUDA作为翻译层，将编程语言的并行计算指令转化为GPU理解的形式。CUDA通常不需要手动预先安装，PyTorch等框架在安装过程中会自动处理依赖，确保与CUDA版本兼容。

       两种Dockerfile方法

       构建容器环境时，可选择以下两种方法之一：拉取特定版本CUDA的镜像或仅拉取普通Ubuntu镜像。

       拉取特定版本CUDA镜像

       确定CUDA版本和PyTorch版本，确保与驱动版本兼容。下载miniconda并编写Dockerfile，构建镜像后启动容器。若无错误提示，表示GPU正常加载。

       拉取普通Ubuntu镜像

       同样，确定CUDA和PyTorch版本，并在安装PyTorch时指定版本，以自动安装兼容的CUDA。下载miniconda，编写Dockerfile，构建镜像后启动容器。检查GPU加载情况。

       容器内操作

       不论采用哪种方法，容器内即可利用宿主机的GPU资源进行模型训练和推理工作。