GPU性能缓慢解决方案：NVIDIA利用AI提供新方法

9月25日消息，NVIDIA提交了一项专利申请，计划用大语言模型构建聊天界面，以便让开发者能够通过自然语言排查GPU性能问题。

据报道，该系统被称为基于LLM的聊天界面，连接NVIDIA现有的GPU性能分析工具，开发者可以直接提问：某个工作负载为什么慢、哪部分在拖性能后腿、同一程序的两个版本性能差异在哪。

AI收到问题后，会自动检索相关文档、检查已采集的GPU性能数据，并生成Python或其他脚本来提取回答问题所需的信息，最终给出分析结论。

这套思路类似MCP式的AI工作流，语言模型不依赖自身已有知识，而是调用外部工具获取实时数据，且专利覆盖范围不限于游戏优化，还包括GPU通用计算程序、计算内核及其他工作负载。

该系统不会自动修复代码，而是帮开发者更快定位瓶颈所在，NVIDIA想让AI充当中间层，降低分析门槛。毕竟现代GPU架构复杂，并非每个开发者，尤其是独立开发者和小型工作室，都有足够的性能分析经验或工具来解读GPU性能数据。

NVIDIA已在GeForce层面推出过类似概念，NVIDIA App中的Project G-Assist支持文字或语音提问，能报告GPU使用率、温度、频率、功耗和帧率，还能推荐或调整游戏画面设置。

但G-Assist面向普通玩家，功能限于读取系统状态和调整设置，此次专利面向开发者，深入到代码和性能数据层面，分析的是GPU工作负载本身的瓶颈，而非简单汇报硬件状态。