生成式AI是个人计算历史上最重要的趋势之一，现在在Windows PC上使用NVIDIA的开源库TensorRT-LLM for Windows的速度提高了4倍。这一进步将彻底改变游戏、创造力、视频、生产力、开发等。NVIDIA的GPU配备了专用的AI处理器，称为张量核心。 TensorRT-LLM 很快可以从 NVIDIA 开发者网站下载。TensorRT 优化的开源模型可在 ngc.nvidia.com