Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
AI技术数码

AI硬件升级指南:GPU和内存优先,CPU一般够用

各种开源AI软件,包括AI绘画、AI语音、AI视频、AI换脸等层出不穷,在多个领域广泛应用,造就了一波为了AI而升级机器的热潮。这里面有人是刚性需求,生产力发展需要,有人是为了尝鲜。但无论如何,钱花在刀刃上,才是真理。

其实大多数开源AI程序,对GPU,也就是显卡的要求很高,也很吃内存,但是对CPU的要求不高。以老王的两个笔记本,处理器分别是i7 11800H,i712700H,分别是8核心16线程,12核心20线程,二者于台式机相比,跑AI程序时,CPU从来不会拉跨,占用率未出现过拉满的情况,而二者的16G内存,以及6G显存的RTX3060显卡,经常吃紧甚至挂掉。乘着双十二老王更新了下机器,买了几根16G的笔记本内存条,一个4060TI显卡,一个扩展坞,内存还没到,先把扩展坞和显卡接上笔记本,在CPU性能稍弱的11800H笔记本上,顺利跑完了以前会卡死,爆显存的各种AI程序,体验非常丝滑,在GPU拉满的情况下,CPU占用率最高也就在60%多。相信明天内存到了之后,每个笔记本扩展到24G或者32G内存,体验会更好。

ChatGPT和谷歌Bard也对这个现象进行了解释,开源AI程序对显卡和内存的要求通常高于CPU主要是由于以下几个原因:

  1. 并行处理能力:AI和深度学习算法涉及大量的并行计算,特别是在处理复杂的神经网络时。现代GPU(图形处理单元)被设计用于高效地处理这些并行任务,比起CPU来说,在处理这种类型的任务时更加高效。GPU拥有成百上千的核心,能够同时处理多个运算任务,而CPU核心数量相对较少,更适合执行序列计算。
  2. 内存需求:深度学习模型,尤其是大型模型,需要处理和存储大量的数据。这包括训练数据、模型参数、中间计算结果等。高性能的显存(GPU内存)能够更快地读写这些数据,提高整体处理速度。与此同时,系统内存(RAM)也需要足够大来支持这些数据的加载和处理。
  3. 特定的硬件优化:许多深度学习框架和库,如TensorFlow和PyTorch,都针对GPU进行了优化,利用了CUDA(适用于NVIDIA GPU)或其他技术来提高计算效率。这些优化使得使用GPU进行AI计算比使用CPU更有效率。
  4. 热效应和能耗:在进行大规模计算时,CPU可能因热效应和能耗限制而无法长时间以最高性能运行。而GPU设计时就考虑了高负荷下的持续运行,因此在长时间进行密集型计算时表现更稳定。

因此,尽管CPU对于整体系统性能很重要,但对于大多数深度学习和AI应用来说,GPU的高并行处理能力和大内存容量更为关键。

所以大家升级硬件的时候,记得优先GPU,大显存的GPU是运行很多AI程序的必要条件,4060TI 16G性价比最高,然后是4070(12G显存)。显卡够了,再配上足够的内存,一般24G就够用,执着对称双通道的,上32G。不过现在显存便宜,不是笔记本的,内存插槽够的话,64G也花不了多少钱。如果你还在犹豫如何升级自己的电脑,希望这篇文章对你有所帮助。

相关文章

确认
Close
Back to top button