供应商和超大规模数据中心扩展到企业。越来越多的企业开发人员正在利用带有专有数据的预训练基础模型来重新训练、九游娱乐-平台官网优化和/或构建开源模型。然而，安全问题与本地数据中心基础设施和/或云资源的成本相结合，推动了对替代解决方案的需求。Threadripper 工作站的优势在于能够在本地运行大语言模型（LLM），从而避免与云平台相关的成本。Tirias Research 的测试表明，两款 Threadripper 处理器在使用 PyTorch 运行 Llama-3.1-8B-Instruct 模型时，均表现出良好的性能。它们在 bfloat16 和 float16 量化下，均能以每秒生成 5 到 7 个 token 的速度运行，这足以满足日常文本阅读的需求。考虑到 Threadripper 平台的扩展能力，特别是支持多个高端 GPU，使其成为本地

　　虽然 Threadripper 工作站需要预付费用，但与基于云的服务相比，开发人员访问本地 LLM 开发环境的成本效益越来越高。例如，一个包含机箱和 GPU 的 Threadripper 9980X 系统的预估前期投资为 9700 美元，而 9970X 系统的预估前期投资为 7200 美元。尽管增加了功耗成本（每小时约 0.0525 美元），但与云服务相比，Threadripper 工作站的长期成本效益更具吸引力。例如，与 ThunderCompute、九游娱乐-平台官网Lambda 和 AWS 的 A100 实例的平均成本相比，Threadripper 工作站可以为工程团队节省大量开支。TiriasResearch 分析师 Caiden McGregor 指出，Threadripper 工作站具有运行非AI工作负载的额外灵活性和本地维护所有数据的安全性，这使其成为更具吸引力的选择。

　　尽管 Threadripper 工作站并非专为游戏设计，但其强大的性能也使其在游戏领域展现出潜力。测试表明，两款处理器都能在现代游戏中提供稳定的帧率。9980X 处理器在温度控制和功率效率方面表现更佳，而 9970X 则在所有游戏中保持了相当或更好的帧生成。Threadripper 9000 系列的强大功能，加上像 Nvidia RTX 5090 这样的高性能 GPU，即使在最高性能设置下也能保证稳定的帧率。这使得 Threadripper 9000 系列工作站成为高端游戏、本地AI和 STEM 项目的强大解决方案。

　　你认为，随着AI技术的不断发展，本地AI工作站将如何影响AI领域的生态格局？