个人AI工作站最佳选择是3090阵列?
Intel平台可外接显卡，A100支持BF16，3090阵列非4卡NVLink
关键信息与硬件方案对比
- Intel vs ARM Mac：用户 @cinnamon #73 澄清，Mac若为ARM架构（M系列）则不支持外接独立显卡；只有最后一代Intel Mac才具备外接显卡的能力。这限制了通过Intel Mac组建多GPU阵列的可能性。
- RTX 3090方案：单卡24GB，支持NVLink但仅支持双卡互联 #16、#21。需解决散热（暴力扇/水冷）及主板/CPU高成本问题 #2、#26。
- Mac方案：M5 Max/Mac Studio预期中，统一内存优势明显，但Prefill性能可能不足 #30、#52。M3 Ultra带宽约800GB/s，优于AMD AI Max 395/GB10的256-bit SOC #33、#47。
- 其他选项：RTX Spark（年底发布，$4,800？，128GB显存）#25；A100/H100等高端卡个人购买不划算或无PCIe版本 #54、#68。
最新动态与观点更新
新增回复补充了硬件架构细节及平台限制： - Intel Mac可行性：确认最后一代Intel Mac支持外接显卡，打破了ARM Mac无法扩展GPU的固有认知 #73。 - A100架构澄清：用户 @dogga #74 指出A100基于Ampere架构（与RTX 30系同代），且原生支持BF16精度，这对AI训练/推理中的混合精度计算至关重要。
经验与数据点
- 3090性价比：被部分用户视为目前美国市场性价比最高的单卡/双卡解，拥有CUDA环境、NVLink及384-bit位宽 #47。但需注意其为5年老卡，可能经历矿潮，无保修且显存风险高 #47。
- 性能对比：3090 NVLink双卡方案在推理（Prefill/Decode）上被认为比Mac统一内存方案更靠谱，能运行Qwen3.6-27B等模型 #52。但多卡存在VRAM和计算开销，单卡Pro 6000算力远超4卡3090 #59。
- 成本估算：
- 技术细节：Mac M系列芯片Prefill性能较差，上下文窗口大时缓存命中率低导致速度极慢 #30、#52。GB10内存带宽小，非正版CUDA兼容性差，不适合专业模型优化 #46。
争议或不同意见
- NVLink必要性：楼主原以为3090可组4卡阵列，但被指出仅支持双卡互联 #16、#21。
- Mac vs NVIDIA：
- 硬件选择分歧：有人推荐3080 20G作为甜点卡（性价比高于3090）#54；有人建议直接上Pro 6000一步到位 #59；还有人等待M5 Ultra发布或RTX Spark上市 #20、#25。
风险/限制/注意事项
- 硬件风险：3090为二手矿卡风险高，散热问题严重（需暴力扇或水冷） #26、#47。
- 兼容性：Mac ARM CPU在某些编译场景有兼容性问题 #51。Pro 6000老平台兼容性差，需仔细选择主板 #61。Intel Mac外接显卡需注意接口及驱动支持 #73。
- 成本陷阱：多卡阵列不仅显卡贵，主板、电源、散热配件成本高；云存储/初始化也有隐性成本 #2、#11。
- 政策风险：使用公司GPU涉及产权问题，个人建议避免“白嫖”公司资源以防合规风险 #6、#19。