腾讯云

ServaRica 本地 AI VPS:专属 Tesla P40 / V100,Strata(Qwen3.8-Flash-Next 125B)跑出优异 tok/s

1

大家好,LES!

今天我们要推出我们精细调优的 GPU VPS 服务。

这些是大型 VPS 实例,每台 VPS 直通一张或多张完整 GPU。GPU 完全专属你的 VPS,宿主机或其他任何 VPS 都不可见。

平台

AMD EPYC 7552 宿主机

预装 GPU 驱动的 Linux 或 Windows 模板

位置:[加拿大蒙特利尔]

配置不是随便定的。我们在两张卡上都跑了 Strata,并围绕在单卡全速运行 Qwen3.8-Flash-Next(125B)所需的 RAM 与 SSD 来构建每个套餐。我们内部也用其中一些 VPS 来做超大规模日志分析与聊天分析任务。

基准测试(在我们自己的虚拟机上)

Strata – Qwen3.8-Flash-Next 125B,128K 上下文

[表格] GPU

[表格] 生成(写)

[表格] 提示处理(读)

[表格] 1× P40

[表格] 39–41 tok/s

[表格] ~450 tok/s

[表格] 1× V100

[表格] 72–79 tok/s

[表格] ~1,160–1,450 tok/s

llama.cpp —— 更小的模型跑得更快

Qwen3.6-35B-A3B:在 P40 上最高 73 tok/s

Qwen3.8-35B-A3B 蒸馏版:在 V100 上最高 154 tok/s

完整的基准测试表格、一步步的 Strata 部署指南,以及一张诚实列出这些卡做不到什么清单,都在每个套餐页面上。

套餐(美元/月)

Tesla P40(每卡 24 GB 显存)

[表格] 套餐

[表格] 核数

[表格] 内存

[表格] NVMe

[表格] 显存

[表格] 价格

[表格] P40 ×1

[表格] 10 专属核

[表格] 40 GB

[表格] 500 GB

[表格] 24 GB

[表格] $139

[表格] 下单

[表格] P40 ×2

[表格] 20 专属核

[表格] 80 GB

[表格] 1 TB

[表格] 48 GB

[表格] $278

[表格] 下单

[表格] P40 ×3

[表格] 30 专属核

[表格] 120 GB

[表格] 1.5 TB

[表格] 72 GB

[表格] $417

[表格] 下单

Tesla V100(每卡 32 GB HBM2)

[表格] 套餐

[表格] 核数

[表格] 内存

[表格] NVMe

[表格] 显存

[表格] 价格

[表格] V100 ×1

[表格] 8 专属核

[表格] 35 GB

[表格] 400 GB

[表格] 32 GB HBM2

[表格] $179

[表格] 下单

[表格] V100 ×2

[表格] 16 专属核

[表格] 70 GB

[表格] 800 GB

[表格] 64 GB HBM2

[表格] $358

[表格] 下单

[表格] V100 ×3

[表格] 24 专属核

[表格] 105 GB

[表格] 1.2 TB

[表格] 96 GB HBM2

[表格] $537

[表格] 下单

带宽 —— 每个套餐都可选择:

100 TB/月,10 Gbps 端口,或

不限流量,250 Mbps 端口,每天增长 1 Mbps,最高至 1 Gbps

为什么要自建而不是用 API?

隐私:这是你自己的服务器。没人看到你的提示,也没人用你的文档训练。

灵活性:随时切换模型。

关于 servaRICA

servaRICA 是一家总部位于加拿大蒙特利尔的 VPS 与独立服务器提供商。
我们拥有并运营自己的网络与基础设施,自 2010 年起提供可靠服务。

位置:加拿大魁北克省蒙特利尔

Looking Glass:ping.servarica.com

测速:speedtest.servarica.net

常见问题(FAQ)

服务条款(TOS)与可接受使用政策(AUP):点击查看

支持的支付方式:PayPal、支付宝、信用卡、加密货币(BTC、ETH 等)

感谢