Ускоритель Nvidia Tesla V100, выпущенный восемь лет назад, продолжает демонстрировать высокую эффективность в локальном запуске нейросетей, обгоняя такие новинки, как RTX 3060 12 ГБ и Radeon RX 7800 XT 16 ГБ. Автор канала Hardware Haven провел тестирование на своем ПК, собранном на базе Tesla V100 SXM2. Ранее такие карты стоили тысячи долларов, но теперь их можно приобрести на вторичном рынке за около $100. Однако для установки потребуется адаптер SXM-to-PCIe, отдельное питание и самодельная система охлаждения. Вся сборка обошлась в $235.

В тестах ускоритель показал впечатляющие результаты: в тесте GPT-oss 20B он выдал 130 токенов в секунду, превосходя Radeon RX 7800 XT с 90 токенами/с. Также в другом тесте с Gemma4:e4b Tesla V100 обошла RTX 3060, продемонстрировав 108 токенов/с против 76. При ограничении мощности до 100 Вт V100 сохраняла преимущества по скорости и энергоэффективности. Это указывает на то, что старые серверные GPU могут быть отличным выбором для энтузиастов ИИ, особенно с учетом их высокой пропускной способности HBM2.