Gddr 5 работает с примерно 16.0–32.0 GB/s скоростью. Ссд диск работает со скоростью 3гб в секунду (бывает и выше). Если сделать 4 диска в параллель, а потом использовать direct write, то они дадут примерно такую же скорость, что и видеопамять в нижней границе при объеме памяти в терабайты.
Вот интересно почему народ до сих пор не заюзал это для домашних нейронок?
@3draven
1. современные видеокарты используют множество каналов параллельно (256-bit или 384-bit шина), реальная пропускная способность GDDR5 достигает 448-768 GB/s.
2. разница в латентности: SSD: ~100 микросекунд, GDDR5: ~10 наносекунд,
разница в 10000 раз критична для работы нейросетей
3. SSD оптимизирован для последовательного чтения/записи, GDDR для параллельного, при произвольном доступе производительность SSD падает на порядки
P.S. все равно не сможешь купить на грош пятаков