Follow
Скорость ссдшников уже под 20гбтв секунду обещают, когда уже выйдет видяха где память на них, в многоканал подключенных! Нвидия зажопит, но куда смотрит интел и амд!? И нонейм китайцы?
@burbilog да, жду что-то такое и надеюсь. Простор для бесцензурных нейронок просто конский.
@3draven а вот с этим сложно -- расцензурить deepseek все равно прорва gpu-часов надо, причет при обучении как раз быстрая память нужна
@burbilog так оно же опенсорс, так что базу скачаешь и дальше дистиляция или фит под свои нужды, это намного проще вроде.
@3draven sandisk обещает инференс с ультра-быстрой флеш-памяти до 4тб
так что вполне возможно, что в ближайшем будущем мы увидим компактные девайсы с моделями не хуже deepseek-1
https://www.tomshardware.com/pc-components/dram/sandisks-new-hbf-memory-enables-up-to-4tb-of-vram-on-gpus-matches-hbm-bandwidth-at-higher-capacity