Скорость ссдшников уже под 20гбтв секунду обещают, когда уже выйдет видяха где память на них, в многоканал подключенных! Нвидия зажопит, но куда смотрит интел и амд!? И нонейм китайцы?
@3draven sandisk обещает инференс с ультра-быстрой флеш-памяти до 4тб
так что вполне возможно, что в ближайшем будущем мы увидим компактные девайсы с моделями не хуже deepseek-1
@burbilog так оно же опенсорс, так что базу скачаешь и дальше дистиляция или фит под свои нужды, это намного проще вроде.
@3draven а вот с этим сложно -- расцензурить deepseek все равно прорва gpu-часов надо, причет при обучении как раз быстрая память нужна