Вот и кончилось веселье. Мне чатжпт наврал про starcoder2. Она не поддерживает тулы :( И поэтому в агентной системе работать не сможет :(

@Digitual так прям на сайте Олламы можно фильтрануть модели по поддержке инструментов: ollama.com/search?c=tools

@dside так то да, но задача не тривиальная: нужна модель, которая умеет генерировать хороший код на пк без gpu, 16gb ram и запускается через opencode.

@Digitual @dside ты бы еще попробовал найти способ слетать на Марс на автомобиле :)

Follow

@Digitual @dside я пробовал сделать инференс на 12 ядерном проце с 16гб памяти, вышло тухло.

Sign in to participate in the conversation
MustUdon

I like Twitter, but, Mastodon it is so excited! Feel free to register it is server just for fun! Usefull links https://instances.social https://www.reddit.com/r/Mastodon/comments/yugh2o/some_useful_mastodon_lists/?utm_source=share&utm_medium=web2x&context=3