Roman @3draven@mtdn.anyqn.com

Нашел тут плагин для обсидиана, который позволяет публиковать посты в мастодон!

Я наконец допер как назвать мой подход к заметкам, в данный момент в обсидиане. Дневник мелочей. Такими каплями информации постепенно я собираю все свои желания, идеи и советы на заданную тему. В итоге появляется заточенный под меня список того, что надо взять в поездку всегда, собирался он много лет и идеален. Никаких забываний или странных внезапных идиотских придумок.

Примерно так можно оценить потенциальный прогресс в этой области в ближайшие годы и его возможную скорость. Есть проблемы, упирающиеся только в размер контекста. Вопрос в том, есть ли за пределами этой группы проблем что то еще. Контекст нейронки нарастят очень быстро, это чисто техническая задача.

Одна картинка, которую мы видим по разным оценкам от 1 до 8 мегабайт данных в секунду. Там еще куча сенсорики, внутренний мир, мышление, гормональщина, все это информация. Примерно таков контекст с которым мы работаем, в итоге это десятки мегабайт данных только на уровне сознания, а он не первый. В то же время у нейронок нынешних это что то вроде нескольких сотен килобайт контекста. Интересно как все поменяется в ближайшие годы как выдут железки морем ram и npu.

Концепт придуманного механизма для мцп сервера запахал. Значит кажись сервер можно сделать.

Придумал как этот мцп сделать получше, кажется, в итоге все равно не ясно как нейронка будет реагировать. Но попробую.

Половинумцп сервера накатал. В следующий заход допишу, они простые. Даже интересно поможет ли это.

Чето хочу написать мцп сервер.

Вижу ролик, обещающий изменить мою жизнь и поскорее проматываю!

Есть фильм такой где на орбитальной станции какой-то хрени следовали и она там вырвалась всех поубивала и всё такое Я сейчас увидел офигенное аниме по мотивам буквально минутный ролик где тоже хрень она вырывается но вместо этого она превращается в кошку и это всё так прям классно нарисовано и эта кошка спасает в результате космонавта и они дружат я прям два раза пересмотрел. Не знаю название там не написано.

После создания базы знаний и принуждения ее использовать, уменьшения проекта в десятки раз, перевода всего на английский, переноса правил в базу знаний (кажется без толку), нейронка стала справляться лучше кажется. Хардкод пропал, логику таскает проще. Но наверное опять показалось.

Заставил нейронку думать на английском, перевел все правила. Токенов английский язык меньше занимает, в контекст влезет больше.

Ну или раг делать на правилах, тоже норм. Они же по колхозному делают текстовый файл. Конечно им и без того забот хватает что бы клиентам деньги экономить.

Им надо было вместо индекса графовую базу юзать и нейронке вместо формирования контекста простыней постоянной генерить его из полнотекстового поиска. Причем нейронку отдельную научить по этой базе искать.

Попробую заменить на эту базу знаний правила из курсора. Так как нейронка сможет искать подходящий под задачу набор правил и контекст не будет так забиваться. В курсоре сделано совершенно не оптимально.

Вообще, масса недоработок. Оно грепает проект вместо того что бы граф хранить. При том, что это именно недоработка, сама нейронка понимает связи и прекрасно заполняет базу знаний. Я немного этот мцп сервер пофиксил только что бы он с русскими символами работал. В своем стиле но с задачей переноса и натягивания логики из одного места в другое, оно справилось. Опять хардкод и грязь, но хоть собирается. Заготовка пойдет.

Применил способ с mcp сервером, который хранит граф знаний в neo4j. Что бы там кратко лежало описание моделей, которые ей в голову не лезут. Кажись даже работает. После уговоров оно идет в поиск по базе знаний и ищет там нет ли уже готовых моделей. Создавать фигню стало реже.

Правда не факт, что лучше станет конечно.

Все ясно, потолок нейронки это 200-300 строк. Если хочешь больше, судя по всему по несколько центов за запрос.

С другой стороны она нередко промахивается при редактировании файлов.