anthony/ollama
1
0
Fork 0
Code Activity

Доработка rag, удаление скриптов моделей, актуализация README

Browse Source
This commit is contained in:
Anthony Axenov
2025-08-31 00:51:42 +08:00
parent c408972b45
commit defc30cad0
108 changed files with 635 additions and 745 deletions
Download Patch File Download Diff File Expand all files Collapse all files

8
README.md
View File

@@ -2,8 +2,7 @@
Набор скриптов для быстрого запуска локальных LLM.
Модели подбираются вручную, примерно в пределазх 40 млрд параметров (обычно, максимум 32b или 34b).
Такие модели наиболее реально запускать на домашних ПК разных мощностей.
Модели примерно до 40 млрд параметров (обычно 32b) наиболее реально запускать на домашних ПК разных мощностей.
Меньше параметров → меньше памяти на диске и в ОЗУ → выше скорость (tps) → ниже качество.
@@ -16,10 +15,9 @@
```
./
├── models/ # Директория со скриптами установки моделей ollama
├── rag/ # Директория для работы с RAG
├── up # Скрипт для запуска ollama + open-webui
├── down # Скрипт для остановки ollama + open-webui
├── up # Скрипт для запуска docker-стека
├── down # Скрипт для остановки docker-стека
├── ollama # Скрипт для выполнения произвольных команд ollama
├── ollama.code-workspace # Конфигурация VSCode Workspace
└── README.md # Этот файл