anthony/ollama
1
0
Fork 0
Code Activity

README misc

Browse Source
This commit is contained in:
Anthony Axenov
2025-08-19 12:09:07 +08:00
parent 92156fdebd
commit 99634d85df
1 changed files with 2 additions and 2 deletions
Download Patch File Download Diff File Expand all files Collapse all files

4
README.md
View File

@@ -10,7 +10,7 @@
Больше параметров → больше памяти на диске и в ОЗУ → ниже скорость (tps) → выше качество. Больше параметров → больше памяти на диске и в ОЗУ → ниже скорость (tps) → выше качество.
Модели до 7 млрд достаточно хорошо отвечают (до 5-10 tps) на i5-9400 CPU 2.90GHz + 32 Гб ОЗУ без видеокарты, при условии, что в один момент времени одна модель обрабатывает один запрос. Модели до 7 млрд достаточно хорошо отвечают (до 5-10 tps) на i5-9400 CPU 2.90GHz + 32 Гб ОЗУ без видеокарты, при условии, что в один момент времени одна модель обрабатывает один запрос.
Например, [phi4-mini:3.8b](phi4-mini/3.8b) или [qwen2.5:7b](qwen2.5/7b). Например, [phi4-mini:3.8b](phi4-mini/3.8b), [qwen2.5:7b](qwen2.5/7b) или небольшая llama.
## Стек ## Стек
@@ -31,7 +31,7 @@
* [Local AI Pilot](https://marketplace.visualstudio.com/items?itemName=nr-codetools.localaipilot) * [Local AI Pilot](https://marketplace.visualstudio.com/items?itemName=nr-codetools.localaipilot)
Для настройки idea поставить плагин: Для настройки idea поставить плагин:
* [AI Coding](https://plugins.jetbrains.com/plugin/21263-ai-coding ) * [AI Coding](https://plugins.jetbrains.com/plugin/21263-ai-coding)
* [MCP Server](https://plugins.jetbrains.com/plugin/26071-mcp-server) * [MCP Server](https://plugins.jetbrains.com/plugin/26071-mcp-server)
Плагины должны соединиться с `localhost:11434` и подгрузить доступные модели из контейнера. Плагины должны соединиться с `localhost:11434` и подгрузить доступные модели из контейнера.