차이
문서의 선택한 두 판 사이의 차이를 보여줍니다.
| 양쪽 이전 판이전 판다음 판 | 이전 판 | ||
| tech:ollama [2026/03/13 13:48] – 192.168.0.1 | tech:ollama [2026/08/11 01:04] (현재) – [Ollama] 115.93.88.195 | ||
|---|---|---|---|
| 줄 3: | 줄 3: | ||
| - | |||
| - | | ||
| - | |||
| - | | ||
| - | |||
| - | total duration: | ||
| - | load duration: | ||
| - | prompt eval count: | ||
| - | prompt eval duration: 214.224625ms | ||
| - | prompt eval rate: 88.69 tokens/s | ||
| - | eval count: | ||
| - | eval duration: | ||
| - | eval rate: 19.13 tokens/s | ||
| - | |||
| - | |||
| - | | ||
| - | |||
| - | total duration: | ||
| - | load duration: | ||
| - | prompt eval count: | ||
| - | prompt eval duration: 651.957ms | ||
| - | prompt eval rate: 29.14 tokens/s | ||
| - | eval count: | ||
| - | eval duration: | ||
| - | eval rate: 13.44 tokens/s | ||
| ==== 클라우드 (Cloud / API)==== | ==== 클라우드 (Cloud / API)==== | ||
| 줄 68: | 줄 43: | ||
| * **추천:** `ollama run deepseek-r1: | * **추천:** `ollama run deepseek-r1: | ||
| - | ====💡 Mac mini 32GB 유저를 위한 ' | ||
| - | |||
| - | 이 5가지를 다 깔 필요는 없고, 딱 이렇게 3개만 가지고 계시면 모든 상황에 대응 가능함. | ||
| - | |||
| - | - **메인 비서 (Tools + Thinking): | ||
| - | - **눈이 필요한 비서 (Vision):** `qwen2.5-vl: | ||
| - | - **문서 분석용 (Embedding): | ||
| - | |||
| =====테스트===== | =====테스트===== | ||
| 줄 97: | 줄 64: | ||
| - | + | ||
| - | < | + | |
| - | # 32GB 맥에서 LLM을 위해 GPU 한도를 26GB 정도로 늘리기 | + | |
| - | sudo sysctl iogpu.wired_limit_mb=26624 | + | |
| - | </ | + | |