차이

문서의 선택한 두 판 사이의 차이를 보여줍니다.

차이 보기로 링크

양쪽 이전 판이전 판
다음 판
이전 판
tech:ollama [2026/03/13 13:48] – 192.168.0.1tech:ollama [2026/08/11 01:04] (현재) – [Ollama] 115.93.88.195
줄 3: 줄 3:
  
  
- 
-   ollama run qwen3.5:9b --verbose  --think=false "월경 주기에 대해서 알려줘" 
- 
- qwen3.5:4b  
- 
-total duration:       43.345010709s 
-load duration:        105.515709ms 
-prompt eval count:    19 token(s) 
-prompt eval duration: 214.224625ms 
-prompt eval rate:     88.69 tokens/s 
-eval count:           807 token(s) 
-eval duration:        42.19583567s 
-eval rate:            19.13 tokens/s 
- 
- 
- qwen3.5:9b  
- 
-total duration:       1m4.25225775s 
-load duration:        3.324773875s 
-prompt eval count:    19 token(s) 
-prompt eval duration: 651.957ms 
-prompt eval rate:     29.14 tokens/s 
-eval count:           798 token(s) 
-eval duration:        59.355316133s 
-eval rate:            13.44 tokens/s 
  
 ==== 클라우드 (Cloud / API)==== ==== 클라우드 (Cloud / API)====
줄 68: 줄 43:
   * **추천:** `ollama run deepseek-r1:32b` (32GB 램에서 돌릴 수 있는 최고 성능의 생각하는 모델)   * **추천:** `ollama run deepseek-r1:32b` (32GB 램에서 돌릴 수 있는 최고 성능의 생각하는 모델)
  
-====💡 Mac mini 32GB 유저를 위한 '풀세트' 추천==== 
- 
-이 5가지를 다 깔 필요는 없고, 딱 이렇게 3개만 가지고 계시면 모든 상황에 대응 가능함. 
- 
-  - **메인 비서 (Tools + Thinking):** `deepseek-r1:32b` (똑똑함 끝판왕) 
-  - **눈이 필요한 비서 (Vision):** `qwen2.5-vl:7b` (사진 분석용) 
-  - **문서 분석용 (Embedding):** `mxbai-embed-large` (PDF 읽기용) 
-  
    
 =====테스트===== =====테스트=====
줄 97: 줄 64:
  
  
- + 
-<file> +
-# 32GB 맥에서 LLM을 위해 GPU 한도를 26GB 정도로 늘리기 +
-sudo sysctl iogpu.wired_limit_mb=26624 +
-</file>+