언제부턴가 ollama가 무척 무거워져버렸다. 그래서 llama.cpp로 갈아탔다. 나빼고 모두 갈아탄 듯하다.ㅋㅋㅋ 모델은 Gemma 3 (40억 파라미터). 미리 말하는데 얘 영어뿐만 아니라 다른 언어도 구사한다 (한국어와 중국어 해봄)https://huggingface.co/ggml-org/gemma-3-4b-it-qat-GGUF ggml-org/gemma-3-4b-it-qat-GGUF · Hugging FaceWe’re on a journey to advance and democratize artificial intelligence through open source and open science.huggingface.co ChatGPT 비상계엄 대응 연습 시나리오를 했는데, 나 얘 맘에 드는 ..