Review or Reviews
테크, 개발, AI, 하드웨어 — 실사용 기반 리뷰와 가이드
최신 글
NVIDIA Nemotron 3.5 Bolt E4B on a Korean Document-QA Benchmark: Scored Against Its Base Model, gemma4 E4B
NVIDIA's Nemotron 3.5 Bolt E4B, released October 23, scored on 299 Korean document questions with known answers, side by side with the model it was post-trained from (gemma4 E4B): same retrieved pages, prompt, judge and quantization label, with thinking off and on. Plus GTX 1080 Ti and RTX 3090 speed, and how to turn thinking on in Ollama.
엔비디아 Nemotron 3.5 Bolt E4B, 한국어 문서 RAG 300문항으로 채점해 보니: 바탕 모델 gemma4 E4B와 같은 조건 비교
엔비디아가 10월 23일 공개한 4B급 로컬 모델 Nemotron 3.5 Bolt E4B를 정답이 있는 한국어 문서 RAG 시험지로 채점했습니다. 바탕 모델인 gemma4 E4B와 같은 검색 결과·같은 지시문·같은 채점기로 생각 모드를 끄고 켜서 비교했고, GTX 1080 Ti와 RTX 3090 속도, Ollama에서 생각 모드를 켜는 방법도 정리했습니다.
Krafton's Raon-1 mini on a Korean Document-QA Benchmark: 300 Questions with Known Answers, Run on an RTX 3090 and Two GTX 1080 Tis
Raon-1 mini preview (30B MoE, ~4B active) scored on 299 Korean RAG questions with gold answers, same retrieved pages and judges as qwen3.8, Claude Opus 5.5 and EXAONE. Plus how to build and run it today, and a thinking-loop issue at temperature 0.
더 보기
크래프톤 Raon-1 mini, 한국어 문서 RAG 300문항으로 채점해 보니: 3090 한 장·1080 Ti 두 장에서 돌린 결과
크래프톤이 10월 21일 공개한 Raon-1 mini preview를 정답이 있는 한국어 문서 RAG 시험지 300문항으로 채점했습니다. qwen3.8·Claude Opus 5.5·EXAONE과 같은 검색 결과, 같은 채점기로 비교하고, Ollama로는 아직 못 돌리는 이 모델을 RTX 3090과 GTX 1080 Ti에서 직접 돌리는 법과 속도도 정리했습니다.
Local RAG Scored on 300 Questions: a 27B on One RTX 3090 Tied Claude Opus 5.5, and Most Misses Happened Before the Model
300 document questions with known answers, 7 local models vs Claude 5.5 on the same retrieved pages, two judges. qwen3.8 27B with thinking tied Opus 5.5; parsing and retrieval caused two thirds of the top models' misses.
로컬 RAG, 한국어 문서에 정말 맞게 답할까 — 정답 있는 300문항으로 채점해 보니 로컬 27B가 Opus 5.5와 비겼고, 남은 점수는 파싱과 검색에서 샜다
공개된 한국어 RAG 시험지 300문항으로 로컬 모델 7종과 Claude 5.5 세 모델을 같은 검색 결과 위에서 채점했습니다. 3090 한 장의 qwen3.8 27B는 thinking을 켜면 채점기 두 개 모두에서 Opus 5.5와 구분되지 않았고, 상위 모델이 틀린 문항의 약 3분의 2는 생성이 아니라 PDF 파싱과 검색 단계에서 근거를 놓친 문항이었습니다.
로컬 LLM 설치 가이드 2026 — Ollama 설치부터 모델 고르기까지 (GTX 1080 Ti 실측)
Ollama 0.40.5 설치, 첫 모델 실행, VRAM별 모델 고르기를 GTX 1080 Ti 두 장에서 직접 재며 정리했습니다. 모델 8개의 속도·실제 VRAM, 정답이 있는 한국어 문제 10개 채점, 처음 쓰는 사람이 걸리는 함정 4가지.
Local AI Music on an RTX 3090: ACE-Step 1.5 vs LeVo 2, Measured — and the Pitfalls Nobody Mentions
ACE-Step 1.5 (MIT) made a 36-second track in about 32 s on an RTX 3090; LeVo 2 took 414 s for four songs and is research-only. The agent couldn't hear, so every check was a number. Ten pitfalls, measured.
GGUF Quantization on a GTX 1080 Ti and RTX 3090, Measured: Q8_0 to Q3_K_M, With and Without imatrix
Seven GGUF quants of Qwen3-8B measured against BF16 on a GTX 1080 Ti and an RTX 3090: KL divergence, speed, VRAM, English and Korean. IQ4_XS was the fastest 4-bit quant on both, and imatrix halved the 4-bit drift.