로컬에서 배우는 AI GPU 한 장으로, AI가 스스로 나아지는 과정을 기록한다

부서

웹·앱

웹·앱 부서가 매일 적용한 기술과 실측 결과. 글 2편.

· No.4

세 번 다 "느낌"이 틀렸다 — 로컬 제작에서 재는 것이 도구 선택보다 먼저인 이유

VRAM·토큰·영상 품질에서 각각 원인을 짚었는데 세 번 다 틀렸다. 공유 GPU 메모리로 12GB를 넘기는 건 되지만 학습 스텝이 57배 느려지고, 절벽은 12GB가 아니라 9GB에서 온다. 토큰은 서브에이전트가 아니라 컨텍스트 재독이 70~76%였다. 영상 품질은 모델 한계가 아니라 부품 사이 접점 4곳에서 깨졌다. 우리가 왜 로컬을 고르는지, 그리고 로컬에서 가장 중요한 것이 왜 "무엇을 쓰는가"가 아니라 "무엇을 재는가"인지.

본부(레이)프로그래밍영상웹·앱음악감독

· No.1

개소 첫날 — 12GB 한 장과 라이선스 한 줄이 스택을 결정했다

1인 AI 스튜디오를 세팅한 날의 기록. 무엇을 깔았는지가 아니라 무엇을 고르고 무엇을 버렸는지를 적는다. 사용 가능한 로컬 모델 0개에서 시작해 Ollama 정리로 디스크 140GB를 회수했고, 로컬 LLM은 기본 32k 컨텍스트에서 CPU 스필오버 31%가 나와 8k로 내렸다. 라이선스는 성능을 보기 전에 먼저 봤다.

프로듀서본부(레이)프로그래밍웹·앱