NAS로 로컬 AI 활용하기: 스토리지, RAM 및 GPU 요구 사항

“최신 프로젝트 도면은 무엇인가요?” 또는 “이 펌프를 언급한 유지보수 기록을 찾아주세요”라고 묻고 싶을 수 있습니다. 파일이 이미 NAS에 있으니 챗봇을 설치하는 것이 자연스러워 보입니다. 하지만 모델을 정상적으로 내려받아도 응답이 느리거나, 메모리가 부족하거나, 잘못된 문서 버전을 검색할 수 있습니다.

두 작업을 따로 계획하세요. 정보 저장과 검색, 그리고 질문을 해석하는 모델 실행. 같은 장비에 둘 수도 있지만 반드시 그럴 필요는 없습니다.

NAS 파일에 AI를 활용하는 세 가지 방법

“로컬”은 실제 처리가 이루어지는 위치를 의미해야 합니다. NAS 대시보드에서 여는 챗봇도 클라우드 모델을 사용할 수 있습니다. 반대로 같은 사무실의 AI 컴퓨터는 NAS 자체에서 추론하지 않고도 NAS 문서를 로컬로 처리할 수 있습니다.

문서 질문에서는 일반적으로 검색 시스템이 관련 구절을 찾아 모델에 제공합니다. 이를 보통 검색 증강 생성, 즉 RAG라고 합니다. 모든 파일로 새 모델을 훈련하는 것과는 다릅니다. 파일이 가까이 있다고 챗봇이 모든 폴더에 정확하게 접근할 수 있게 되는 것도 아닙니다.

RAM, VRAM과 모델 크기: 숫자의 의미

모델 매개변수는 추론에 사용하는 저장된 수치 가중치입니다. 양자화는 이 가중치를 더 적은 비트로 표현합니다. 우선 매개변수 수 × 매개변수당 비트 수를 8로 나누어 가중치 저장 용량을 바이트로 추정합니다. 실행 형식에 따른 추가 오버헤드도 있습니다.

이는 가중치만 십진 GB로 계산한 값이며, 실측 성능이나 구매 최소 조건이 아닙니다. 모델 파일, 시스템 RAM과 GPU 메모리는 서로 다른 자원입니다. 독립형 GPU에는 일반적으로 자체 VRAM이 있으며, 가중치가 NAS 디스크에 들어간다고 해당 VRAM에도 들어가는 것은 아닙니다.

대화가 길어지고 문서가 커지면 모델이 처리해야 할 문맥도 늘어납니다. 여러 사용자가 동시에 사용하면 메모리 요구량이 더 커질 수 있습니다. Ollama의 로드된 모델 상태에서 CPU, GPU 또는 혼합 배치를 확인할 수 있습니다. 가장 작은 데모 프롬프트로 판단하지 말고 예상 문맥과 사용자 수로 테스트하세요.

QNAP과 Synology: 실제 소프트웨어 구성을 확인하세요

QNAP Container Station과 Ollama

QNAP의 Ollama 배포 가이드에서는 Container Station 3.x 이상을 지정하며, 일반적으로 x86-64 Intel 또는 AMD NAS를 사용하고 ARM 지원은 제한적입니다. 초기 메모리 예시는 3B 모델에 8 GB 와 7B 모델에 16 GB이며, 최소 모델 파일 외에 20 GB의 여유 공간이 필요합니다. 이 컨테이너 방식에서는 호환 NVIDIA GPU가 선택 사항입니다. 이 시작 조건은 바쁜 NAS에서 다른 모든 애플리케이션이 사용할 메모리까지 확보한 수치가 아닙니다.

QNAP AI Service Center

AI Service Center는 현재 Beta로 제공됩니다. 요구 사항에는 QTS 6.1.0 또는 QuTS hero h6.1.0 이상이 명시돼 있습니다. Local Models에는 검증된 GPU를 갖춘 x86 시스템과 일치하는 실행 환경/모델 패키지가 필요하며, 지원되는 ARM64 모델은 Cloud Providers를 사용합니다. 이는 CPU 전용 Ollama 컨테이너와 지원 범위가 다릅니다.

QNAP의 QuAgent 설정 가이드에는 TVS-h874같은 TS-x74 제품군이 검증된 NVIDIA 또는 Intel GPU를 사용하는 로컬 모델 후보로 포함됩니다. NAS, 펌웨어, 가속기와 실행 환경의 전체 조합을 확인하세요. PCIe 슬롯이나 “AI” 제품명만으로는 그 조합이 검증되지 않습니다.

Synology Container Manager 또는 별도 AI 호스트

8베이 Synology DS1825+ 는 이 작업 흐름의 스토리지 예시입니다. 실행 환경을 호스팅하기 전에 설치된 DSM 버전의 Container Manager 제공 여부와 컨테이너의 프로세서 아키텍처를 확인하세요. 패키지 지원만으로 GPU 가속이나 언어 모델 응답 속도를 보장하지 않습니다. NAS가 파일 제공과 백업으로 바쁘다면 제한된 NAS 공유에 접근하는 별도 AI 호스트가 더 적합할 수 있습니다.

SSD에 둘 것과 NAS에 보관할 것

원본 문서를 다운로드한 모델, 검색 인덱스와 임시 작업 파일에서 분리하세요. 지원되는 경우 모델 파일과 자주 사용하는 인덱스를 적합한 SSD 스토리지에 두세요. SSD는 로딩과 임의 접근 지연을 줄일 수 있지만, 부족한 RAM을 채우거나 CPU 전용 NAS를 빠른 GPU 서버로 바꾸지는 못합니다.

원본 파일뿐 아니라 모델 버전, 추출 텍스트, 임베딩, 로그와 작업 공간의 용량도 확보하세요. 인덱스 크기는 문서와 소프트웨어에 따라 달라집니다. 모든 AI 인덱스가 NAS 용량을 일정 비율 늘린다는 신뢰할 수 있는 보편 규칙은 없습니다.

별도 AI 컴퓨터를 사용하면 네트워크로 파일을 읽고 인덱스를 갱신합니다. 더 빠른 스위치를 구매하기 전에 실행 환경과 인덱스가 실제 어디에 있는지 파악하세요. 추론이 연산 성능에 묶여 있다면 10GbE 연결만으로 생성되는 단어마다 더 빨리 나오지는 않습니다. NAS 전송 속도 가이드 를 통해 스토리지와 네트워크 부분을 구분해 확인할 수 있습니다.

파일 검색은 권한을 준수해야 합니다

모든 부서의 파일을 읽는 서비스 계정은 일반 직원의 접근 범위보다 넓은 인덱스를 만들 수 있습니다. AI 앱이 이후 채팅 페이지를 여는 누구에게나 해당 구절을 제공한다면 폴더 권한만으로는 충분하지 않습니다.

전용 읽기 전용 공유로 시작하고 검색 시 사용자별 필터링을 테스트하세요. 파일 삭제, 접근 권한 변경이나 버전 교체 시 이전 내용이 인덱스와 캐시 답변에서 제거되는지 확인하세요. 인덱스와 앱 설정도 복구 계획에 포함하세요. 원본이 보호돼 있어도 추출된 민감 정보가 들어 있을 수 있습니다.

실행 환경을 적절한 인증이 적용된 제한된 로컬 네트워크에 두세요. 인증 없는 모델 엔드포인트를 라우터 포트 포워딩으로 노출하지 마세요. 클라우드 대체 처리, 임베딩 서비스와 외부 커넥터를 각각 검토하세요. 로컬 언어 모델이라고 주변 모든 서비스가 로컬인 것은 아닙니다.

파일 이름 변경, 권한 변경이나 백업 설정을 할 수 있는 에이전트는 읽기 전용 검색과 다른 승인 범위가 필요합니다. 제안과 통제된 작업으로 시작하세요. AI 지원 NAS 보안 검토 가이드 에서는 생성된 지시를 모두 설정 변경으로 취급하지 않고 어시스턴트로 경고를 조사하는 방법을 다룹니다.

하드웨어 추가 구매 전에 실용적인 시범 운영

1. 작업 하나를 선택하세요: 예를 들어 승인된 소규모 문서 모음에서 유지보수 절차를 찾습니다. 처음부터 모든 공유 폴더를 대상으로 하지 마세요.
2. 알고 있는 질문 다섯 개를 준비하세요: 일반 검색, 이전 버전, 답이 없는 질문, 제한된 문서와 OCR이 필요한 스캔 PDF를 포함하세요.
3. 먼저 사용자 한 명으로 실행하세요: 모델, 양자화, 가용 RAM/VRAM, 문맥과 응답 시간을 기록하세요. 인용이 올바른 원본을 여는지 확인하세요.
4. 일상적인 NAS 작업 중 반복하세요: 파일 접근, 백업 작업, 메모리 압박과 응답성을 확인한 다음 예상 동시 사용자를 추가하세요.
5. 변경과 복구를 테스트하세요: 문서 교체, 권한 제거, 테스트 파일 삭제와 앱 설정 복원을 수행하고 답변이 변경 사항을 반영하는지 확인하세요.

스캔 파일의 경우, OCR과 검색 가능한 NAS 문서 가 다음 전제 조건입니다. 사진 정리는 별도 작업 부하이며 다음에서 다룹니다: Synology Photos와 QNAP QuMagie.

자주 묻는 질문