[Workstation] 엔비디아 DGX 스파크 Nvidia DGX Spark Start Building 구축 설명서

https://www.youtube.com/watch?v=AamP-LbGHXQ

<DGX Spark Unbox, Starting> 

DGX Spark / GB10에서 구축 시작

DGX Spark/GB10 시스템에서 AI 워크로드를 사용자 정의하고 실행하기 위한 지침 및 예제 찾기

플레이북 살펴보기

DGX Spark에서 인기 있는 AI 워크플로를 설정하고 실행하기 위한 자세한 지침

FLUX.1 Dreambooth LoRA 미세 조정

사용자 지정 이미지 생성을 위해 Dreambooth LoRA를 사용하여 FLUX.1-dev 12B 모델을 미세 조정합니다.

최적화된 JAX

Spark에서 실행되도록 JAX 최적화

LLaMA 공장

LLaMA Factory로 모델 설치 및 미세 조정

다중 에이전트 챗봇 구축 및 배포

다중 에이전트 챗봇 시스템을 배포하고 Spark에서 에이전트와 채팅합니다.

다중 모드 추론

TensorRT를 사용하여 다중 모드 추론 설정

두 개의 스파크를 위한 NCCL

두 개의 Spark에 NCCL 설치 및 테스트

NeMo로 미세 조정

NVIDIA NeMo를 사용하여 로컬에서 모델 미세 조정

Spark의 NIM

Spark에 NIM 배치

NVFP4 양자화

TensorRT Model Optimizer를 사용하여 Spark에서 실행하기 위해 모델을 NVFP4로 양자화

Pytorch로 미세 조정

Pytorch를 사용하여 로컬에서 모델 미세 조정

AI Workbench의 RAG 응용 프로그램

AI Workbench를 설치 및 사용하여 재현 가능한 RAG 애플리케이션을 복제하고 실행합니다.

추측 디코딩

Spark에서 빠른 추론을 위해 추측 디코딩을 설정하는 방법 알아보기

두 개의 스파크 연결

두 개의 Spark 장치를 연결하고 추론 및 미세 조정을 위해 설정합니다.

Spark에서 Tailscale 설정

Tailscale을 사용하여 어디에 있든 홈 네트워크의 Spark에 연결합니다.

추론을 위한 TRT LLM

단일 Spark 또는 두 개의 Spark에서 실행되도록 TRT LLM을 설치하고 구성합니다.

텍스트를 지식 그래프로 변환

LLM 추론 및 그래프 시각화를 통해 구조화되지 않은 텍스트를 대화형 지식 그래프로 변환

DGX Spark의 Unsloth

Unsloth를 통한 최적화된 미세 조정

비전 언어 모델 미세 조정

Qwen2.5-VL 및 InternVL3을 사용하여 이미지 및 비디오 이해 작업을 위한 비전 언어 모델 미세 조정

추론을 위한 vLLM 설치 및 사용

컨테이너 사용 또는 Spark용 원본에서 vLLM 빌드

비디오 검색 및 요약

Spark에서 VSS 청사진 실행

참고 :

DGX 스파크 | NVIDIA NIM API 사용해 보기

국내 판매처 : 

NVIDIA 엔비디아 DGX Spark Grace Blackwell 128GB 4TB : 서버비즈