LM Studio API 서버 설정

날짜:

LM Studio API 서버 설정 과정을 설치, 모델 다운로드, Developer 탭 서버 시작, localhost 엔드포인트 테스트까지 정리해 개인 PC에서 로컬 LLM API를 안정적으로 운영하는 방법입니다. 앱 기반 설정과 CLI 서버 실행 흐름을 함께 점검하고 범위를 설명합니다

설치와 모델 준비

LM Studio는 개인 PC에서 로컬 LLM을 내려받아 실행하고, 필요한 경우 API 서버로 연결할 수 있는 도구입니다. 설치는 운영체제에 맞는 공식 다운로드를 사용하고, 실행 후에는 모델 검색 화면에서 장비 사양에 맞는 모델을 고르는 절차가 먼저 필요합니다. 처음부터 큰 모델을 선택하면 메모리 부족이나 느린 응답 때문에 설정 문제가 모델 문제처럼 보일 수 있습니다. 테스트 목적이라면 작은 Instruct 모델을 먼저 내려받고, 정상 로드 여부와 응답 속도를 확인한 뒤 큰 모델로 확장하는 방식이 안정적입니다.

lms --version
lms chat

CLI를 함께 사용할 경우 `lms` 명령이 인식되는지 확인합니다. 앱 중심으로만 운영해도 되지만, 서버 시작과 간단한 점검을 터미널에서 반복할 수 있으면 자동화 흐름을 만들기 쉽습니다. 모델을 다운로드한 뒤에는 채팅 화면에서 한 번 응답을 받아 보고, 같은 모델을 API 서버에서 사용할 대상으로 지정합니다. 이 과정을 거치면 서버 설정 문제와 모델 로딩 문제를 분리해 판단할 수 있습니다.

로컬 서버 설정

로컬 API 서버는 LM Studio의 Developer 탭에서 Start server 스위치를 켜면 시작할 수 있습니다. 공식 문서에서는 localhost 또는 네트워크 공개 방식을 지원한다고 설명하며, REST API, TypeScript와 Python 클라이언트, OpenAI 호환 엔드포인트, Anthropic 호환 엔드포인트를 선택할 수 있습니다. 개인 PC에서 먼저 검증할 때는 localhost로 제한하고, 다른 기기에서 접근해야 할 때만 네트워크 공개와 인증 범위를 따로 검토하는 것이 안전합니다.

lms server start --port 1234
curl http://localhost:1234/api/v1/chat \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $LM_API_TOKEN" \
  -d '{
    "model": "openai/gpt-oss-20b",
    "input": "로컬 서버가 응답하는지 확인합니다."
  }'

요청이 실패하면 먼저 서버가 실행 중인지, 포트가 겹치지 않는지, 모델 이름이 실제로 로드된 이름과 같은지 확인합니다. 인증을 켠 환경에서는 토큰 누락도 자주 발생합니다. 외부 앱에서 연결할 때는 엔드포인트 형식이 REST인지 OpenAI 호환인지 구분해야 하며, 네트워크 공개 설정은 방화벽과 같은 로컬 보안 설정까지 함께 확인해야 합니다.

맺음말

LM Studio API 서버 설정은 앱 설치, 모델 준비, 서버 시작, 엔드포인트 테스트를 분리하면 어렵지 않게 안정화할 수 있습니다. 먼저 작은 모델로 로컬 실행을 확인하고, Developer 탭이나 `lms server start` 명령으로 localhost 서버를 띄운 뒤, 실제 사용할 API 형식에 맞춰 요청을 보내면 됩니다. 네트워크 공개와 인증은 편의 기능이 아니라 보안 범위 설정에 가깝습니다. 따라서 개인 개발 환경에서는 localhost 검증을 기본값으로 두고, 필요한 경우에만 접근 범위를 넓히는 방식이 적절합니다.

댓글

댓글 쓰기