Claude를 셀프호스팅할 수 있나요? 솔직한 답

먼저 문자 그대로의 질문부터 정리할게요. Anthropic은 Claude의 모델 가중치를 공개하지 않아요. 다운로드할 것도 없고, 이걸 바꿔주는 라이선스 등급도 없고, 실제로 Claude인 "유출된 Claude"도 없어요. 이 모델은 Anthropic의 인프라에서 돌아가고, 그들의 API와 앱을 통해서만 접근할 수 있어요. 인터넷에서 그렇지 않다고 주장하는 건 전부 그 이름을 쓰고 있는 다른 모델이거나, 애초에 돌리면 안 되는 무언가예요.

그런데 왜 이게 가장 많이 검색되는 셀프호스팅 질문 중 하나일까요? 아무도 실제로 모델 가중치를 돌보고 싶어 하지 않기 때문이에요. 검색 의도를 정직하게 풀어보면 가중치와는 무관한 바람들로 나뉘어요. Claude 수준의 지능을 원한다. 누군가의 제품 계정에 내 축적된 이력이 살아 있는 걸 원하지 않는다. 내 방식대로 하고 싶다 — 내 서버, 내 인터페이스, 내 규칙으로. 이 각각은 2026년에 이미 달성 가능해요.

당신이 소유할 수 있는 계층

AI 어시스턴트는 두 가지로 이뤄져요. 모델(지능, 요청 단위로 빌리는 것)과 에이전트(기억, 대화 아카이브, 파일, 연동, 예약 작업 같은 영속적인 모든 것)예요. 가중치 문제는 오직 첫 번째에만 관련돼요. 두 번째 — 실제로 당신을 축적하는 계층 — 는 그냥 평범한 소프트웨어와 데이터베이스일 뿐이고, 6달러짜리 VPS에서도 훌륭하게 돌아가요.

에이전트는 직접 호스팅하고, Claude는 요청마다 불러온다면, 이렇게 나뉘어요. 개별 요청은 Anthropic의 약관 아래 Anthropic으로 전송되고(이건 어떤 클라우드 모델에든 본질적인 부분이고, 그렇다고 솔직하게 말하는 게 맞아요) — 반면 당신의 대화가 쌓여가는 아카이브, 기억 데이터베이스, 파일, 연동은 당신의 기기를 절대 벗어나지 않아요. 신상 정보는 집에 남고, 문장만 여행을 떠나요.

"하지만 저는 아무것도 나가지 않길 원해요"

그렇다면 당신의 길은 로컬에서 돌아가는 오픈 웨이트 모델이에요. 정당한 선택이고, 전송량이 정말로 0이 되는 유일한 방법이에요. 솔직한 트레이드오프는 이래요. 저희도 전에 이 판단을 내렸고 앞으로도 계속 내릴 텐데, 오늘날 로컬 모델은 어려운 추론과 신뢰성에서 프론티어 Claude를 따라잡지 못해요. 당신의 작업이 그 간극을 견딜 수 있다면 로컬은 아름다운 선택이에요. 견딜 수 없다면, 셀프호스팅 에이전트 아키텍처가 어른스러운 타협이에요. 계속 쌓여가는 계층에는 아키텍처로 지키는 프라이버시를, 쌓이지 않는 계층에는 프론티어 지능을 두는 거예요.

세상에 떠도는 것들 중 조심할 것

"셀프호스팅 Claude"에 대한 검색 결과는 특정한 부류의 콘텐츠를 끌어들여요. 모델을 워드프레스처럼 설치할 수 있다고 암시하는 VPS 벤더 페이지들, 그리고 "Claude API를 사용함"과 "Claude를 셀프호스팅함"의 경계를 흐리는 제품 사이트들이요. 테스트는 질문 하나로 충분해요. 가중치가 어디서 돌아가나요? 답이 "Anthropic의 서버"라면 — 그건 에이전트 아키텍처예요(괜찮아요! 바로 이 글이 추천하는 방식이에요 — 다만 정확한 이름으로 불러야죠). 답이 "당신의 서버"라면 — 그건 Claude가 아니에요.

조립하면 이런 모습이에요

Avelina AI가 정확히 이 아키텍처를, 정직한 이름으로 구현한 거예요. 당신의 VPS에서 사는 셀프호스팅 에이전트고, Telegram으로 당신에게 말을 걸고, 표준 도구로 열어볼 수 있는 데이터베이스에 영구적인 기억을 담아두고, 하루 종일 일하며, 생각은 Claude로 해요. 저희는 Claude를 셀프호스팅하지 않아요. 아무도 그럴 수 없으니까요. 대신 Claude를 둘러싼, 당신 것이어야 마땅한 모든 것을 셀프호스팅해요.

자주 묻는 질문

Claude의 가중치를 다운로드할 수 있나요?
안 돼요. Anthropic은 그걸 공개하지 않아요. 다운로드 가능한 Claude라고 주장하는 건 전부 Claude가 아니에요.

"Claude를 셀프호스팅한다"는 게 현실적으로 무슨 뜻인가요?
에이전트 계층 — 기억, 아카이브, 연동 — 을 당신의 서버에서 셀프호스팅하고, Claude는 요청 단위로 호출하는 거예요.

오픈소스 Claude 대체재가 있나요?
좋은 오픈 웨이트 모델들이 있고 빠르게 발전하고 있지만, 아직 어려운 추론에서 프론티어 Claude를 따라잡는 건 없어요. 진짜 선택지이자 진짜 트레이드오프예요.

API를 쓰면 Anthropic이 제 요청을 보게 되나요?
개별 요청은 그들의 인프라에서 그들의 약관 아래 처리돼요. 셀프호스팅 에이전트는 축적물 — 당신을 설명하는 부분 — 은 집에 남겨둬요.

오늘날 셀프호스팅 Claude에 가장 가까운 건 뭔가요?
Claude로 구동되는 셀프호스팅 에이전트예요 — 정확히 Avelina AI가 그거예요.