Blackbox는 29곳이 넘는 연구소의 서드파티 모델 231개를 OpenAI 호환 단일 엔드포인트로 라우팅하며, 오픈 웨이트 모델을 단일 테넌트 전용 배포로 운영할 수도 있습니다. 좌석이 아닌 토큰 단위로 과금하고, 게이트웨이에서 데이터 무보존을 강제하며, 프롬프트가 폐쇄형 모델에 닿기 전에 개인 식별자를 제거합니다.
이 도구를 사용해 보셨나요? 평점을 남겨 주세요
Blackbox는 추론 플랫폼입니다. 요청을 하나의 엔드포인트로 보내면, 수백 개의 서드파티 모델 가운데 작업에 가장 적합한 모델로 전달되거나, 오직 여러분만을 위해 예약된 하드웨어에서 도는 모델에 닿습니다. 홈페이지는 이 입장을 에두르지 않고 밝힙니다. Blackbox는 "프런티어 추론을 위한 높은 신뢰의 플랫폼"이며, "여러분이 선택한 오픈 웨이트 모델을 전용 배포로" 운영하거나 "300개가 넘는 모델을 하나의 엔드포인트로" 라우팅합니다.
이 규정이 중요한 이유는, 이름에서 예상하는 바와 아마 다르기 때문입니다. Blackbox는 오랫동안 코딩 어시스턴트로 알려져 왔고 검색 결과도 여전히 그렇게 설명합니다. 그러나 지금의 사이트가 앞세우는 것은 추론 인프라와 보안, 그리고 토큰 단위의 경제성입니다. 코딩 관련 표면이 사라진 것은 아닙니다. Agents API, VS Code 확장, CLI가 모두 제품 목록에 있습니다. 다만 이들은 추론 사업 앞이 아니라 그 옆에 놓여 있습니다. 자동완성 플러그인을 기대하고 들어왔다가 기업 계약이 딸린 모델 게이트웨이를 만났다면, 그것은 여러분이 사이트를 잘못 찾은 것이 아니라 제품이 이동한 것입니다.
플랫폼은 세 갈래로 구성됩니다. Enterprise Inference, Blackbox Router, 그리고 Agents & Tooling(Agents API, VS Code 확장, CLI)이며, 공식 문구는 "각 표면은 동일한 토큰 단위 약정을 사용한다"고 못 박습니다. 하나의 잔액이 전부를 덮는다는 점은 아키텍처의 원리이자 상업 모델의 원리이기도 합니다.
이 대목은 별도의 절을 둘 만합니다. "내가 실제로 어떤 모델과 대화하고 있는가"는 이런 플랫폼에서 가장 자주 답을 얻지 못하는 질문이고, 이 분야의 업체들이 때로는 희망 사항이거나, 실제와 어긋나거나, 형제 제품에 속한 모델 이름을 나열하기 때문입니다.
여기서는 답이 이례적으로 잘 문서화돼 있습니다. 카탈로그 페이지가 곧바로 답을 줍니다. "29곳이 넘는 연구소"에서 온 모델 231개가 실려 있고, "Blackbox Router — 하나의 OpenAI 호환 엔드포인트"를 통해 접근합니다. 로고를 늘어놓은 벽이 아니라, 컨텍스트 길이와 토큰 단가가 붙은 필터 가능한 실시간 표입니다.
모든 항목에는 공급사 네임스페이스가 명시돼 있습니다. anthropic/claude-opus-5, google/gemini-3.7-flash, openai/gpt-5.6-sol, xai/grok-4.6처럼 각 모델의 출처가 암시가 아니라 명문으로 적혀 있습니다. 그 옆으로 Meta, 알리바바, Moonshot, MiniMax, NVIDIA, Sakana, Kwaipilot 등의 모델이 각자의 네임스페이스 접두사를 달고 놓여 있습니다.
여기서 끌어낼 결론은 단순하고, 분명히 말해 둘 가치가 있습니다. Blackbox는 자체 프런티어 모델을 학습시키지 않는 것으로 보입니다. 남의 모델을 운영하고 라우팅합니다. 카탈로그의 모든 항목이 외부 연구소에 귀속됩니다. 이는 비판이 아닙니다. 라우팅과 호스팅은 그 자체로 정당하고 까다로운 사업이며, 출처를 정직하게 밝히는 편이 그 반대보다 훨씬 낫습니다. 다만 품질을 평가할 때 여러분이 평가하는 대상은 특정 서드파티 모델에 Blackbox의 서빙 능력을 더한 것이지, 자체 개발 모델이 아니라는 뜻입니다. 라우팅과 속도, 프라이버시 처리와 가격을 평가하십시오. 지능 자체는 네임스페이스에 적힌 연구소의 것입니다.
DEDICATED로 표시된 항목은 "대신 여러분에게만 격리된 단일 테넌트 배포로 실행될 수 있"으며, 이것이 공유 라우팅과 예약 용량을 가르는 실질적인 경계선입니다. 오픈 웨이트 모델은 이렇게 운영할 수 있지만, 폐쇄형 모델은 그 성격상 불가능합니다.
하나의 엔드포인트로 호스팅 카탈로그 전체에 닿으며, 게이트웨이가 데이터 무보존과 비학습을 강제합니다. 키 하나, 청구서 하나, 대시보드 하나입니다. 현재 여러 공급사 계정을 동시에 굴리는 팀에게는 이 통합이 가장 즉각적인 실익입니다.
용량을 공유하는 대신, Blackbox는 여러분이 고른 오픈 웨이트 모델을 여러분 몫으로 예약된 GPU에 배포합니다. 공식 설명은 단일 테넌트, 격리, 공유 풀 없음, 다른 고객 없음입니다. 공유 서비스로는 보낼 수 없는 워크로드에 대한 답이 바로 이것입니다.
연동은 의도적으로 밋밋합니다. "하나의 OpenAI 호환 엔드포인트. base URL만 바꾸고 코드는 그대로 두십시오." 공개된 예시는 표준 messages 배열과 스트리밍 플래그를 써서 enterprise.blackbox.ai/chat/completions로 요청을 보냅니다. 코드가 이미 OpenAI 프로토콜을 말하고 있다면 마이그레이션은 설정 변경 한 번입니다.
클라우드 코딩 에이전트를 위한 Agents API와 Remote Agent 클라우드 샌드박스는 Enterprise 전용이며, 멀티 에이전트와 Chairman LLM 오케스트레이션은 두 요금제 모두 사용량 기반으로 과금됩니다. VS Code 확장과 CLI가 개발자용 표면을 마무리하며, 모두 동일한 토큰 잔액에서 차감됩니다.
스마트 라우팅과 장애 조치, 프롬프트 캐싱은 두 요금제 모두에 포함됩니다. 업체는 이것이 단순한 편의 기능이 아니라고 밝힙니다. 지능형 라우팅과 프롬프트 캐싱이 동일한 약정을 10~20% 늘려 주며, 폐쇄형 모델에서도 그렇다는 설명입니다.
여러 공급사 계정을 하나로 모으는 것이 가장 흔한 진입점입니다. OpenAI, Anthropic, Google을 따로 쓰던 팀은 키 하나와 청구서 하나로 셋 모두에 닿으면서 모델 선택권은 열어 둘 수 있습니다.
규제 대상이거나 민감한 워크로드에는 전용 경로가 가장 잘 맞습니다. 코드나 기록을 공유형 멀티테넌트 서비스로 보낼 수 없는 상황에서, 예약 용량 위에 오픈 웨이트 모델을 올리는 선택은 가능한 일의 범위 자체를 바꿉니다.
비용에 민감한 대량 추론은 라우팅과 캐싱에서 이득을 봅니다. 충분히 쓸 만한 저렴한 모델이 트래픽 대부분을 처리하고, 어려운 요청만 상위로 올리면 되기 때문입니다.
기업 환경의 코딩 에이전트는 Agents API와 Remote Agent 샌드박스가 담당하며, 전용 러너와 SSO는 계약을 통해 제공됩니다.
모델 평가와 비교도 잘 맞습니다. 한 번의 연동으로 231개 모델에 닿고, 모델 간 전환이 새로운 SDK가 아니라 문자열 변경에 그치기 때문입니다.
반대로 이 제품은 소비자용 채팅 인터페이스를 원하는 개인이나, 자체 개발한 프런티어 모델을 찾는 사람을 겨냥하지 않습니다. 여기 있는 모델은 모두 다른 연구소의 것입니다.
모델을 평가하기 전에 네임스페이스부터 보십시오. 카탈로그는 여러분이 누구의 모델을 호출하는지 정확히 알려 줍니다. 품질에 대한 불만은 대개 게이트웨이가 아니라 해당 연구소의 몫입니다.
약정은 상한이 아니라 하한에 맞추십시오. 사용하지 않은 약정은 청구 기간이 끝나면 소멸하므로, 야심 찬 약정은 사용량이 기대에 못 미치는 순간 그대로 낭비가 됩니다.
75%와 90% 알림을 주시하십시오. 소멸이 실제로 일어나기 때문에 이 알림이 존재하며, 아무 예고 없이 만료되는 일을 막는 장치이기도 합니다.
무보존이 라우팅되는 모든 모델에 그대로 확장된다고 가정하지 마십시오. 이 보장은 게이트웨이에서 강제되지만, 상류의 폐쇄형 공급사에 대해서는 그들의 약관과 요청별 플래그에 일부 의존합니다.
"사람의 검토 없음"은 계약 항목으로 다루십시오. 이는 플랫폼 전체의 기본값이 아니라 계약별 협의 사항으로 명시돼 있으므로, 구매 단계에서 분명히 확인해야 합니다.
전용 배포는 선별적으로 쓰십시오. 규제 대상 업무에는 예약 용량이 정답이지만, 그 밖의 모든 일에는 비싼 답입니다.
이미 협상된 요율이 있다면 자체 공급사 계정을 가져오십시오. Enterprise에서는 이것이 지원되며, 기존 가격을 유지하면서 라우팅과 관측 가능성을 얻을 수 있습니다.
조직 전반의 모델 접근 방식을 표준화하려는 플랫폼·인프라 팀이 가장 분명한 적합 대상입니다. 흩어진 공급사 연동을 엔드포인트 하나와 청구서 하나가 대체하기 때문입니다.
규제 제약이 있는 기업은 단일 테넌트 경로에서 가장 큰 이득을 봅니다. 이들에게 대안은 호스팅 모델을 아예 쓰지 않는 것인 경우가 많기 때문입니다.
대량 트래픽을 돌리는 비용 민감형 팀은 라우팅과 캐싱에서 이득을 얻으며, 저렴한 모델이 대부분의 트래픽을 충분히 감당할 때 특히 그렇습니다.
이미 OpenAI 프로토콜 위에 구축한 엔지니어링 팀은 전환 비용이 이례적으로 낮습니다. 연동이 base URL 변경에 그치기 때문입니다.
보안 주도형 구매자는 사이트 문구가 명백히 겨냥하는 독자입니다. 메시지의 상당 부분이 암호화, 보존 정책, 식별자 제거에 할애돼 있기 때문입니다.
반면 잘 다듬어진 소비자용 채팅 제품을 원하는 개인, 자체 사내 모델을 원하는 팀, 기업용 제어 기능을 위해 영업과 대화할 뜻이 없는 사람, 그리고 도입 전에 광범위한 독립 검증을 필요로 하는 구매자에게는 잘 맞지 않습니다. 아래에서 다루듯 그 검증은 빈약합니다.
Blackbox는 주로 API로 제공됩니다. OpenAI 호환 REST 및 스트리밍 인터페이스가 주된 표면이며, 이는 이미 OpenAI를 호출할 수 있는 언어나 프레임워크라면 새 SDK 없이 Blackbox를 호출할 수 있다는 뜻입니다.
API 외에도 CLI와 VS Code 확장이 제공되며 둘 다 동일한 토큰 약정에서 차감되고, 클라우드에서 실행되는 에이전트 작업을 위한 Agents API와 Remote Agent 샌드박스가 있습니다.
기업 배포 옵션은 전용 단일 테넌트 인프라와 데이터 레지던시까지 확장되며, SAML SSO와 SCIM, RBAC, 감사 로그가 계약을 통해 제공됩니다. 회사는 Azure 상의 기업 배포를 포괄하는 마이크로소프트 AI 파트너십도 언급합니다.
과금은 좌석이 아니라 토큰 단위이며, Pay As You Go와 Enterprise로 나뉩니다. 전자는 "모든 모델에 표준 요율, 서명할 것 없음"으로 설명되며 월 약정이 0달러이고, 후자는 발주서에 따라 차감되는 연간 약정입니다.
요율은 100만 토큰 기준으로 공개되고 입력과 출력, 캐시 읽기가 각각 청구됩니다. nvidia/nemotron-3-ultra는 입력 0.32달러, 출력 0.80달러, 캐시 읽기 0.08달러이며, zai/glm-5.2는 1.40달러와 4.40달러입니다. 캐시 읽기 요율을 따로 공개한 것은 유용한 세부 사항입니다. 반복되는 컨텍스트에서는 캐싱이 실질 비용을 크게 바꾸기 때문입니다.
약정 고객에게는 "폐쇄형 −5% 이상", "오픈형 −10% 이상"이 적용되며, 페이지는 "계약상의 요율은 약정 지출이 커질수록 개선된다"고 분명히 밝힙니다. 오픈 웨이트 모델의 할인 폭이 더 큰 이유로는, 해당 인프라를 Blackbox가 처음부터 끝까지 직접 운영하는 반면 폐쇄형 모델은 각 공급사로 라우팅되기 때문이라는 설명이 제시됩니다.
플랫폼 수수료에 대한 답은 간결합니다. "크레딧 구매 수수료도, 좌석당 요금도 없습니다. 정가 이하의 가격으로 토큰 값을 지불합니다." 좌석 단위 과금에 익숙한 팀에게 좌석 요금의 부재는 실질적인 구조적 차이입니다.
서명 전에 알아 둘 함정은 이것입니다. 사용하지 않은 약정은 "청구 기간이 끝나면 소멸"하며, 약정의 75%와 90% 지점에서 지출 알림이 발송되고, 업체 자신의 조언은 "최소 사용량에 맞춰 약정 규모를 정하라"는 것입니다. 이 조언은 타당하며 문자 그대로 따를 가치가 있습니다. 약정 할인은 토큰이 실제로 소비될 때만 절감입니다.
라우팅 기능만 놓고 보면 OpenRouter가 개념적으로 가장 가까운 경쟁자입니다. 여러 모델을 하나의 API 뒤에 모으지만 상업적·기업적 태도는 다릅니다.
Together AI, Fireworks, Baseten은 오픈 웨이트 호스팅 추론에서 경쟁하며 같은 속도 비교표에 등장합니다. 그중 Together AI는 공식 벤치마크 표에 직접 이름이 올라 있습니다.
공급사가 하나면 충분하고 통합 요구가 없다면 OpenAI, Anthropic, Google에 직접 붙는 편이 여전히 가장 단순합니다. Blackbox 자신도 Enterprise에서 이들 계정 연결을 지원합니다.
GPU 용량과 엔지니어링 역량을 갖춘 팀이라면 vLLM 같은 도구로 자체 호스팅해 최대의 통제권을 얻을 수 있습니다. 대가는 인프라를 직접 운영하는 일입니다.
코딩 에이전트 용도에 한정하면, 그 분야의 전용 도구들은 추론 플랫폼보다 에이전트 표면과 더 직접적으로 경쟁합니다.
독립적 검증은 이 그림에서 가장 취약한 부분입니다. 제3자 검증은 사실상 부재합니다. Product Hunt 페이지의 평점은 5.0이지만 리뷰는 단 한 건, 팔로워는 11명으로 어떤 결론도 지탱하기 어려운 표본입니다. 주요 기술 매체의 독립 리뷰나 조사 보도도 찾지 못했고, 기업 데이터베이스들은 자금 조달과 매출에 관해 서로 어긋나므로 그런 수치는 인용하지 않았습니다. 따라서 이 항목의 거의 모든 내용은 업체가 공개한 페이지에 기대고 있습니다.
속도 주장은 확인 가능할 만큼 구체적입니다. Artificial Analysis가 2026년 7월 NVIDIA Nemotron 3 Ultra에서 초당 454토큰을 측정해 모든 공급자 중 1위, "2위보다 30% 빠름"으로 기록했습니다. 제3자 측정이지만 업체 자신의 페이지에 실린 것이며 원본 리더보드와 대조해 독립적으로 확인하지는 못했습니다. 또한 이는 카탈로그 전체가 아니라 한 시점의 한 모델을 다룹니다.
학습 거부에 붙은 단서는 숨겨진 것이 아니라 공개돼 있습니다. 보존과 학습의 억제는 "공급사 약관과 요청별 플래그를 통해, 공급사 API가 지원하는 범위 안에서" 이뤄지며, 이는 이 보장이 가장자리에서 기술적이라기보다 계약적임을 뜻합니다. 정직한 고지이면서, 동시에 약속의 강도가 상류 공급사에 따라 달라진다는 의미이기도 합니다.
홈페이지에서 가장 놓치기 쉬운 문구는 격리 항목 아래에 있습니다. "사람의 검토 없음 — 계약별 협의"라는 표현은 이 보호가 플랫폼 전역의 기본값이 아니라 계약 조건이라는 뜻입니다. 자동으로 적용된다고 가정하는 구매자는 지나치게 가정하는 것일 수 있습니다.
기업 등급의 문턱은 넓습니다. SAML SSO, SCIM, RBAC, 감사 로그가 Enterprise 전용이고 데이터 레지던시, 단일 테넌트 배포, 맞춤 속도 제한도 마찬가지이며, Pay As You Go에는 어느 것도 없습니다. Agents API와 Remote Agent 샌드박스 역시 Enterprise 전용입니다. 셀프서브 사용자가 받는 것은 라우팅과 요율이지 거버넌스가 아닙니다.
약정 소멸은 앞서 다룬 실제 재무 위험이며, 여기에 더해 조사 과정에서 이용약관 페이지를 가져오지 못했습니다. /terms 요청이 404를 반환했기에 이 항목에서는 운영 주체와 준거법을 언급하지 않습니다.
끝으로 카탈로그는 움직이는 표적입니다. 231개 모델과 가격이 담긴 표는 자주 바뀌므로, 여기의 모든 수치는 스냅숏으로 보고 예산을 세우기 전에 현재 요율을 확인하십시오.
프라이버시는 이 제품이 내세우는 핵심이며, 그 메커니즘은 평가할 수 있을 만큼 구체적으로 기술돼 있습니다.
프롬프트와 코드 컨텍스트, 완성 결과는 "활성 요청 동안 메모리에 머물다가 응답 후 폐기"되며 "모델 학습도, 프롬프트 검토 대기열도, 제품 분석용 콘텐츠 사본도 없습니다". 프라이버시 페이지는 이를 정책상의 체크박스가 아니라 라우팅 결정으로 규정하는데, 실제 구현 방식과도 부합합니다.
Enterprise에서는 PII 계층이 프롬프트가 폐쇄형 모델에 닿기 전에 식별자를 다시 씁니다. 그래서 "폐쇄형 모델은 <EMAIL_1>이나 <PERSON_2> 같은 자리표시자를 받고, 이후 응답이 사용자에게 복원"됩니다. 이 필터는 Blackbox 계층 안에서 로컬 추론 단계로 실행된다고 설명되므로 식별자는 공급사 라우팅 이전에 제거되며, 기업 팀은 어떤 범주를 가릴지 조정할 수 있습니다.
이 모두를 엮는 아키텍처 개념이 민감도 기반 라우팅입니다. 식별자를 제거하면 폐쇄형 공급사에 안전하게 보낼 수 있는 작업은 Router로 가고, 규제 대상이거나 핵심 자산급 코드는 예약 용량 위의 Enterprise Inference로 향합니다. 팀은 공개 문서와 내부 티켓, 소스 코드, 비밀 값, 규제 기록을 워크스페이스 정책으로 구분할 수 있으며, 개발자 각자가 가장 안전한 모델을 손수 고르리라 기대하지 않아도 됩니다. 이는 의미 있는 개선입니다. 규모가 커질 때 가장 먼저 무너지는 것이 바로 개인의 자율 규율이기 때문입니다.
감사 로그는 프롬프트 본문을 저장하지 않으면서 접근과 설정 이벤트를 기록한다고 설명됩니다. 증적을 남기되 그 자체가 새로운 데이터 위험을 만들지 않는, 올바른 형태입니다.
솔직하게 짚을 한계는 이렇습니다. PII 제거와 감사 로그, 데이터 레지던시는 Enterprise 기능이고, 사람의 검토 없음은 계약별 협의이며, 상류의 학습 억제는 각 공급사 API가 무엇을 지원하는지에 달려 있습니다. 이 분야 평균보다 공개 수준이 높은 것은 사실이지만, 가장 강력한 보장은 가입이 아니라 계약을 필요로 합니다.
공개된 카탈로그에 따르면 아닙니다. 231개 모델 전부가 anthropic/, google/, openai/, meta/, xai/ 같은 명시적 네임스페이스를 통해 외부 연구소에 귀속됩니다. Blackbox는 이 모델들을 호스팅하고 라우팅할 뿐 자체 프런티어 모델을 학습시키지 않으므로, 모델 품질은 여러분이 고른 연구소의 속성이고 속도와 프라이버시 처리, 가격이 Blackbox의 속성입니다.
카탈로그 페이지는 29곳이 넘는 연구소에서 온 231개 모델을 열거하며, 오픈 웨이트와 폐쇄형을 모두 아우르고 각각 컨텍스트 길이와 토큰 요율을 공개합니다. 명시된 공급사로는 Google, Anthropic, OpenAI, Meta, xAI, 알리바바, Moonshot, MiniMax, NVIDIA 등이 있습니다.
좌석이 아니라 토큰 단위입니다. Pay As You Go는 약정도 서명도 없이 표준 요율로 과금합니다. Enterprise는 발주서에서 차감되는 연간 약정 지출로, 폐쇄형 모델은 5%, 오픈 웨이트 모델은 10%부터 할인이 시작되며 약정 지출이 늘수록 개선됩니다. 입력과 출력, 캐시 읽기는 각각 청구됩니다.
청구 기간이 끝나면 소멸합니다. Blackbox는 약정의 75%와 90% 지점에서 지출 알림을 보내고, 최소 사용량에 맞춰 약정 규모를 정하라고 명시적으로 권합니다. 약정은 도달하고 싶은 목표가 아니라 확실히 소비할 수 있는 하한으로 다루십시오.
게이트웨이가 데이터 무보존을 강제하며, 프롬프트와 코드 컨텍스트, 완성 결과는 활성 요청 동안만 메모리에 있다가 폐기되고 모델 학습이나 프롬프트 검토 대기열은 없습니다. 라우팅되는 트래픽에 대해 학습 거부가 기본으로 켜져 있지만, 명시된 한계에 유의하십시오. 이는 공급사 약관과 요청별 플래그를 통해, 공급사 API가 지원하는 범위 안에서 이뤄집니다.
Enterprise에서는 가능합니다. PII 익명화 계층이 프롬프트가 폐쇄형 공급사로 떠나기 전에 이름과 이메일, 계좌번호, 비밀 값을 의미 자리표시자로 바꾸고 이후 응답을 복원합니다. 이는 셀프서브 요금제의 기본값이 아니라 Enterprise 기능입니다.
이미 OpenAI 프로토콜을 쓰고 있다면 어렵지 않습니다. 엔드포인트가 REST와 스트리밍 모두에서 OpenAI와 호환되며, 문서화된 방식은 base URL을 바꾸고 코드는 그대로 둔 채 모델 문자열을 원하는 네임스페이스 식별자로 조정하는 것입니다.
전용 단일 테넌트 배포, 데이터 레지던시, SAML SSO, SCIM, RBAC, 감사 로그, 폐쇄형 모델 이전의 PII 제거, 맞춤 속도 제한과 SLA, 클라우드 코딩 에이전트를 위한 Agents API, 전용 러너가 딸린 Remote Agent 샌드박스, 그리고 도입 비용이 별도로 들지 않는 전담 포워드 디플로이드 엔지니어입니다.
Enterprise에서는 가능합니다. 자체 OpenAI, Anthropic, Google 계정을 연결해 기존 관계와 협상된 요율로 라우팅하면서 라우팅과 장애 조치, 캐싱, 대시보드를 그대로 유지할 수 있습니다. 이 경우 사용량은 Blackbox가 아니라 해당 공급사를 통해 청구됩니다.
확인할 수 있을 만큼 구체적이라는 점은 유리하게 볼 대목입니다. Nemotron 3 Ultra에서 초당 454토큰, Artificial Analysis가 2026년 7월에 측정했고 공급자 중 1위입니다. 다만 두 가지 단서가 붙습니다. 이 수치는 업체 자신의 페이지에 실린 것으로 여기서 독립적으로 확인하지 않았고, 카탈로그 전체가 아니라 한 시점의 한 모델을 설명합니다.
