무엇이 들어가는지. 무엇을 증명할 수 있는지.
모델 이름과 GPU 메모리 총량은 배포 테스트가 아닙니다. 출처의 사실, 구성 선택, 측정 결과를 분리해서 보여 주므로 어떤 근거가 추천을 뒷받침하는지 확인할 수 있습니다.
2026-09-30 업데이트 · B3IQ 엔지니어링
네 가지 종류의 근거.
업스트림에 문서화됨
게시자의 체크포인트 식별 정보, 라이선스 메타데이터, 의도된 입력 또는 출력입니다. 각 가이드는 검토한 모델 카드 리비전으로 연결됩니다. 이는 출처가 말하는 내용을 증명할 뿐, B3IQ가 배포했다는 뜻은 아닙니다.
카탈로그에 구성됨
정확한 런타임 프로필, 아티팩트 식별자, 구성된 컨텍스트, 동시성, 메모리 임계값입니다. 이 값들은 공유 모델 카탈로그와 그 하드웨어 보조 데이터에서 가져옵니다. 태그는 바뀔 수 있으며, 고정되지 않은 아티팩트에는 표시를 붙입니다.
추정
초기 계획용 산술로, 공식과 제외 항목을 함께 제공합니다. 추정치로는 설치 성공, 전체 컨텍스트 적합 여부, 답변 품질, 지연 시간 목표를 입증할 수 없습니다.
B3IQ가 측정함
식별된 하드웨어와 소프트웨어에서 재현 가능한 실행으로, 워크로드, 결과, 날짜가 함께 기록됩니다. 현재 모델 가이드는 B3IQ 벤치마크 결과를 게시하지 않습니다. 카탈로그 플래그나 업스트림 점수는 실행 기록을 대신할 수 없습니다.
메모리는 여러 부분으로 이루어집니다.
가중치는 시작일 뿐입니다. 서빙에는 활성화 값, 런타임 버퍼가 필요하고, 자기회귀 텍스트 모델에서는 시퀀스 길이와 동시 요청 수에 따라 커지는 KV 캐시도 필요합니다.
같은 체크포인트라도 양자화, 런타임, 워크로드 설정이 다르면 필요한 메모리가 달라질 수 있습니다. 여러 카드에 나뉜 GPU 메모리가 자동으로 하나의 사용 가능한 풀이 되지는 않습니다.
가중치만 계산한 산술
파라미터 수(십억) × 비트 수 ÷ 8 = 십진 GB
16비트에서는 파라미터당 2바이트입니다. 양자화 메타데이터, 양자화되지 않은 레이어, 버퍼, KV 캐시는 제외됩니다. 카탈로그의 파라미터 수는 반올림되어 있을 수 있습니다.
기존 계획 도우미는 20%를 더한 뒤 정수 GB로 반올림합니다. 이 여유분은 경험적 규칙이며, 특정 컨텍스트나 동시성에 대한 측정이 아닙니다. 작은 모델에서는 반올림 때문에 맞지 않을 수 있으니, 가중치 산술을 사용하고 전체 프로세스를 측정하세요.
머신 후보는 출발점입니다.
구성 도구가 사용하는 것과 같은 하드웨어 및 가격 엔진을 통해, 프로필의 양수 카탈로그 메모리 임계값을 스토어에 표시된 구성과 대조합니다. 머신은 모델의 최소 메모리 계산이 요구하는 것보다 많은 GPU를 갖춘 상태로 판매될 수 있습니다.
상세 가이드는 대조 결과로 나온 GPU 수와 구성으로 연결됩니다. 현재 가격과 재고는 머신 페이지에 있습니다. 임계값이 없거나, 스토어 기종 목록을 알 수 없거나, 지원되지 않는 적합이면 자동 추천을 만들지 않습니다.
구매 전에 런타임 지원, 정밀도, GPU 토폴로지, CPU/RAM, 스토리지, 워크로드의 성능 목표를 확인하세요. 검증된 고객 경로가 없으면 어떤 가이드도 배포 작업을 제공하지 않습니다.
게시된 벤치마크에 필요한 것.
결과는 구성과 워크로드에 묶여 있어야 합니다. B3IQ 측정이라고 부르기 전에 다음을 요구합니다.
- 모델 리비전과 아티팩트 다이제스트, 런타임, 드라이버, 관련 커널 버전.
- 정확한 GPU 에디션과 수, 인터커넥트, CPU, 시스템 RAM, 정밀도.
- 입력/출력 길이 또는 미디어 크기/길이, 배치 크기, 동시성, reasoning 설정, 워밍업.
- 최대 메모리, 오류, 메모리 부족 실패를 기록으로 남긴 반복 실행.
- 텍스트는 첫 토큰까지 시간, 토큰 간 지연 시간, 총 처리량. 임베딩, 비전, 오디오는 작업에 맞는 품질과 지연 시간.
- 실행 날짜, 재현 단계, 검토자, 결과가 적용되는 범위에 대한 명시적 한계.
커뮤니티 보고는 테스트를 고르는 데 도움이 되지만, 그 처리량을 B3IQ 결과로 제시하지는 않습니다. 과거 결과가 지금 용량이 있다는 것을 입증하지도 않습니다.
가이드를 최신으로 유지하는 방법.
모델 식별 정보와 런타임 설정은 공유 카탈로그에 남습니다. 스토어 구성과 가격은 스토어에 남습니다. 공개 게시 기록은 검토한 출처, 원래 설명, 경로를 보관하며 별도의 사양표를 유지하지 않습니다.
카탈로그 탐색이 모델을 제안할 수 있습니다. 게시에는 검토된 식별 정보, 출처, 접근 조건, 유용한 안내가 필요합니다. 런타임 변경, 아티팩트 변경, 라이선스 변경은 검토를 촉발하며, 이전 테스트는 테스트한 버전에 그대로 남습니다.
허용 목록에 있는 프로필만 게시합니다. 테넌트 모델 이름, 비공개 저장소, 프롬프트, 노드 주소, 고객 데이터는 공개 페이지에 들어가지 않습니다.