Why on‑prem
- 규제/보안/데이터 주권 요구: 데이터는 온프레미스에 있어야 함
- 기존 규칙대로 권한 제어(RBAC): 누가 무엇을 보고/할지 먼저 정의
- 모든 출력은 출처+로그: 감사와 책임 경계가 명확
High-level architecture
Browser → Frontend → Backend → DB (required) + optional: LLM provider / embedding / vector DB / knowledge graph
Security & governance
- RBAC access control
- 감사 추적 + 출처 추적 가능
- 검토 워크플로: 고위험은 사람 검토로 전환하고 기록 유지
Performance (what buyers care about)
- Low latency: inference close to your data and users
- Scalable: expand capacity as usage grows
- Stable: predictable throughput and resource control