なぜオンプレ
- 規制/セキュリティ/データ主権要件:データはオンプレに留める必要がある
- 既存ルールどおりの権限制御(RBAC):誰が何を見て/できるかを先に定義
- すべての出力に出典+ログ:監査と責任境界を明確化
高レベル構成
Browser → Frontend → Backend → DB(必須)+ 任意:LLM Provider / Embedding / VectorDB / Knowledge Graph
セキュリティとガバナンス
- RBAC によるアクセス制御
- 監査追跡+出典(引用)の追跡性
- レビュー手順:高リスクは人手で覆核し、履歴を残す
性能(購入者が気にする点)
- 低遅延:社内ネットワーク近傍で推論し外部依存を削減
- 拡張性:利用量・拠点に応じてノードを拡張
- 安定性:予測可能なスループットとリソース制御