Conversational AI

Open WebUI Chat

Multi-Modell-Chat mit allen 600+ LLMs

Eine Oberfläche, sechshundert Modelle, ein Audit-Trail.
Beschreibung

Open WebUI ist die Haupt-Chat-Oberfläche der ben-e-fit.ai-Plattform. Web-basiertes Multi-Modell-Frontend mit Memory-Backed-Chat, Custom-Models (Plattform-Berater, NemoClaw-v3, OpenClaw, Compliance-Agent), Tool-Calling, RAG-via-Knowledge-Bases, Voice-Input/Output (Faster-Whisper STT + LiteLLM TTS), Bilder/Dokumente-Upload, Chat-Sharing, Folders+Tags, Workspaces.

Features & Capabilities · 8 Punkte
F01
Multi-Modell-Chat (gemma3:27b lokal, claude-opus-4-7, sonnet-4-6, gpt-4o, gemini-2.5-pro, llama-4-maverick, deepseek-r1, qwen3-72b)
F02
Custom-Models: Plattform-Berater, NemoClaw-v3, Compliance-Agent (DSGVO + EU-AI-Act), Sales-Coach, Code-Reviewer
F03
Knowledge-Base RAG mit 1000+ Eintraegen über Qdrant + bge-m3 embeddings
F04
Voice: STT via Faster-Whisper, TTS via LiteLLM-Bridge zu ElevenLabs/OpenAI
F05
Document-Upload: docling/unstructured Pipeline -> Markdown + Chunks
F06
Tools: web_search (SearXNG), code_run, image_gen, kb_search, docker_status
F07
Workspaces + Folders + Tags pro User, Cross-User-Sharing per Token
F08
Audit-Trail: jede Conversation in audit_events Postgres mit SHA-256-Hash
API & Endpoints
Use-Cases · 4 Beispiele

Wie das Tool real genutzt wird.

01
Beraterin nutzt im Kundengespraech NemoClaw-v3 für Live-Recherche und Doku
02
Compliance-Officer fragt 'Welche EU-AI-Act-Pflichten gelten für unser Bewerbungs-System?' und bekommt Artikel-Referenz
03
Sales-Manager generiert Outreach-Email basierend auf CRM-Stammdaten
04
Engineer reviewt Pull-Request via Code-Reviewer-Custom-Model
Tech-Stack
Python FastAPI SvelteKit Postgres Qdrant MinIO
Compliance & Governance
DSGVO Art. 5/13/15-22
EU-AI-Act Art. 13/16/52
ISO 27001