Ein vollständig lokaler KI-Assistent, der E-Mails, Kalender, Dateien und Webinformationen kontrolliert verarbeiten kann, ohne dass sensible Daten an Cloud-Dienste gehen.
Getrennter Agent-/LLM-Ansatz mit Policy Engine, Approval-System und verschlüsselter Datenspeicherung. Läuft vollständig lokal auf eigenem Heimserver.
KI-Assistenten sind derzeit allgegenwärtig. Umso spannender ist der Gegenentwurf: ein vollständig lokaler Assistent, der auf eigener Hardware läuft, selbst kontrolliert betrieben wird und mit einem eigenen Tool-Set arbeitet. Viele aktuelle Systeme setzen für Komfort und Funktionsumfang auf Online-Modelle und externe Dienste – und damit oft auch auf die Verarbeitung persönlicher Daten außerhalb der eigenen Infrastruktur.
Algroveon-Agent ist der Versuch, diesen Weg lokal zu gehen: nicht mit dem Anspruch, es grundsätzlich besser zu können, sondern mit mehr Kontrolle über Daten, Verhalten und Systemarchitektur und daraus zu lernen.
Architektur
Algroveon-Agent ist eine FastAPI-Anwendung, die in einem separaten Container unter Proxmox läuft. Das LLM läuft getrennt davon in der eigenen VM „Algroveon-AI“, in der die RTX 2000 Blackwell per PCIe-Passthrough direkt genutzt wird und Ollama die Modelle bereitstellt. Alle Daten – Sessions, Memory, Audit-Log, Nutzerprofile – liegen in verschlüsselten SQLite-Datenbanken (SQLCipher) auf eigener Hardware.
Lokaler GPU-Server ← Ollama (Gemma-4, Embeddings)
Algroveon-Agent Server ← FastAPI, SQLCipher, Policy Engine, Tool-Executor
Algroveon Mac Client ← SwiftUI, WebSocket, native macOS-Tools
Profile: zwei Betriebsmodi
Jede Session startet mit einem gewählten Profil. Die Profile sind als YAML-Dateien hinterlegt und definieren erlaubte Tools, Modellauswahl und Freigabe-Verhalten:
| Profil | Modell | Zweck |
|---|---|---|
chat |
Gemma-4 | Kommunikation, Suche, Kalender lesen |
pro |
Gemma-4 | Dateizugriff, Mail, Shell-Sandbox |
Tool-Set
Jedes Tool ist einer Quelle zugeordnet (TRUSTED / INTERNAL / EXTERNAL) und hat feste Regeln für Freigaben und Nutzung:
Kommunikation: Apple Mail lesen, suchen, Entwurf erstellen, senden
Kalender: Google Calendar lesen, Termine anlegen und bearbeiten
Web: Websuche (SearXNG, lokal gehostet), URL abrufen, RSS-Feeds, Wetter
Dateien: Workspace lesen/schreiben, PDF, CSV, Excel
System: Shell in Sandbox (nur pro, immer Approval)
Approval-System
Schreibende und destruktive Aktionen erfordern eine explizite Nutzerfreigabe – egal ob aus dem Browser, dem Mac-Client oder aus einer geplanten Task. Der Agent pausiert, zeigt konkret, was er ausführen will, und wartet auf Freigabe.
Memory: zwei Ebenen
- Session-Gedächtnis: Die letzten 20 Nachrichten der vorherigen Session werden beim Login geladen
- Long-Term Memory: Hybrid-Retrieval (Volltext + Vektor-Embeddings), automatisch befüllt durch einen Session-Summarizer nach dem Logout. Externe Inhalte aus dem Web werden nicht automatisch ins Langzeitgedächtnis übernommen.
Policy Engine
Alle Sicherheitsentscheidungen sind deterministisch und auditierbar – das LLM entscheidet nicht selbst, was erlaubt ist. Vier Prüfstufen: Profil aktiv? → Source-Tag-Regel → Tool-Allowlist → Freigabe-Profil. Jede Entscheidung landet im verschlüsselten Audit-Log.
Morgenbrief
Täglicher E-Mail-Newsletter: Wetter, Kalendervorschau, konfigurierbare Nachrichten-Feeds. Strukturierte Daten wie Wetter und Kalender werden direkt aus den Tool-Outputs übernommen.
HeadlessRunner & Scheduler
Zeitgesteuerte Tasks ohne aktiven Browser-Nutzer. Gleiche Policy- und Audit-Logik wie im Chat. Grundlage für eine spätere Messenger-Integration und für weitere Automatisierungen.
Algroveon Mac
Nativer macOS-Client (SwiftUI, macOS 14+): Menu-Bar-Icon, SSE-Streaming-Chat, Approval-Notifications per native macOS-Benachrichtigung, Token im Keychain. Der Mac ist kein zweites KI-System – er ist ein lokaler Tool-Executor. Der LLM läuft ausschließlich auf dem Heimserver.