Auf einen Blick
| Produkt | anny Agent, KI-Assistent im Admin (Admin 3.0) |
| Nutzende | Angemeldete Nutzer:innen im Admin, jeweils mit ihren eigenen Rechten |
| KI-Modell | anny AI v1: von anny feinjustiertes Sprachmodell auf Basis eines Open-Source-Modells (Qwen-Modellfamilie) |
| Betrieb | Auf von anny betriebener Infrastruktur, GPU-Server bei UpCloud (UpCloud Oy, Helsinki, Finnland) |
| Fallback | Bei Ausfall oder Überlast der eigenen GPU-Server: Melious AI GmbH (Saarbrücken) mit Inferenz ausschließlich bei Anbietern in der EU |
| Verarbeitungsort | Rechenzentren in der EU |
| US-Anbieter | Keine. Keine Übermittlung an OpenAI oder andere US-Anbieter |
| Training mit Kundendaten | Nein |
| Änderungen | Standardmäßig nur nach Freigabe durch dich |
| Protokollierung | Jede Änderung in der Aktivität des Datensatzes, Label via KI-Agent |
| Speicherdauer | Gesprächsverläufe werden nach 90 Tagen automatisch gelöscht |
| Kosten | Während der Beta kostenlos, danach dauerhaft kostenloser Free Tier |
Modell und Training
- Basis: anny AI v1 baut auf einem frei verfügbaren Open-Source-Sprachmodell auf. anny hat es für die Arbeit in anny feinjustiert.
- Trainingsdaten: Für die Feinjustierung hat anny ausschließlich eigens erstellte Szenarien genutzt. Echte Kunden-, Buchungs- oder Nutzerdaten sind nicht eingeflossen.
- Keine Nutzung deiner Daten: Deine Nachrichten, Anhänge, die Antworten des Agenten und die Daten in deinem Account werden nicht zum Training oder zur Feinjustierung von KI-Modellen verwendet.
Welche Daten der Agent verarbeitet
Solange niemand dem Agenten schreibt, verarbeitet er keine Daten. Gesprächsverläufe werden nach 90 Tagen automatisch gelöscht.
Kontrolle und Sicherheit
- Freigabe: Standard ist der Modus Nachfragen. Der Agent zeigt dir jede Änderung und wartet auf dein OK. Im Modus Automatisch führt er Änderungen ohne Rückfrage aus, bis du den Modus ausschaltest oder die Seite neu lädst. Bei Einstellungen der ganzen Organisation und bei Aktionen, die sich nicht rückgängig machen lassen, fragt er immer.
- Rechte: Der Agent arbeitet in dem Account, in dem du angemeldet bist, und darf nur, was du mit deiner Rolle selbst darfst. Er kann keine Rechte erweitern.
- Mandantentrennung: Der Agent sieht nur Daten der Organisation, in der du angemeldet bist.
- Nachvollziehbarkeit: Jede Änderung, Notiz und E-Mail des Agenten steht mit altem und neuem Wert in der Aktivität des Datensatzes.
- Support: Kommt der Agent nicht weiter, legt er eine Support-Anfrage an, die an das anny-Team geht.
- Ausschalter: Unter Apps & Integrationen → anny Apps → anny Agent deaktivierst du den Agenten für deine ganze Organisation. Danach verarbeitet er keine Daten mehr.
Grenzen der KI
Antworten, Auswertungen und Vorschläge des Agenten werden automatisch erzeugt. Sie können unvollständig, veraltet oder falsch sein. Prüfe Ergebnisse, bevor du sie für wichtige oder rechtlich relevante Entscheidungen nutzt, und sieh dir bei jeder Freigabe an, was sich ändert.Rechtliche Einordnung
Datenschutz (DSGVO)
- Rollen: Für die Daten in deinem Account bist du Verantwortlicher, anny ist Auftragsverarbeiter. Es gilt der Auftragsverarbeitungsvertrag (AVV) zwischen dir und anny.
- Unterauftragsverarbeiter: Für den Betrieb der GPU-Server setzt anny UpCloud ein. Als Fallback bei Ausfall oder Überlast nutzt anny Melious AI GmbH, Saarbrücken. Melious leitet Anfragen ausschließlich an Inferenz-Anbieter mit Sitz in der EU weiter. Beide sind im AVV als Unterauftragsverarbeiter aufgeführt.
- Drittlandtransfer: Durch den Agenten findet keine Übermittlung in Länder außerhalb der EU statt.
- Automatisierte Entscheidungen: Der Agent trifft keine Entscheidungen im Sinne von Art. 22 DSGVO. Er bereitet Aktionen vor, die du freigibst.
- Datenschutzerklärung: Details stehen in der Datenschutzerklärung von anny.
EU AI Act
- Rolle: anny ist Anbieter des KI-Systems anny Agent. Du setzt es als Betreiber in deiner Organisation ein.
- Risikoklasse: Nach Einschätzung von anny ist der anny Agent kein Hochrisiko-KI-System im Sinne von Anhang III. Er dient der Verwaltung von Buchungen, Ressourcen und Einstellungen.
- Transparenz: Der Agent ist im Admin klar als KI gekennzeichnet (KI-Agent). Aktionen des Agenten sind in der Aktivität mit via KI-Agent markiert.
- Nicht erlaubte Einsatzzwecke: Nutze den Agenten nicht, um Entscheidungen über Beschäftigte, über Ansprüche auf öffentliche Unterstützungsleistungen oder über den Zugang zu Bildungseinrichtungen zu treffen oder vorzubereiten. Diese Einsatzzwecke schließen die AGB aus.
- KI-Kompetenz: Als Betreiber sorgst du dafür, dass deine Admins mit dem Agenten und seinen Grenzen vertraut sind. Dieses Datenblatt und der Artikel anny Agent helfen dir dabei.
Vertragsgrundlagen
Fragen
Antworten auf Fragen, die in Sicherheitsfragebögen und Datenschutz-Folgenabschätzungen häufig vorkommen.Nutzt die KI sogenannte RAGs (Retrieval-Augmented Generation) zur Antwortoptimierung?
Nutzt die KI sogenannte RAGs (Retrieval-Augmented Generation) zur Antwortoptimierung?
Ja. Der anny Agent nutzt Retrieval-Augmented Generation (RAG), um die Hilfeartikel zu durchsuchen. anny AI kann zusätzlich selbst hochgeladene Dokumente und FAQs durchsuchen. Die Inferenz der Embeddings erfolgt auf unserer eigenen Infrastruktur in Europa.
Wie wird die Integrität der Antworten der KI kontinuierlich geprüft und durch wen?
Wie wird die Integrität der Antworten der KI kontinuierlich geprüft und durch wen?
Wir prüfen die Antworten der KI jede Nacht automatisiert. Die Evaluationen laufen bei anny, mit einem LLM-as-a-Judge und mit regelbasierten Prüfungen. Die Inferenz für das Judge-LLM läuft auf unserer eigenen Infrastruktur. Die regelbasierten Evaluationen und das Speichern der Traces erfolgen auf unserer eigenen Infrastruktur in der EU.
Wie hoch ist die Halluzinationsquote der KI und wie wurde diese ermittelt?
Wie hoch ist die Halluzinationsquote der KI und wie wurde diese ermittelt?
Wir halten die Halluzinationsrate niedrig, indem die KI Zugriff auf die aktuelle Dokumentation und auf Daten hat, die direkt aus unserem Code abgeleitet werden. So stehen ihr die relevanten Informationen zur Verfügung. Eine konkrete Halluzinationsquote lässt sich nur schwer ermitteln. Fehler sind nicht ausgeschlossen. Wir haben technische und organisatorische Maßnahmen getroffen, um diese Rate so weit wie möglich zu senken, und setzen auf aktuelle Modelle und Verfahren, um uns fortlaufend zu verbessern.
Wie wird dem Vergessen unserer Daten im Falle einer Vertragsbeendigung Rechnung getragen?
Wie wird dem Vergessen unserer Daten im Falle einer Vertragsbeendigung Rechnung getragen?
Die interne Analytics-Plattform hosten wir selbst in der EU. Sie anonymisiert KI-Gespräche automatisch nach 30 Tagen. Bei einer Kündigung übernimmt unser System die Löschung vollständig anhand der Löschfristen, die in anny eingestellt sind.