Entwickelt für den Unternehmenseinsatz

Neben der Integration von KI in betriebliche Prozesse stellt die technische Bereitstellung einer datenschutzkonformen Umgebung eine große Herausforderung dar.

Safe AI Proxy bietet eine zuverlässige API, die nahtlos in Workflow-Engines, Automatisierungslösungen, Office-Anwendungen wie Excel und andere Software eingebunden werden kann. Ein wesentlicher Vorteil ist, dass die Schnittstelle stabil bleibt, auch wenn sich die zugrunde liegenden KI-Anwendungen ändern. Dies ermöglicht maximale Flexibilität bei der Auswahl und dem Wechsel von KI-Modellen, ohne Anpassungen an den bestehenden Systemen vornehmen zu müssen.

Architecture

Vorteile

Zentrale Kontrolle: Safe AI Proxy bietet eine zentrale Steuerung des KI-Datenverkehrs durch die IT-Abteilung und verwendet Azure-Dienste. Es sorgt dafür, dass nur autorisierte Nutzer auf die KI-Dienste zugreifen.

Austauschbare KI-Modelle: Die API ermöglicht den flexiblen Einsatz verschiedener KI-Modelle, ohne Anpassungen an den Anwendungen vorzunehmen. So bleibt die Infrastruktur anpassungsfähig.

Datenschutzkonform: Sensible Daten werden nicht an Dritte weitergegeben, da nur eigene Modelle verwendet werden. Die Wahl von Azure als zentrale Plattform, nutzt bestehende Datenschutzmaßnahmen, die Unternehmen mit Microsoft vereinbart hat.

Eigener Betrieb: Der Service läuft in der eigenen Azure-Umgebung und nutzt Technologien wie Azure Functions, Cosmos DB und Azure OpenAI. Es werden keine Daten an uns weitergegeben.

Schnelle Einführung: Safe AI Proxy und Anwendungen werden immer durch den Kunden betrieben. Wir verstehen uns als Software-Entwickler und bieten unsere Software als jährliche Lizenz an. Dies ermöglicht sehr schnelle Einführung von KI-Lösungen im Unternehmen.

Anwendungsfälle

  • Automatisierung von Abläufen
  • Mitarbeiter-Support mit intelligenten Assistenten
  • Datenschutzkonforme KI-Nutzung

Kernfunktionen

Entities

Safe AI Proxy bietet eine Vielzahl von Funktionen, die speziell auf die Anforderungen moderner Unternehmen zugeschnitten sind:

Workspaces

Jeder Workspace wird als separate Identität behandelt. Beispiele für Workspace sind z.B. Organisationen, Abteilungen oder Teams. Dies ermöglicht eine genaue Verwaltung und Trennung von Daten und Berechtigungen.

User

Benutzer sind die Personen, die den Service nutzen. Sie werden durch ihre E-Mail-Adresse identifiziert und sind einem Workspace zugeordnet. So behalten Sie stets den Überblick über die Nutzeraktivitäten.

KI-Modelle

KI-Modelle sind der Kern der Verarbeitung. Safe AI Proxy ermöglicht Ihnen den Einsatz verschiedenster Modelle, die jederzeit ausgetauscht werden können, ohne dass die Anwendungen davon betroffen sind.

Prompt-Templates

Mithilfe von Prompt-Templates können standardisierte Anfragen erstellt und verwendet werden, um die Konsistenz in der Kommunikation mit dem KI-Modell zu gewährleisten.

Chats

Die Chat-Funktion erlaubt es Benutzern, auf Basis von KI-generierten Antworten zu interagieren. Dies ist besonders nützlich für Kunden-Support und ähnliche Anwendungsfälle.

Knowledge Bases + Einträge

Die Knowledge Bases bieten eine strukturierte Informationsbasis, auf die das KI-Modell bei der Beantwortung von Anfragen zurückgreifen kann. Diese Informationen bleiben unter Ihrer Kontrolle und werden nicht extern verarbeitet. Knowledge Bases können in allen Chats und Prompts verwendet werden.

Dokumente

Safe AI Proxy stellt einen Mechanismus für das Sichern von JSON-Dokumenten für den jeweiligen Benutzer zur Verfügung. Über diesen Mechanismus können Anwendungen, die den Proxy verwenden sehr einfach JSON-Dokumenten schreiben, lesen, ändern und löschen. Beispiele sind "Benutzer-Profile", "Chat-Historien", etc.

API-Keys

API-Keys (JWT Token) bieten zahlreiche Vorteile im Zusammenhang mit der Nutzung von Safe AI Proxy. Unter anderem bieten API-Keys die präzise Steuerung darüber, wer auf die KI-Dienste zugreifen kann. Statt einen globalen API-Schlüssel zu verwenden, werden benutzerspezifische API-Keys generiert. So wird sichergestellt, dass nur autorisierte Benutzer Zugriff auf den Safe AI Proxy und die zugrunde liegenden KI-Modelle haben. API-Keys basieren auf JWT-Tokens und werden entweder durch die Azure AD / Entra oder unsere API-Key-Verwaltung erstellt.

Geplante Erweiterungen

Agenten: Agenten sind vordefinierte API-Aufgaben, die automatisiert bestimmte Antworten generieren können. Dies erleichtert den Nutzern die Arbeit und spart Zeit.

Bildmodelle: Diese ermöglichen es, visuelle Daten wie Bilder und Grafiken in die Analyse einzubeziehen und darauf basierend automatisierte Antworten oder Erkennungen zu generieren. So können Bildverarbeitungslösungen effizient in bestehende Prozesse integriert werden.

Dateien: Speichern von Dateien (z.B. Bilder) in einem Blob-Storage wird mit der Erweiterung "Bildmodelle" eingefügt.

Safe AI Anwendungne

Zur Verwendung des Safe AI Proxy werden von uns verschiedene Anwendungen entwickelt, die die Kunden in der eigenen Infrastruktur deployen können. Geplant sind unter anderem folgende Anwendungen:

  • Webbasierte Chat Lösung auf der Basis von Nextjs
  • Azure Logic Apps für Azure basierte Automation
  • Excel-Makros und Add-ins
  • Chrome- und Edge-Browser Extensions
  • Windows / MacOs Standalone Anwendungen
  • iOS / Android Apps
  • Open API-Dokumentation
  • REST API für eigene Anwendungen

Lizenz

Mit dem Erwerb der Lizenz erhält der Kunde folgende Leistungen:

  • Voller Zugriff auf das Repository und den Source-Code
  • Recht auf Deployment in der eigenen Infrastruktur
  • Möglichkeit zur Erweiterung
  • Umfassende Einweisung für Installation und Betrieb
  • Zugang zum Support und Ticket-System

FAQ

Was sind die Kosten für die Nutzung von Safe AI Plus und welche Faktoren beeinflussen diese?

  • Jährliche Lizenzgebühr für Safe AI Plus
  • Eigene Azure-Nutzungskosten (abhängig von den verwendeten Azure-Diensten und deren Umfang)
  • Eigener Betrieb & Wartung
  • Optionale Kosten für individuelle Anpassungen, erweiterten Support und Schulungen

Präsentationstermin

At the moment, Safe AI Plus is in closed beta.
If you are interested, book an presentation appointment here.

Pricing

Safe AI Plus wird als Sourcecode as a Service angeboten. D.h. der Kunder lizenziert den Quellcode und hat damit vollen Zugriff auf die Software. Unsere Safe AI Plus Anwendungen bieten eine einfache Möglichkeit, die Software zu installieren und zu betreiben. Der Kunde ist für denBetrieb der Software zuständig. Updates und Problembeseitigungen werden von uns bereitgestellt und vom Kunden nach Bedarf ausgerollt.

Im Lizenzpreis ist die gemeinsame Installation in der Azure Instanz des Kunden enthalten. Betriebskosten sind nicht enthalten.

Die Software wird in der Azure Instanz des Kunden betrieben. Alle inhaltlichen Daten verbleiben dort.

Wir bieten Ihnen eine kostenlose Evaluation an.
If you are interested, book an presentation appointment here