Entwickelt für den Unternehmenseinsatz

Safe AI Proxy bietet eine zuverlässige API, die nahtlos in Workflow-Engines, Automatisierungslösungen, Office-Anwendungen wie Excel und andere Software eingebunden werden kann. Ein wesentlicher Vorteil ist, dass die Schnittstelle stabil bleibt, auch wenn sich die zugrunde liegenden KI-Anwendungen ändern. Dies ermöglicht maximale Flexibilität bei der Auswahl und dem Wechsel von KI-Modellen, ohne Anpassungen an den bestehenden Systemen vornehmen zu müssen.

Architecture

Vorteile

Zentrale Kontrolle: Safe AI Proxy bietet eine zentrale Steuerung des KI-Datenverkehrs durch die IT-Abteilung und verwendet Azure-Dienste. Es sorgt dafür, dass nur autorisierte Nutzer auf die KI-Dienste zugreifen.

Austauschbare KI-Modelle: Die API ermöglicht den flexiblen Einsatz verschiedener KI-Modelle, ohne Anpassungen an den Anwendungen vorzunehmen. So bleibt die Infrastruktur anpassungsfähig.

Datenschutzkonform: Sensible Daten werden nicht an Dritte weitergegeben, da nur eigene Modelle verwendet werden. Die Wahl von Azure als zentrale Plattform, nutzt bestehende Datenschutzmaßnahmen, die Unternehmen mit Microsoft vereinbart hat.

Eigener Betrieb: Der Service läuft in der eigenen Azure-Umgebung und nutzt Technologien wie Azure Functions, Cosmos DB und Azure OpenAI. Es werden keine Daten an uns weitergegeben.

Schnelle Einführung: Safe AI Proxy und Anwendungen werden immer durch den Kunden betrieben. Wir verstehen uns als Software-Entwickler und bieten unsere Software als jährliche Lizenz an. Dies ermöglicht sehr schnelle Einführung von KI-Lösungen im Unternehmen.

Kernfunktionen

Entities

Safe AI Proxy bietet eine Vielzahl von Funktionen, die speziell auf die Anforderungen moderner Unternehmen zugeschnitten sind:

Workspaces

Jeder Workspace wird als separate Identität behandelt. Beispiele für Workspace sind z.B. Organisationen, Abteilungen oder Teams. Dies ermöglicht eine genaue Verwaltung und Trennung von Daten und Berechtigungen.

Benutzer

Benutzer sind die Personen, die den Service nutzen. Sie werden durch ihre E-Mail-Adresse identifiziert und sind einem Workspace zugeordnet. So behalten Sie stets den Überblick über die Nutzeraktivitäten.

KI-Modelle

KI-Modelle sind der Kern der Verarbeitung. Safe AI Proxy ermöglicht Ihnen den Einsatz verschiedenster Modelle, die jederzeit ausgetauscht werden können, ohne dass die Anwendungen davon betroffen sind.

Chats

Die Chat-Funktion erlaubt es Benutzern, auf Basis von KI-generierten Antworten zu interagieren. Dies ist besonders nützlich für Kunden-Support und ähnliche Anwendungsfälle.

Completions (Prompts)

Completions sind eine einfache Möglichkeit, um eine Anfrage (Prompt) an das KI-Modell zu stellen. Im Gegensatz zu Chats werden die Antworten nicht in einem Chat-Verlauf gespeichert. Completions sind daher besonders für Automatisierungen und Workflows geeignet.

Assistenten / Prompt-Templates

Assistenten bieten eine einfache Möglichkeit, um eine Anfrage an das KI-Modell zu stellen. Assistenten können mit Hilfe von Prompt-Templates und Knowledge Bases konfiguriert werden.

Knowledge Bases + Einträge

Die Knowledge Bases bieten eine strukturierte Informationsbasis, auf die das KI-Modell bei der Beantwortung von Anfragen zurückgreifen kann. Diese Informationen bleiben unter Ihrer Kontrolle und werden nicht extern verarbeitet. Knowledge Bases können in allen Chats und Prompts verwendet werden.

Dokumente

Safe AI Proxy stellt einen Mechanismus für das Sichern von JSON-Dokumenten für den jeweiligen Benutzer zur Verfügung. Über diesen Mechanismus können Anwendungen, die den Proxy verwenden sehr einfach JSON-Dokumenten schreiben, lesen, ändern und löschen. Beispiele sind "Benutzer-Profile", "Chat-Historien", etc.

API-Keys

API-Keys bieten zahlreiche Vorteile im Zusammenhang mit der Nutzung von Safe AI Proxy. Unter anderem bieten API-Keys die präzise Steuerung darüber, wer auf die KI-Dienste zugreifen kann. Statt einen globalen API-Schlüssel zu verwenden, werden benutzerspezifische API-Keys für Workspaces generiert. So wird sichergestellt, dass nur autorisierte Benutzer Zugriff auf den Safe AI Proxy und die zugrunde liegenden KI-Modelle haben.

Geplante Erweiterungen

Agenten: Agenten sind vordefinierte API-Aufgaben, die automatisiert bestimmte Antworten generieren können. Dies erleichtert den Nutzern die Arbeit und spart Zeit.

Bildmodelle: Diese ermöglichen es, visuelle Daten wie Bilder und Grafiken in die Analyse einzubeziehen und darauf basierend automatisierte Antworten oder Erkennungen zu generieren. So können Bildverarbeitungslösungen effizient in bestehende Prozesse integriert werden.

Dateien: Speichern von Dateien (z.B. Bilder) in einem Blob-Storage wird mit der Erweiterung "Bildmodelle" eingefügt.

Safe AI Anwendungen

Zur Verwendung des Safe AI Proxy werden von uns verschiedene Anwendungen entwickelt, die die Kunden in der eigenen Infrastruktur deployen können. Geplant sind unter anderem folgende Anwendungen:

  • ✔Web-Basierte Chat Lösung auf der Basis von Nextjs
  • ✔Azure Logic Apps für Azure basierte Automation
  • ✔Excel-Makros und Add-ins
  • ✔Chrome- und Edge-Browser Extensions
  • ✔Windows / MacOs Standalone Anwendungen
  • ✔iOS / Android Apps
  • ✔Open API-Dokumentation
  • ✔REST API für eigene Anwendungen

Lizenz

Mit dem Erwerb der Lizenz erhält der Kunde folgende Leistungen:

  • ✔Voller Zugriff auf das Repository und den Source-Code
  • ✔Recht auf Deployment in der eigenen Infrastruktur
  • ✔Möglichkeit zur Erweiterung
  • ✔Umfassende Einweisung für Installation und Betrieb
  • ✔Zugang zum Support und Ticket-System

Präsentationstermin

At the moment, Safe AI Plus is in closed beta.
If you are interested, book an presentation appointment here.

Pricing

Safe AI Plus wird als Sourcecode as a Service angeboten. D.h. der Kunder lizenziert den Quellcode und hat damit vollen Zugriff auf die Software. Unsere Safe AI Plus Anwendungen bieten eine einfache Möglichkeit, die Software zu installieren und zu betreiben. Der Kunde ist für den Betrieb der Software zuständig. Updates und Problembeseitigungen werden von uns bereitgestellt und vom Kunden nach Bedarf ausgerollt.

Im Lizenzpreis ist die gemeinsame Installation in der Azure Instanz des Kunden enthalten. Betriebskosten sind nicht enthalten.

Die Software wird in der Azure Instanz des Kunden betrieben. Alle inhaltlichen Daten verbleiben dort.

Wir bieten Ihnen eine kostenlose 6-wöchige Evaluation an.
If you are interested, book an presentation appointment here

FAQ

Wann eignet sich Safe AI Plus unser Unternehmen?

  • •Für Organisationen, die eine KI-Lösung einsetzen möchten, die den Anforderungen von DSGVO und anderen Datenschutzbestimmungen entspricht.
  • •Für Organisationen, die eine Lösung benötigen, die vollständig unter eigener Kontrolle steht und nicht von Dritten gehostet wird.
  • •Für Organisationen, die eine Lösung benötigen, die vollständig in der eigenen Infrastruktur betrieben wird und somit Daten im eigenen Besitz und unter eigener Kontrolle bleiben.

Wie ist das Lizenzmodell?

  • •Safe AI Plus wird als jährliche Sourcecode Lizenz angeboten, d.h. der Kunde lizenziert den Quellcode und hat damit vollen Zugriff auf die Software.
  • •Die Lizenz beinhaltet die Installation in der Azure Infrastruktur des Kunden.
  • •Betriebskosten sind nicht in der Lizenz enthalten.
  • •Die Lizenz beinhaltet auch die Bereitstellung von Updates und neuen Funktionen.
  • •Der Kunde kann beliebig viele Instanzen mit beliebig vielen Benutzern betreiben.

Wie ist das Support-Modell?

  • •Die Benutzer des Kunden werden durch den Kunden betreut (1st und 2nd Level Support).
  • •Beim Kunden werden durch uns entsprechende Einweisungen durchgeführt.
  • •Für den 3rd Level Support (spezialisiertes Support / On-Site) / Software-Probleme) bieten wir ein Ticket-System an.

Welchen Investionsschutz bietet Safe AI Plus?

  • •Safe AI Plus wird als jährliche Sourcecode Lizenz angeboten, d.h. der Kunde lizenziert den Quellcode und hat damit vollen Zugriff auf die Software.
  • •Sollte der Fall eintreten, dass Safe AI Plus nicht mehr weiter entwickelt wird, hat der Kunde das Recht die Software für sich selbst weiter zu betreiben und warten.

Warum ist Safe AI Plus auf Azure optimiert?

  • •Azure ist eine zuverlässige und sichere Plattform, die eine zuverlässige Infrastruktur für Safe AI Plus bereitstellt, bei der i.d.R. keine weiteren Dienstleister eingebunden werden müssen.
  • •Die meisten Unternehmen haben bereits eine Azure-Infrastruktur und nutzen Azure Services bereits und haben dort entsprechende Datenschutzkonforme Prozesse etabliert.
  • •Der Aufwand bei der Einführung und der Sicherstellung der Einhaltung von DSGVO und anderen Datenschutzbestimmungen ist dadurch deutlich geringer.

Welche Large Language Models werden unterstützt?

  • •Safe AI Plus unterstützt im Moment Azure Open AI in allen verfügbaren Modelle
  • •Eigene gehostete Modelle werden ebenfalls unterstützt, sprechen Sie uns dazu an.

Welche Dokumentation und Hilfen gibt es?

  • •Die Dokumentation ist für Kunden kostenlos verfügbar.
  • •Die Hilfen enthalten Einführungen zu KI-Wissen, um den Mitarbeitern die Arbeit mit KI-Modellen zu erleichtern.

Kann das Branding der Client-Anwendungen von Safe AI Plus angepasst werden?

  • •Ja, das Branding kann angepasst werden. Das Design ist neutral gehalten.
  • •Ein eigenes Logo und Primär-Farben können verwendet werden.
  • •Die Software kann unter Ihrem eigenen Namen angeboten werden, z.B. MeinFirmaGPT.
  • •Die Domain kann ebenfalls angepasst werden, z.B. gpt.mein-firma.de oder chat.intranet-meiner-firma.de

Welche Login-Varianten gibt es?

  • •Es gibt verschiedene Login-Varianten, die je nach Bedarf genutzt werden können.
  • •Es gibt eine Variante mit Microsoft Logins (Azure AD / Entra ID).
  • •Es gibt eine Variante mit E-Mail / Passwort.
  • •Welche Varianten aktiv sind, kann der Kunde selbst entscheiden.

Wie wird das Sicherheitskonzept von Safe AI Plus umgesetzt?

  • •Jeder Benutzer hat zu Beginn einen persönlichen Workspace, in dem nur er selbst interagieren kann.
  • •Jeder Benutzer kann beliebig viele Workspaces erstellen, in denen er interagieren kann und weitere Benutzer als Administratoren oder Mitwirkende einladen.
  • •Alle Chats, Knowledge Bases und Dokumente bleiben innerhalb des Workspaces und werden nur den Mitgliedern des Workspace zugänglich gemacht.

Wie wird Retrieval Augmented Generation (RAG) in Safe AI Plus umgesetzt?

  • •Retrieval Augmented Generation (RAG) wird in Safe AI Plus über Knowledge Bases umgesetzt.
  • •In die Knowledge Bases können beliebige Dokumente oder Webseiten integriert werden.
  • •Technisch werden die Knowledge Bases mit einem Azure AI Search Index oder Postgress PG Vector Index umgesetzt. Welche Technologie genutzt wird, kann der Kunde selbst entscheiden.

Bietet Safe AI Plus eine KI-unterstützte Suche an?

  • •Da das primäre Ziel von Safe AI Plus darin besteht, den Nutzern eine immer DSGVO konforme Möglichkeit zu geben, KI zu nutzen, ist eine allgemeine Suchintegration nicht vorhanden.
  • •Für das Crawling bietet Safe AI Plus jedoch Referenzimplementierungen an, die zeigen, wie SERP, Perplexity, Tavily und andere Techniken in der Automation verwendet werden könnnen.

Hat Safe AI Plus eine API?

  • •Ja, Safe AI Plus ist API-First entwickelt worden und hat eine REST API, die es ermöglicht, die Software in andere Systeme zu integrieren.
  • •Alle Clients von Safe AI Plus nutzen die API.
  • •Der Kunde kann eigene Clients unter Verwendung der API entwickeln.

Ist Safe AI Plus Open Source?

  • •Nein, Safe AI Plus wird als jährliche Sourcecode Lizenz angeboten, d.h. der Kunde lizenziert den Quellcode und hat damit vollen Zugriff auf die Software.

Was sind die Kosten für die Nutzung von Safe AI Plus und welche Faktoren beeinflussen diese?

  • •Jährliche Lizenzgebühr für Safe AI Plus
  • •Eigene Azure-Nutzungskosten (abhängig von den verwendeten Azure-Diensten und deren Umfang)
  • •Eigener Betrieb & Wartung
  • •Optionale Kosten für individuelle Anpassungen, erweiterten Support und Schulungen