Entwickelt für den Unternehmenseinsatz

Neben der Integration von KI in betriebliche Prozesse stellt die technische Bereitstellung einer datenschutzkonformen Umgebung eine große Herausforderung dar.

Safe AI Proxy bietet eine zuverlässige API, die nahtlos in Workflow-Engines, Automatisierungslösungen, Office-Anwendungen wie Excel und andere Software eingebunden werden kann. Ein wesentlicher Vorteil ist, dass die Schnittstelle stabil bleibt, auch wenn sich die zugrunde liegenden KI-Anwendungen ändern. Dies ermöglicht maximale Flexibilität bei der Auswahl und dem Wechsel von KI-Modellen, ohne Anpassungen an den bestehenden Systemen vornehmen zu müssen.

Vorteile

Zentrale Kontrolle: Safe AI Proxy bietet eine zentrale Steuerung des KI-Datenverkehrs durch die IT-Abteilung und verwendet Azure-Dienste. Es sorgt dafür, dass nur autorisierte Nutzer auf die KI-Dienste zugreifen.

Austauschbare KI-Modelle: Die API ermöglicht den flexiblen Einsatz verschiedener KI-Modelle, ohne Anpassungen an den Anwendungen vorzunehmen. So bleibt die Infrastruktur anpassungsfähig.

Datenschutzkonform: Sensible Daten werden nicht an Dritte weitergegeben, da nur eigene Modelle verwendet werden. Die Wahl von Azure als zentrale Plattform, nutzt bestehende Datenschutzmaßnahmen, die Unternehmen mit Microsoft vereinbart hat.

Eigener Betrieb: Der Service läuft in der eigenen Azure-Umgebung und nutzt Technologien wie Azure Functions, Cosmos DB und Azure OpenAI. Es werden keine Daten an uns weitergegeben.

Schnelle Einführung: Safe AI Proxy und Anwendungen werden immer durch den Kunden betrieben. Wir verstehen uns als Software-Entwickler und bieten unsere Software als jährliche Lizenz an. Dies ermöglicht sehr schnelle Einführung von KI-Lösungen im Unternehmen.

Kernfunktionen

Safe AI Proxy bietet eine Vielzahl von Funktionen, die speziell auf die Anforderungen moderner Unternehmen zugeschnitten sind:

Workspaces

Jeder Workspace wird als separate Identität behandelt. Beispiele für Workspace sind z.B. Organisationen, Abteilungen oder Teams. Dies ermöglicht eine genaue Verwaltung und Trennung von Daten und Berechtigungen.

User

Benutzer sind die Personen, die den Service nutzen. Sie werden durch ihre E-Mail-Adresse identifiziert und sind einem Workspace zugeordnet. So behalten Sie stets den Überblick über die Nutzeraktivitäten.

KI-Modelle

KI-Modelle sind der Kern der Verarbeitung. Safe AI Proxy ermöglicht Ihnen den Einsatz verschiedenster Modelle, die jederzeit ausgetauscht werden können, ohne dass die Anwendungen davon betroffen sind.

Prompt-Templates

Mithilfe von Prompt-Templates können standardisierte Anfragen erstellt und verwendet werden, um die Konsistenz in der Kommunikation mit dem KI-Modell zu gewährleisten.

Chats

Die Chat-Funktion erlaubt es Benutzern, auf Basis von KI-generierten Antworten zu interagieren. Dies ist besonders nützlich für Kunden-Support und ähnliche Anwendungsfälle.

Knowledge Bases + Einträge

Die Knowledge Bases bieten eine strukturierte Informationsbasis, auf die das KI-Modell bei der Beantwortung von Anfragen zurückgreifen kann. Diese Informationen bleiben unter Ihrer Kontrolle und werden nicht extern verarbeitet. Knowledge Bases können in allen Chats und Prompts verwendet werden.

Dokumente

Safe AI Proxy stellt einen Mechanismus für das Sichern von JSON-Dokumenten für den jeweiligen Benutzer zur Verfügung. Über diesen Mechanismus können Anwendungen, die den Proxy verwenden sehr einfach JSON-Dokumenten schreiben, lesen, ändern und löschen. Beispiele sind "Benutzer-Profile", "Chat-Historien", etc.

API-Keys

API-Keys (JWT Token) bieten zahlreiche Vorteile im Zusammenhang mit der Nutzung von Safe AI Proxy. Unter anderem bieten API-Keys die präzise Steuerung darüber, wer auf die KI-Dienste zugreifen kann. Statt einen globalen API-Schlüssel zu verwenden, werden benutzerspezifische API-Keys generiert. So wird sichergestellt, dass nur autorisierte Benutzer Zugriff auf den Safe AI Proxy und die zugrunde liegenden KI-Modelle haben. API-Keys basieren auf JWT-Tokens und werden entweder durch die Azure AD / Entra oder unsere API-Key-Verwaltung erstellt.

Geplante Erweiterungen

Agenten: Agenten sind vordefinierte API-Aufgaben, die automatisiert bestimmte Antworten generieren können. Dies erleichtert den Nutzern die Arbeit und spart Zeit.

Bildmodelle: Diese ermöglichen es, visuelle Daten wie Bilder und Grafiken in die Analyse einzubeziehen und darauf basierend automatisierte Antworten oder Erkennungen zu generieren. So können Bildverarbeitungslösungen effizient in bestehende Prozesse integriert werden.

Dateien: Speichern von Dateien (z.B. Bilder) in einem Blob-Storage wird mit der Erweiterung "Bildmodelle" eingefügt.