Leistungen Daten und KI

Generative AI: Vom Proof of Concept zur Unternehmensanwendung

icitech begleitet Unternehmen, die Enterprise-LLM-, AI-Assistant- und Generative-AI-Anwendungen vom Proof of Concept in den Produktivbetrieb überführen möchten – von der Architekturentscheidung über den Wissenszugriff und die Qualitätsbewertung bis zur vollständigen Integration in die bestehende Systemlandschaft.

Generative AI: Vom Proof of Concept zur Unternehmensanwendung

01 Kontext

Der Proof of Concept funktioniert – der Produktivbetrieb stellt andere Anforderungen

Ein GenAI-Proof of Concept lässt sich in wenigen Tagen lauffähig aufsetzen. Die eigentliche Herausforderung liegt darin, diese Anwendung zuverlässig mit freigegebenen Unternehmensinhalten zu verbinden, sie entsprechend der Nutzerberechtigungen zu steuern, das Risiko fehlerhafter Antworten systematisch zu beherrschen und sie in reale Geschäftsprozesse einzubetten. Wenn Mitarbeitende weiterhin zwanzig Dokumente manuell durchsuchen, Kundenanfragen von Hand klassifizieren oder Führungskräfte operative Berichte einzeln zusammenstellen, ist das ein deutliches Zeichen dafür, dass ein AI-Projekt nicht über den PoC-Status hinausgekommen ist. icitech gestaltet diesen Übergang durch fundierte Architekturentscheidungen, messbare Qualitätsbewertung und tiefgehende Unternehmensintegration.

Der Proof of Concept funktioniert – der Produktivbetrieb stellt andere Anforderungen
Der Proof of Concept funktioniert – der Produktivbetrieb stellt andere Anforderungen

02 Kontext

Vom Anwendungsfall zur Architekturentscheidung

Nicht jede Geschäftsanforderung erfordert den Einsatz eines LLM. icitech klärt zunächst, was tatsächlich benötigt wird: Wissensretrieval, Zusammenfassung, Inhaltsgenerierung, strukturierte Datenextraktion oder werkzeuggestützte Prozessautomatisierung? Diese Einordnung bildet die Grundlage jeder Architekturentscheidung. Erst nachdem Quelldokumente, Zugriffsberechtigungen, Aktualitätsanforderungen und der Umfang sensibler Daten bewertet wurden, wird der geeignete Ansatz – Prompt-only, RAG, strukturierte Werkzeugintegration oder ein hybrides Modell – anhand der Geschäftsanforderung ausgewählt. Die Wahl von Modell und Anbieter folgt diesem Schritt – nicht umgekehrt.

Vom Anwendungsfall zur Architekturentscheidung

03 Umfang

Wesentliche Anwendungsbereiche

Die Generative-AI-Leistungen von icitech konzentrieren sich auf vier Kernbereiche.

Wesentliche Anwendungsbereiche
Wesentliche Anwendungsbereiche
  • 01

    Domänenspezifisches LLM und Knowledge Assistant

    Sprachmodelle, die auf der Fachterminologie und den freigegebenen Quellen eines Unternehmens aufbauen, liefern quellengebundene Antworten statt generischer Ausgaben. Die Retrievalschicht wird entsprechend dem Berechtigungsmodell konfiguriert, sodass Nutzerinnen und Nutzer ausschließlich Inhalte abrufen, auf die sie Zugriffsrechte besitzen.

  • 02

    Virtual Assistant und Self-Service für Mitarbeitende und Kunden

    Für Anwendungsfälle wie Mitarbeiter-Support, Kunden-Self-Service, Produktrecherche oder operationale Assistenten können unternehmensspezifische Oberflächen und Backends entwickelt werden. Der bei JO.ai umgesetzte Ansatz – die Umwandlung von Foto-, Sprach- oder Texteingaben in strukturierte Hotelaufgaben – zeigt konkret, wie eine GenAI-Schnittstelle an operative Arbeitsabläufe angebunden werden kann. Der bei Herapy eingesetzte sprach- und textbasierte AI-Ansatz veranschaulicht, wie die Grenzen einer AI-Nutzererfahrung bereits in der Konzeptionsphase klar definiert werden.

  • 03

    Strukturierte Extraktion und Klassifikation

    Extraktionsverfahren, die E-Mail-, Formular- oder Freitextinhalte in eine definierte JSON-Struktur oder in Datenfelder überführen, verbinden Ticket-Triage-Prozesse oder manuelle Dateneingabe mit der Prozessautomatisierung. Bei der Klassifikation von Supportanfragen konzentriert sich der Mensch auf das Ausnahmemanagement statt auf die Kategorienzuweisung.

  • 04

    Entscheidungsunterstützung und Zusammenfassung

    Generative AI verdichtet Informationen aus autorisierten Datenquellen zu kontextbezogenen Zusammenfassungen und stellt Entscheidungsträgern aufbereitete Inhalte bereit. Bei Prozessen mit finanziellen, Compliance- oder sicherheitsrelevanten Auswirkungen bleibt die menschliche Freigabe als Kontrollinstanz erhalten.

04 Kontext

Qualitätsbewertung: Ohne Qualitätssicherung kein Produktivbetrieb

Dass eine Antwort ansprechend wirkt, ist kein ausreichendes Qualitätskriterium für GenAI. icitech erstellt bereits in der Prototypenphase einen Bewertungsdatensatz, der den produktiven Anwendungsfall repräsentiert. Antwortgenauigkeit, Quellennachweis, Retrievalrelevanz, Fallback-Treffsicherheit, Aufgabenabschlussrate, Latenz und Kosten werden in diesem Datensatz gemessen. Die Qualitätsbewertung ist kein einmaliger Schritt; nach dem Deployment wird ihre Kontinuität durch Regressionstests bei jeder Änderung sichergestellt. Nach Abschluss des Piloten lässt sich messen, ob die Informationsrecherche schneller wird, ob die Last bei der Klassifikation von Supportanfragen sinkt und wie sich die Berichterstellungszeit verändert.

Qualitätsbewertung: Ohne Qualitätssicherung kein Produktivbetrieb

05 Umfang

Sicherheit, Guardrails und Governance

Enterprise-GenAI-Anwendungen erfordern eine anwendungsfallbezogene Bewertung von Risiken wie Prompt Injection, unberechtigtem Datenzugriff, sensitiven Ausgaben, Halluzinationen und Werkzeugmissbrauch. icitech definiert in jedem Projekt bereits in der Designphase die Grenzen unzulässiger Aktionen, die Ausgabepolitik, das Fallback-Verhalten und den menschlichen Freigabemechanismus. Die Bedingungen des Anbieters zur Datenspeicherung und Log-Vertraulichkeit werden vor Projektbeginn verbindlich geklärt. Kostengrenzen und eine schrittweise Nutzerausrollung halten den Übergang in den Produktivbetrieb kontrolliert.

Sicherheit, Guardrails und Governance

06 Kontext

Unternehmensintegration und Lieferumfang

Die Generative-AI-Leistung von icitech beschränkt sich nicht auf Prompt-Engineering. Datentechnik, API-Integration, Mobile- und Webschichten sowie Cloud-Infrastruktur sind für produktionsbereite AI gemeinsam erforderlich. Der Prozess beginnt mit der Anwendungsfallqualifizierung und -bewertung und umfasst Wissens- und Zugriffskuratierung, einen Prototyp mit eingeschränktem Umfang, die Bewertung von Qualität, Latenz und Kosten, API-, UI- und Integrationsentwicklung, Guardrail- und Freigabedesign, einen kontrollierten Nutzerstart sowie die laufende Überwachung von Nutzung, Qualität und Kosten. Der Lieferumfang beinhaltet: Bewertung von GenAI-Möglichkeiten, LLM-Anwendungsarchitektur, Retrieval- und Wissenszugangsschicht, AI-Assistant-Oberfläche, Enterprise-Werkzeugintegration, Bewertungsdatensatz, Qualitätsbewertungsrahmen, Guardrail-Regeln, Monitoring-Dashboard und technische Dokumentation. Der Umfang lässt sich mit neuen Domänen, Werkzeugen oder Anwendungsfällen skalierbar erweitern.

Unternehmensintegration und Lieferumfang

07 FAQ

Häufig gestellte Fragen

Anforderungen wie Skalierbarkeit, Latenz und Datensicherheit, die im PoC-Umfeld oft zurückgestellt werden, werden unter realer Produktionslast zu kritischen Schwachstellen. Architekturentscheidungen müssen daher von Beginn an unter Produktionsbedingungen getroffen werden.

Die richtige Architektur hängt vom Anwendungsfall, der vorhandenen Dateninfrastruktur und den Sicherheitsanforderungen ab – eine universelle Antwort gibt es nicht. Eine Architekturentscheidung ohne vorherige Anwendungsfallanalyse führt erfahrungsgemäß zu kostspieligen Überarbeitungen.

RAG bietet in Szenarien, die aktuellen und unternehmensspezifischen Wissenzugriff erfordern, eine flexiblere und wartbarere Lösung. Fine-Tuning gewinnt an Bedeutung, wenn das Verhalten des Modells für eine bestimmte Aufgabe oder einen bestimmten Ton dauerhaft angepasst werden soll.

Ohne einen systematischen Bewertungsrahmen, der Dimensionen wie Genauigkeit, Relevanz und Konsistenz abdeckt, lässt sich über Produktionsqualität keine belastbare Aussage treffen. Hybride Ansätze, die automatisierte Metriken mit menschlicher Bewertung kombinieren, liefern die zuverlässigsten Ergebnisse.

Mitarbeiterassistenten arbeiten in der Regel mit einer internen Wissensbasis, die auf Berechtigungsebenen und interne Prozesse abgestimmt ist. Kundenassistenten tragen zusätzliche Anforderungen an Markenstimme, Omnichannel-Integration und strengere Guardrail-Konfiguration.

Prompt Injection, unberechtigter Datenzugriff und Modellantworten außerhalb des definierten Geltungsbereichs zählen zu den wesentlichen Risiken. Deren Steuerung erfordert das Zusammenspiel technischer Guardrails und unternehmensweiter Governance-Richtlinien.

Der Integrationsaufwand hängt maßgeblich von der API-Reife, der Authentifizierungsinfrastruktur und den Datenmigrations­anforderungen ab. Eine technische Bedarfsklärung in der Frühphase verhindert unvorhergesehene Verzögerungen im Projektverlauf.

LLM-basierte Klassifikation erzeugt konkreten Mehrwert dort, wo regelbasierte Systeme an ihre Grenzen stoßen und sprachliche Vielfalt oder kontextuelle Interpretation erforderlich ist. Kosten, Latenz und Nachvollziehbarkeit sind jedoch in jedem Einzelfall gesondert zu bewerten.

Strukturen, die das Modell auf die in den Quelldokumenten enthaltenen Informationen beschränken, sowie Zitiermechanismen reduzieren das Halluzinationsrisiko erheblich. Hybride Abläufe mit menschlicher Prüfung der Ausgaben bieten bei kritischen Entscheidungen eine zusätzliche Sicherheitsebene.

Ein typischer Lieferumfang umfasst eine lauffähige Anwendung, Architektur- und Bewertungsdokumentation sowie Übergabematerialien für das Betriebsteam. Wissenstransfer und Monitoring-Infrastruktur sind für die langfristige Betreibbarkeit ebenfalls Bestandteil des Lieferumfangs.