KI-Software entwickeln lassen – vom Modell zur belastbaren Anwendung
ProWebSolutions entwickelt KI-gestützte Software, in der Sprachmodelle, Speech-to-Text, Text-to-Speech, Bildanalyse oder externe KI-APIs Teil eines vollständigen Systems werden. Entscheidend ist nicht das Modell allein, sondern die zuverlässige Verbindung mit Daten, Geschäftslogik, Benutzeroberfläche und Betrieb.
Ein modernes Sprachmodell kann Texte analysieren, Informationen strukturieren, übersetzen oder komplexe Zusammenhänge beurteilen.
Damit daraus eine verlässliche Unternehmensanwendung wird, braucht es jedoch wesentlich mehr.
Eingaben müssen vorbereitet werden. Ergebnisse müssen strukturiert und validiert werden. Modelle benötigen den richtigen Kontext. Daten müssen geschützt werden. Fehler und Unsicherheiten müssen behandelt werden. Rechenintensive Aufgaben benötigen Warteschlangen und Worker. Ergebnisse müssen anschließend wieder sinnvoll in eine bestehende Anwendung oder einen Geschäftsprozess zurückgeführt werden.
Genau dort beginnt KI-Softwareentwicklung.
Wir betrachten KI nicht als isolierte API, sondern als Bestandteil einer vollständigen Softwarearchitektur.
Architekturwahl
Externe KI integrieren oder Modelle selbst betreiben
Nicht jedes Projekt benötigt eine eigene KI-Infrastruktur.
MyVinoLog zeigt eine bewusst einfache und wirtschaftliche Variante. Zwei Fotos eines Weinetiketts werden über eine Schnittstelle an leistungsfähige externe KI-Technologie übergeben. Die zurückgegebenen Informationen werden strukturiert verarbeitet und dem Nutzer vor dem Speichern zur Kontrolle angezeigt.
Für andere Anwendungen ist diese Architektur nicht ausreichend.
Mementri verarbeitet persönliche Gedanken und langfristiges Wissen. Dafür betreibt ProWebSolutions ein leistungsfähiges Large Language Model innerhalb europäischer Infrastruktur und verbindet dieses mit eigener Sprachverarbeitung, Broker- und Worker-Systemen.
Verbison verwendet ebenfalls selbst kontrollierte KI-Infrastruktur, um Website-Inhalte zu übersetzen, in unterschiedliche Sprachfassungen zu überführen und anschließend über Text-to-Speech als Audio bereitzustellen.
Die richtige Frage lautet deshalb nicht: „Welche KI verwenden wir?“ Sondern: „Welche Architektur ist für diesen Anwendungsfall sinnvoll?“
Kontrollierter Kontext
LLMs sinnvoll in Geschäftsprozesse integrieren
Large Language Models sind besonders stark im Umgang mit unstrukturierten Informationen.
Menschen formulieren Gedanken, Dokumente und Anforderungen nicht wie Datenbanktabellen.
LLMs können dabei helfen, Inhalte zu strukturieren, relevante Informationen zu erkennen, Texte zu klassifizieren oder neue Zusammenhänge zu bewerten.
Die Herausforderung liegt darin, diesen Fähigkeiten Grenzen zu geben.
Ein Modell sollte nicht entscheiden dürfen, was eine Tatsache ist, nur weil es eine plausible Formulierung erzeugen kann.
Bei Mementri wurde deshalb beispielsweise eine Architektur aufgebaut, in der ursprüngliche Informationen erhalten bleiben und abgeleitete Inhalte auf konkrete Quellen zurückgeführt werden.
Andere Verarbeitungsschritte werden in mehrere kleine spezialisierte Aufgaben zerlegt, statt dem Modell einen einzigen immer größer werdenden Kontext zu übergeben.
Solche Architekturentscheidungen bestimmen häufig stärker über die Qualität einer KI-Anwendung als die Wahl des Modells allein.
Sprachverarbeitung
Speech-to-Text und Text-to-Speech
Sprache eröffnet Anwendungen, die nicht mehr ausschließlich über Tastatur und Bildschirm funktionieren.
Mementri nutzt Speech-to-Text, damit ein Nutzer Gedanken einfach aussprechen kann. Die Spracheingabe wird anschließend zu strukturiertem Wissen weiterverarbeitet.
Verbison geht den umgekehrten Weg.
Website-Inhalte werden übersetzt, redaktionell für das Hören vorbereitet und anschließend über Text-to-Speech als natürlich klingende Audiofassung bereitgestellt.
Damit entstehen unterschiedliche KI-Pipelines: Audio wird zu Text. Text wird verstanden und strukturiert. Text wird übersetzt. Text wird wieder zu Sprache.
Entscheidend ist auch hier das Zusammenspiel der Komponenten und nicht eine einzelne Engine.
Asynchrone Verarbeitung
Broker, Worker und rechenintensive KI-Aufgaben
Viele KI-Anwendungen lassen sich nicht sinnvoll innerhalb eines normalen Webrequests ausführen.
Übersetzungen, Sprachverarbeitung, große Sprachmodelle oder längere Analyseprozesse können mehrere Sekunden oder deutlich länger benötigen.
ProWebSolutions arbeitet deshalb bei entsprechenden Projekten mit Broker-, Queue- und Worker-Architekturen.
Die eigentliche Webanwendung gibt einen Auftrag an die Verarbeitungsinfrastruktur weiter.
Dort wird entschieden, wann und auf welchem Worker der Auftrag ausgeführt wird. Unterschiedliche Verarbeitungsschritte können unabhängig voneinander laufen oder aufeinander aufbauen.
So kann beispielsweise bereits die Audioerzeugung einer fertig übersetzten Sprache beginnen, während eine weitere Übersetzung noch verarbeitet wird.
Für den Nutzer bleibt dieser technische Ablauf weitgehend unsichtbar.
Bei KI-Projekten muss früh geklärt werden, welche Informationen ein Modell verarbeitet und wo diese Verarbeitung stattfindet.
Für weniger sensible Anwendungen kann ein etablierter externer API-Dienst die sinnvollste und wirtschaftlichste Lösung sein.
Bei Anwendungen mit persönlichen oder besonders schützenswerten Inhalten kann dagegen eine selbst kontrollierte Infrastruktur entscheidend sein.
Mementri und Verbison zeigen diese zweite Variante.
Die dort eingesetzten großen Modelle und Sprachkomponenten werden innerhalb europäischer beziehungsweise deutscher Infrastruktur betrieben und nicht für jeden Verarbeitungsschritt an einen externen KI-Anbieter weitergereicht.
Welche Architektur geeignet ist, hängt vom konkreten Projekt, den Daten, den Qualitätsanforderungen und dem wirtschaftlichen Rahmen ab.
Qualitätssicherung
KI-Ergebnisse brauchen Kontrolle
KI kann außergewöhnlich leistungsfähig sein und trotzdem falsch liegen.
Deshalb gehört zu einer belastbaren Anwendung immer die Frage: Was passiert, wenn das Modell unsicher ist oder ein falsches Ergebnis liefert?
Bei MyVinoLog werden erkannte Weindaten zunächst in einem Formular angezeigt und können vom Nutzer geprüft werden.
Bei Mementri bleiben Originalinformationen erhalten und werden nicht einfach durch eine KI-Zusammenfassung ersetzt.
Andere Prozesse können feste Validierungen, strukturierte Ausgabeformate, Grenzwerte oder zusätzliche Prüfschritte benötigen.
Die konkrete Qualitätssicherung richtet sich nach dem Risiko des Anwendungsfalls.
Technische Abwägung
Nicht jedes Problem braucht KI
Eine gute KI-Strategie bedeutet nicht, überall künstliche Intelligenz einzubauen.
StoreVigil ist dafür ein gutes Gegenbeispiel.
Die Plattform analysiert Websites mit automatisierten Google-Chrome-Instanzen, DOM-Daten, Netzwerkzuständen und deterministischer Prüflogik.
Für diese technischen Prüfungen ist ein Sprachmodell derzeit nicht notwendig.
Das System wird dadurch nicht weniger anspruchsvoll.
Im Gegenteil: Die Entscheidung für klassische Softwarelogik ist dort die zuverlässigere technische Lösung.
Für uns gehört diese Abwägung ausdrücklich zur KI-Softwareentwicklung.
Vorgehen
Von der Idee zum KI-System
Eine sinnvolle KI-Entwicklung beginnt mit dem Prozess und nicht mit dem Modell.
Zunächst wird geklärt, welche Aufgabe automatisiert oder unterstützt werden soll und woran ein gutes Ergebnis erkennbar ist.
Danach wird entschieden, welche Daten zur Verfügung stehen und welche davon verarbeitet werden dürfen.
Erst dann folgt die Auswahl der technischen Strategie: externe API, selbst betriebenes Modell, klassische Softwarelogik oder eine Kombination daraus.
Ein erster funktionaler Ablauf zeigt anschließend früh, ob Qualität, Geschwindigkeit und Kosten zum geplanten Einsatz passen.
Danach können Benutzeroberfläche, Schnittstellen, Worker, Monitoring und Betrieb zu einer vollständigen Anwendung ausgebaut werden.
Bildanalyse wird nicht allein durch ein schnelles Modell skalierbar. Erst Queues, getrennte Worker, Prioritäten und belastbare Fehlerpfade machen aus rechenintensiven Jobs ein betreibbares System.
Muss für eine KI-Anwendung ein eigenes Modell trainiert werden?
Nein. Häufig ist es sinnvoller, ein bestehendes leistungsfähiges Modell zu integrieren oder selbst zu betreiben und die eigentliche Entwicklungsarbeit auf Datenfluss, Kontext, Validierung, Benutzeroberfläche und Geschäftsprozess zu konzentrieren. Eigenes Training ist nur sinnvoll, wenn der Anwendungsfall dies tatsächlich erfordert.
Kann eine KI-Anwendung ohne externe Anbieter betrieben werden?
Ja, abhängig vom Modell und den Leistungsanforderungen. ProWebSolutions betreibt in eigenen Projekten große Sprach- und Speech-Systeme innerhalb europäischer Infrastruktur. Ob dieser Aufwand sinnvoll ist, hängt von Datenschutz, Datenmenge, Geschwindigkeit, Qualität und Betriebskosten ab.
Können bestehende Anwendungen nachträglich um KI erweitert werden?
Ja. Wenn Daten und Schnittstellen sinnvoll zugänglich sind, können KI-Funktionen als klar abgegrenzte Komponente in vorhandene Anwendungen integriert werden. Wichtig sind dabei Datenhoheit, Fehlerverhalten und die Frage, welche Entscheidungen weiterhin deterministisch bleiben müssen.
Was ist wichtiger – das Modell oder die Architektur?
Beides spielt eine Rolle. In realen Anwendungen entscheidet jedoch häufig die Architektur darüber, ob ein leistungsfähiges Modell zuverlässig eingesetzt werden kann. Kontextaufbereitung, Validierung, Queues, Rechte, Datenhaltung, Monitoring und Benutzerführung sind mindestens genauso wichtig wie die reine Modellleistung.
Entwickelt ProWebSolutions auch klassische Software ohne KI?
Ja. KI ist eine technische Möglichkeit, kein Pflichtbestandteil. Wenn klassische Regeln, Datenbanklogik oder Automatisierung für einen Prozess besser geeignet sind, entwickeln wir bewusst ohne KI.
Sie haben eine KI-Idee – aber noch keine belastbare Architektur?
Beschreiben Sie uns den Prozess, die vorhandenen Daten und das gewünschte Ergebnis. Gemeinsam klären wir, ob eine externe KI-API, ein selbst betriebenes Modell oder eine klassische Softwarelösung der sinnvollste technische Weg ist.