Leapter, ein deutsches Pre-Seed-Startup, nutzt AWS, um seine Plattform für Visualisierung für KI-gestützte Softwareentwicklung zu betreiben. Durch den Einsatz einer Kombination von AWS-Diensten, darunter Amazon Bedrock für den Zugriff auf leistungsstarke Foundation Models, Amazon Elastic Container Service (ECS) mit AWS Fargate für die skalierbare Ausführung unserer Anwendungscontainer und Amazon Aurora als hochverfügbare Datenbank, kann das Unternehmen seine Kerninnovationen vorantreiben, ohne sich um die Verwaltung der zugrunde liegenden Infrastruktur kümmern zu müssen. Die Skalierbarkeit und Zuverlässigkeit der AWS Cloud sind dabei entscheidend für die Verfügbarkeit und Leistungsfähigkeit der Plattform, insbesondere bei der komplexen Verarbeitung und Darstellung von Code-Strukturen. Für Leapters Kunden bedeutet dies eine hochperformante und jederzeit verfügbare Plattform, die auch komplexe Logik-Visualisierungen in Echtzeit und ohne Verzögerungen verarbeiten kann. Die Zuverlässigkeit der AWS-Infrastruktur gibt unseren Kunden die Sicherheit, dass ihre geschäftskritischen Entwicklungsprozesse auf einem stabilen Fundament aufbauen.
Das „Glass Box Problem“
KI-Assistenten können verschiedenste Aufgaben übernehmen, von der Zusammenfassung von Dokumenten über die Erstellung von Bildern und Videos, oder der Auswertung und Repräsentation von Geschäftsdaten. Sie können aber auch Software-Entwicklern dabei helfen, Programmcode zu schreiben, um neue Produkte oder Dienstleistungen entwickeln zu können. Doch wie können Entwickler, die diese Tools zur Generierung von Code einsetzen, sicherstellen, dass fehlerfreier und sicherer Anwendungscode entsteht? Genau dieser grundlegenden Herausforderung widmet sich Leapter, ein deutsches Startup, das kürzlich eine Pre-Seed-Finanzierung in Höhe von 2 Millionen Euro , angeführt durch bm-t beteiligungsmanagement thüringen GmbH und der Beteiligung von SIVentures erfolgreich abgeschlossen hat . Das Unternehmen, dass seine Plattform auf Amazon Web Services (AWS) aufbaut, hat eine Lösung entwickelt, die KI-generierten Code visualisiert und dadurch transparent und nachvollziehbar macht - und verwandelt damit die sprichwörtliche "Black Box" in das, was sie als "Glass Box" bezeichnen.
Das Vertrauensproblem bei KI-Systemen
Für Unternehmen können Fehler in erzeugtem Source Code schwerwiegende Folgen haben – insbesondere dann, wenn geschäftskritische Anwendungen betroffen sind. "Wir sind an einem Punkt angelangt, an dem KI nahezu jede Branche transformiert. Für die Teams, die diese KI-Applikationen entwickeln, funktioniert sie allerdings oft wie eine Black Box", erläutert Oliver Welte, Mitgründer von Leapter. "Entwickler sehen zwar, was hineingeht und was herauskommt, aber nicht wie die KI zu ihren Schlussfolgerungen, also beispielsweise dem generierten Code, gelangt. Dieser Mangel an Transparenz schafft erhebliche Herausforderungen, besonders wenn KI-Systeme gelegentlich 'halluzinieren' - also plausibel erscheinenden, aber falschen Code generieren."
Man stelle sich ein Versicherungsunternehmen vor, dessen KI den Code für die Berechnung der jährlichen Versicherungsprämien erstellt. Ein subtiler Logikfehler – beispielsweise wenn die KI eine Regel wie "Kunden mit mehr als 5 Jahren Vertragslaufzeit erhalten einen Rabatt" fälschlicherweise als jahre > 5 statt jahre >= 5 interpretiert – hätte gravierende Folgen: Tausende von Kunden im fünften Vertragsjahr würden fälschlicherweise von Rabatten ausgeschlossen werden, was zu massiver Unzufriedenheit und teuren rechtlichen Konsequenzen führen könnte.
Das eigentliche Problem ist dabei nicht, dass KI Fehler macht, sondern dass es für den Menschen zu schwierig ist, diese Fehler im Code-Dickicht mit Sicherheit zu finden. Daher ist es entscheidend, dass Entwickler:innen und Fachexpert:innen die von der KI als Code generierte Geschäftslogik mühelos nachvollziehen und validieren können, um die volle Verantwortung für die Anwendung zu übernehmen.
Wie mangelnde Transparenz Innovationen bremst
Denken wir beispielsweise an unsere Lieblings-Apps – die wir zum Einkaufen, für unsere Finanzen, zur Kommunikation oder zum Arbeiten nutzen. Jede einzelne wurde von Teams entwickelt, die ihre Funktionen konzipiert und tausende oder sogar Millionen Codezeilen geschrieben haben. Diese Teams setzen heute zunehmend KI ein, um Anwendungen schneller entwickeln zu können. Doch es gibt einen Haken: Wenn das Team nicht versteht, was der KI-generierte Code bewirkt oder wie er funktioniert, werden sie ihm kaum genug vertrauen, um ihn im fertigen Produkt einzusetzen.
"Es ist, als hätte man einen brillanten, aber rätselhaften Kollegen, der einem fertige Arbeit übergibt, ohne seine Vorgehensweise zu erklären", sagt Robert Werner, der zweite Mitgründer von Leapter, der über ein Jahrzehnt Erfahrung bei Branchengrößen wie Pivotal und VMware mitbringt. "Man schätzt zwar die Hilfe, wird aber wahrscheinlich erhebliche Zeit damit verbringen, die Arbeit nachzuvollziehen, bevor man genug Vertrauen hat, sie zu verwenden."
Diese Vertrauenslücke betrifft ganze Organisationen, die KI-unterstützt Anwendungen entwickeln. Produktmanager können nur sehr aufwändig überprüfen, ob das Entwickelte den Kundenbedürfnissen entspricht. Die Überprüfung kostet Zeit und bindet wertvolle Ressourcen im Unternehmen, wodurch die positiven Effekte der KI-Nutzung wieder aufgezehrt werden. Und in regulierten Branchen wie dem Gesundheitswesen oder Finanzsektor kann dieser Mangel an Transparenz eine KI-unterstützte Entwicklung nahezu unmöglich machen. "Ohne Transparenz verbringen Teams am Ende mehr Zeit damit, KI-generierten Code zu überprüfen und zu verstehen, als sie für das eigentliche Schreiben gebraucht hätten", erklärt Robert Werner.
Lösungen für mehr Transparenz im Umgang mit KI
Anstatt nur rohen Code zu produzieren, generiert Leapter mit seiner Plattform Visualisierungen, die exakt zeigen, was der Code tut und warum. "Wir nennen sie 'ausführbare Modelle'", erläutert Oliver Welte. "Es sind visualisierte Arbeitsabläufe, die aufzeigen, wie Daten durch ein System fließen, wo Entscheidungen getroffen werden und wie verschiedene Komponenten zusammenwirken."
Diese Modelle dienen als gemeinsame Sprache für alle Beteiligten der Softwareentwicklung:
• Für Entwickler: Verstehen der Logik hinter KI-generiertem Code ohne zeitaufwendiges Reverse-Engineering
• Für Business-Teams: Überprüfung des Systemverhaltens ohne technisches Expertenwissen
• Für Organisationen: Gewährleistung von Governance und Compliance durch transparente, überprüfbare KI-Systeme
Ein praktisches Beispiel: Ein Team entwickelt mithilfe von KI ein Empfehlungssystem. Mit Leapters Plattform können sie genau visualisieren, wie der KI-generierte Code Nutzervorlieben verarbeitet, Produkteigenschaften analysiert und Empfehlungen generiert. Erscheinen die Empfehlungen unpassend, lässt sich der Entscheidungspfad zurückverfolgen, um Anpassungsbedarf in der Logik zu identifizieren.
Die Herausforderung der KI-Transparenz wird auch von AWS aktiv adressiert. Mit Amazon Bedrock Guardrails bietet AWS beispielsweise eine Lösung, die KI-Anwendungen sicherer und nachvollziehbarer macht. So können mit Amazon Bedrock Guardrails bis zu 88 Prozent von potenziell schädlichen Inhalten erkannt und über 75 Prozent der Halluzinationen in KI-Antworten herausgefiltert werden. -Durch den Einsatz von "Automated Reasoning" – welches als erste und einzige KI-Schutzfunktion mathematische Verfahren nutzt - können faktische Fehler verhindert und die Richtigkeit von Antworten nachweisbar gemacht werden.
Der Einsatz unterschiedlicher Werkzeuge und Technologien, kann Unternehmen dabei helfen KI-Systeme nachvollziehbar, kontrollierbar und damit auch vertrauenswürdiger zu machen.
Für Unternehmenskunden und Verbraucher:innen bedeutet dies, dass die Anwendungen, die wir täglich nutzen, effizienter und mit weniger Fehlern entwickelt werden können. Neue Funktionen werden schneller bereitgestellt, Fehler früher erkannt und das Endprodukt entspricht genauer den tatsächlichen Nutzerbedürfnissen. Für Unternehmen und ihre Mitarbeiter:innen ergeben sich dadurch tatsächliche Effizienz-Vorteile durch den Einsatz von KI.
Europäische Innovation und digitale Souveränität im KI-Zeitalter
In einer Zeit, in der KI die digitale Transformation maßgeblich vorantreibt, etabliert sich Europa zunehmend als Zentrum für vertrauenswürdige KI-Innovation.
"Der Aufbau unserer Plattform auf AWS war für uns die logische Wahl", erklärt Robert Werner. "Die AWS Infrastruktur bietet nicht nur die Leistungsfähigkeit, die wir für unsere Visualisierungs- und Analyse-Plattform benötigen - das starke Engagement für europäische digitale Souveränität entspricht auch unseren Werten. Als europäisches Unternehmen entwickeln wir innovative Technologien, die KI-gestützte Code-Entwicklung transparent und nachvollziehbar machen. Die konsequente Ausrichtung von AWS an europäischen Standards ermöglicht es uns, diese Innovation voranzutreiben und Unternehmen dabei zu unterstützen, ihre KI-gestützten Entwicklungsprozesse besser zu verstehen und zu kontrollieren. So profitieren unsere Kunden von einer hochmodernen Cloud-Infrastruktur, während sie gleichzeitig volle Transparenz über ihre KI-gestützten Entwicklungsprozesse erhalten."
Schnellere Entwicklung bei gleichbleibender Vertrauenswürdigkeit
Erste Nutzer der Leapter-Plattform berichten von bedeutenden Vorteilen:
• Reduzierte Überprüfungszeit: Teams benötigen bis zu 60 Prozent weniger Zeit für die Kontrolle KI-generierten Codes
• Verbesserte teamübergreifende Zusammenarbeit: Business- und Technical-Stakeholder können durch eine gemeinsame visuelle Sprache effektiver kooperieren
• Schnellerer Markteintritt: Durch die Optimierung des KI-Verifizierungsprozesses gelangen Produkte zügiger von der Konzeption zur Markteinführung
"Die beste Technologie ist für Nutzer unsichtbar, für Entwickler jedoch vollständig transparent", erklärt Robert Werner. "Genau das ist unser Ziel - KI zu einem verständlichen, vertrauenswürdigen Bestandteil der Softwareentwicklung zu machen."
Die Zukunft der Mensch-KI-Zusammenarbeit
Je tiefer KI in unseren Alltag integriert wird, desto wichtiger wird Transparenz. "Wir sind überzeugt, dass die Zukunft Teams gehört, in denen Menschen und KI zusammenarbeiten und dabei ihre jeweiligen Stärken ausspielen", sagt Oliver Welte. "KI kann in unglaublicher Geschwindigkeit Entwürfe generieren und repetitive Aufgaben bewältigen. Menschen bringen Urteilsvermögen, Kreativität und ethische Überlegungen ein."
Für diese Arbeitsweise ist Vertrauen essenziell - und Vertrauen erfordert Transparenz. Indem Unternehmen wie Leapter Werkzeuge bereitstellen, die transparent machen, was der KI-generierte Code bewirkt und wie er funktioniert, wird ein Fundament für die nächste Generation KI-gestützt entwickelter Anwendungen geschaffen. Für Verbraucher bedeutet dies, dass die Produkte und Dienste, auf die wir uns verlassen, weiterhin von den Möglichkeiten der KI profitieren können - bei gleichzeitiger Gewährleistung menschlicher Kontrolle, die sicherstellt, dass sie unsere Bedürfnisse wirklich erfüllen.
Leapter befindet sich derzeit in einer privaten Beta-Phase mit ersten Design-Partnern. Weitere Informationen über ihre Visual-First-Entwicklungsplattform finden Sie unter www.Leapter.com.
Mehr darüber, wie Unternehmen ihre Produktivität steigern, differenzierte Erlebnisse schaffen und schneller mit AWS innovieren können, erfahren Sie unter https://aws.amazon.com/ai/generative-ai/.