Wir haben unsere Telefonanlage auf Kubernetes umgezogen.
Dabei kam eine Funktion hinzu, die im Alltag schnell unverzichtbar wurde: Telefonkonferenzen werden transkribiert, zusammengefasst und durchsuchbar.
Jeder Teilnehmer wird auf einer eigenen Spur aufgezeichnet, Whisper erstellt daraus das Transkript und ein lokales Sprachmodell das Protokoll mit Entscheidungen und Aufgaben.
Gesucht wird in OpenSearch per Volltext und nach Bedeutung, so findet man auch Gespräche, in denen ein Begriff nicht wörtlich gefallen ist.
Alle Daten bleiben dabei im eigenen Cluster, auch die KI-Modelle laufen auf eigener Hardware.
Dieser Beitrag beschreibt den Aufbau und die Punkte, an denen wir nachjustieren mussten.
Zum Schluss geht es darum, was vor einer Aufzeichnung rechtlich zu beachten ist.
Der produktive Einsatz von KI-Werkzeugen durch einzelne Entwickler ist inzwischen gut verstanden.
Die interessantere Frage stellt sich eine Ebene höher: Was passiert, wenn ein ganzes Team KI auf derselben Codebasis einsetzt.
Hier entstehen Probleme, die sich mit individueller Produktivität nicht lösen lassen.
Dieser Beitrag ordnet die wichtigsten ein und zeigt, an welchen Stellen Teams ansetzen sollten.
Nicht jede Organisation kann oder darf KI-Dienste in der Cloud nutzen.
Sensible Daten, regulatorische Vorgaben, Souveränitätsanforderungen und abgeschottete Netze verlangen den Betrieb von Sprachmodellen im eigenen Haus.
Das ist technisch machbar, stellt aber eigene Anforderungen an Betrieb, Sicherheit und Compliance.
Dieser Beitrag ordnet die wichtigsten ein.
Domain-Driven Design und generative KI werden oft getrennt betrachtet.
Das eine gilt als Methodik für fachliche Modellierung, das andere als Technologiethema.
Tatsächlich berühren sich beide an mehreren Stellen, und die Verbindung ist tragfähiger, als es auf den ersten Blick wirkt.
In diesem Beitrag ordnen wir die Schnittmengen ein und trennen dabei zwei Richtungen, die man nicht vermischen sollte.
Im Beitrag Kubernetes Ops Hilfe mit lokalem LLM hat ein handgeschriebener OpenAI-kompatibler Proxy kubectl als Tool für ein lokales Sprachmodell verfügbar gemacht.
Dabei wurde Open WebUI als Chat-Oberfläche genutzt, so dass eine interaktive Diagnose möglich wurde.
llama.cpp bringt inzwischen zwei Dinge von Haus aus mit, die einen alternativen Aufbau möglich machen:
eine eigene, in llama-server eingebettete Chat-Oberfläche und einen MCP-Client, der Werkzeuge über das Model Context Protocol (MCP) anspricht.
Dieser Beitrag zeigt, wie sich kubectl so über einen minimalen, selbst geschriebenen MCP-Server anbinden lässt, bewusst ohne auf ein fertiges MCP-Projekt zurückzugreifen, um die Prinzipien von MCP sichtbar zu machen.
Im Ordner sample liegt dazu ein vollständiges, lauffähiges Docker-Compose-Setup.
Für den produktiven Einsatz verweist der Beitrag am Ende auf etablierte Alternativen.
In Kubernetes-Clustern wird viel operatives Wissen zur Nutzung der richtigen kubectl-Befehle benötigt.
Diese muss man neben den relevanten Kubernetes Grundlagen erst kennen:
Welches Argument filtert Pods im CrashLoopBackOff, wie liest man Events zu einem Deployment aus, welcher Selector gehört zu welchem Service.
Ein lokal betriebenes Sprachmodell kann die Übersetzung von Fragen zum Kubernetes Cluster übernehmen:
Aus einer Frage in natürlicher Sprache werden passende kubectl-Aufrufe, deren Ausgabe das Modell anschließend zusammenfasst.
Als Beispiel dient dazu ein vollständiges Docker-Compose-Setup aus llama.cpp, einem schlanken Python-Proxy und Open WebUI als Chat-Oberfläche.
Dieser Beitrag stellt Konzept und Architektur des Setups vor, zeigt den Nutzen an einem konkreten Beispiel und geht auf Alternativen zu diesem Ansatz ein: im Kleinen wie in der grundsätzlichen Architektur.
Wer Claude, Codex und Co. bei der Entwicklung von Spring-Anwendungen einsetzt, musste vielleicht auch schon feststellen, dass gerade neue Features des Frameworks nicht optimal verwendet werden.
Aufgrund fehlender oder veralteter Trainingsdaten erzeugen die Sprachmodelle zwar korrekten, aber nicht optimalen Code.
Sie definieren Beans, obwohl diese mittlerweile aus einer Autoconfiguration kommen, nutzen veraltete Klassen (z. B. JdbcTemplate statt JdbcClient) oder entpacken munter JARs, um den aktuellen Quellcode von Spring zu lesen.
In diesem Beitrag zeige ich, wie man mit Spring AI einen Model-Context-Protocol-Server (MCP-Server) für LLMs bereitstellt, der hier Abhilfe schafft.
Der Server gibt Agents Zugriff auf die Spring-Dokumentation, die für das aktuelle Projekt relevant ist.
Am 10. Juni 2026 traf sich die Java User Group Münster zu ihrem Vortragsabend bei der LVM Versicherung am Kolde-Ring.
Auf der Agenda stand das Thema Agentic AI, vorgetragen von Lars Röwekamp.
Die trion development GmbH gehört zu den Hauptsponsoren der User Group und unterstützt damit den fachlichen Austausch in der Region.
Den Abend organisierte und moderierte Thomas Kruse.
Agentic AI hat deutlich über 100 Teilnehmer angezogen, was die Relevanz unterstreicht.
Large Language Models sind längst kein Forschungsthema mehr – sie landen in Produktivanwendungen.
Spring AI bringt die gewohnte Spring-Philosophie in die KI-Integration: einheitliche Abstraktionen über verschiedene Anbieter, automatische Konfiguration per Spring Boot und typsichere APIs.
Dieser Beitrag zeigt, wie man in wenigen Schritten einen ChatClient aufbaut, Prompts parametrisiert und strukturierte Java-Objekte aus Sprachmodell-Antworten gewinnt.
Sensoren, Kameras und industrielle Geräte erzeugen kontinuierlich Daten, die zunehmend direkt durch AI analysiert werden, oft in Echtzeit und möglichst nahe an der Datenquelle.
AI übernimmt mehr und mehr Aufgaben wie Vorhersage, Mustererkennung, Entscheidungsfindung und Ausführung sowie Datenmanagement. Literature Review on AI in IoT Systems
Damit solche Systeme zuverlässig funktionieren, benötigen sie eine Kommunikationsschicht, die leichtgewichtig, skalierbar und eventbasiert ist.
Genau hier kommt MQTT ins Spiel.
Das Publish-Subscribe-Protokoll wurde ursprünglich für ressourcenbeschränkte Geräte und instabile Netzwerke entwickelt, hat sich jedoch schnell zu einem zentralen Baustein moderner IIoT-Architekturen entwickelt.
Durch seinen geringen Overhead und die lose Kopplung zwischen Komponenten und Systemen eignet sich MQTT besonders gut, um Datenströme zwischen Geräten, AI-Systemen und Backend-Systemen zu orchestrieren.
In diesem Artikel werfen wir einen Blick darauf, warum MQTT eine ideale Grundlage für die Kommunikation von Agenten und Model Context Protocol (MCP) Systemen darstellt.