Wir entwickelten eine Lösung zur automatischen Extraktion logistischer Informationen aus Frachttransportanfragen in Telegram-Gruppen mithilfe moderner KI-Technologien.
Im Rahmen des Projekts mussten mehrere zentrale Herausforderungen gelöst werden:
Unser Ansatz umfasste:
Unsere Lösung automatisiert die Extraktion von Frachttransportanfragen aus Telegram-Gruppenchats und überführt sie in strukturierte Datenbankeinträge, die sich einfach durchsuchen lassen. Das System wurde als Telegram-Bot mit Administratorrechten umgesetzt und verarbeitet eingehende Nachrichten effizient.
Der Bot überwacht den Chat kontinuierlich und erkennt neue Transportanfragen. Sobald eine relevante Anfrage identifiziert wird, wird sie in eine Warteschlange gestellt, um einen stabilen Datenfluss und eine zuverlässige Verarbeitung sicherzustellen.
Zur Sicherung der Datenqualität und zur Vermeidung von Duplikaten prüft das System zunächst, ob in den letzten 24 Stunden bereits ähnliche Anfragen in der Datenbank erfasst wurden. Wird kein aktueller Eintrag gefunden, wird die Nachricht zur weiteren Analyse weitergeleitet.
Ein zentraler Bestandteil der Lösung ist ein lokales Large Language Model (LLM), das für den Einsatz auf Nvidia-RTX-Hardware optimiert wurde. Dadurch können relevante Informationen aus Nachrichten extrahiert und als JSON-Ausgaben strukturiert werden, um Transportdetails übersichtlich abzubilden.
Für die Extraktion nutzen wir Multi-Shot-Prompts, die auf eine möglichst vollständige Datenerfassung ausgelegt sind. Diese Prompts werden auf Basis von Logdaten regelmäßig verfeinert, um auch bei komplexen Nachrichten präzise Ergebnisse zu erzielen.
Die Entscheidung für ein lokales LLM statt externer Dienste wie OpenAI ChatGPT oder Anthropic Claude 3 fiel aufgrund der langfristig besseren Kosteneffizienz und der höheren Performance auf eigener Hardware.
Insgesamt kombiniert die Lösung effizientes Nachrichtenhandling mit KI-gestützter Datenextraktion und ermöglicht so die präzise Verarbeitung hoher Nachrichtenvolumen bei gleichzeitig niedrigen Betriebskosten.
