SecuredGPT
Pilotbetrieb eines On-Premises Large Language Model im Wissensmanagement
| Programm / Ausschreibung | KIRAS, F&E-Dienstleistungen, KIRAS-K-Pass-KMU Innovation AKUT KIA F&E Dienstleistungen (FED KIA_2023) | Status | laufend |
|---|---|---|---|
| Projektstart | 01.05.2024 | Projektende | 30.04.2025 |
| Zeitraum | 2024 - 2025 | Projektlaufzeit | 12 Monate |
| Keywords | NLP LLM Wissensmanagement Chatbot | ||
Projektbeschreibung
Strafverfolgungsbehörden nutzen interne Wissensdatenbanken, um Informationen
und Wissen effizient zu speichern, zu organisieren und für den späteren Zugriff
bereitzuhalten. Ein Beispiel hierfür ist der Kriminalistische Leitfaden (KLF) des BMI,
der unter anderem Handlungsanweisungen für den Umgang mit Cyber-Crime-
Delikten und interne Dienstanweisungen enthält. Das primäre Ziel solcher
Wissensdatenbanken ist der Wissensaustausch innerhalb der Organisation und die
Steigerung der Effizienz, indem Mitarbeiter schnell
und einfach auf relevante Informationen zugreifen können (3.3.2 Ausschreibungsleitfaden).
Behördliches Wissensmanagement muss AKUT mit den Möglichkeiten von KI (Large Language Models) ausgestattet werden. Kann man keine sichere Alternative zu ChatGPT bereitstellen, läuft man Gefahr, dass ChatGPT unter erheblichen Sicherheitsrisiken verwendet wird. Mit SecuredGPT kann inner-behördlich, zeitnah eine sichere Alternative angeboten werden.
Die Software der Cortecs GmbH wird bislang in geschützter Cloud-Umgebung innerhalb Europas betrieben und soll hiermit On-Premises im BRZ unter Wahrung der Datensouveränität in Betrieb genommen werden. Die Software ist einsatzfähig in deutscher und englischer Sprache (TRL-6). Sie wird in der Pilotphase weiter an die praktischen Anforderungen der Polizist:innen angepasst, laufende Evaluierungen bezüglich Qualität und Laufzeitverhalten sind dabei fixer Bestandteil.
Abstract
Law enforcement agencies rely on knowledge databases to efficiently organize internal information. One example is the 'Kriminalistischer Leitfaden' of the BMI, which contains directives on handling cybercrime and internal operational procedures. The main aim of these knowledge databases is to facilitate information exchange within the organization, ultimately increasing efficiency by enabling staff to access information quickly and effortlessly.
Government knowledge management needs to be urgently equipped with the capabilities of AI (Large Language Models). If a secure alternative to ChatGPT cannot be provided, there is a risk of ChatGPT being used under significant security threats. With SecuredGPT, a secure alternative can be offered within government agencies promptly.
The existing software developed by Cortecs GmbH is currently being deployed on private European cloud infrastructure and is capable of on-premises deployment, ensuring the utmost data sovereignty. The software is already functional in both German and English (TRL-6). The current technology is brought into a pilot phase to assess its practicality in real-world scenarios, with ongoing evaluations regarding quality and runtime behavior being an integral part of the process.