Dokumentenmanagement mit GPT optimieren

KI und GPT sind in aller Munde. Doch welche konkreten Use Cases im Unternehmenskontext sind eigentlich möglich? Wie sieht die Einführung genau aus? Und was muss man beim Thema Datenschutz beachten? Wir zeigen Ihnen anhand eines Kundenbeispiels, wie Sie Ihr Dokumentenmanagement durch den Einsatz von GPT revolutionieren können.

Über 20.000 PDF-Dokumente wissenschaftlicher Text, oft über hundert Seiten lang: Auf diese Weise speichert der Kunde sein wertvolles Unternehmenswissen. Bisher konnte er das Potenzial dieser Dokumente jedoch nicht ausschöpfen, da die PDFs unstrukturiert und nicht auswertbar in verschiedenen SharePoint Libraries ablagen und damit nicht übergeordnet durchsuchbar waren. Außerdem existieren die Dokumente in verschiedenen Sprachen und sind durch die jahrzehntelangen Projektlaufzeiten immer wieder von Veränderungen und Überarbeitungen geprägt.  
 

Sprachen- und contentunabhängige Suche ermöglichen

Gemeinsam mit novaCapta baut der Kunde aktuell sein Datenmanagement von Grund auf neu. Ein Teilaspekt: das Dokumentenmanagement. Um dieses zu optimieren, hat er sich mithilfe der novaCapta an den Einsatz von Künstlicher Intelligenz gewagt. Das GPT-Modell wurde so trainiert, dass es zum Durchsuchen und Analysieren des Contents in den Dokumenten genutzt werden kann. Dafür mussten die Dokumente vorher entsprechend aufbereitet werden: Einerseits wurden die Dokumentinformationen in verdauliche Blöcke unterteilt, andererseits mit Embedding von der konkreten Sprache gelöst, damit ein sprachen- und contentunabhängiges Suchen möglich ist. Zudem werden nun alle Dokumente einheitlich an einem Ort abgelegt (Azure Workspace). Generell ist es beim Training von GPT-Modellen wichtig, so viel unternehmensspezifischen Kontext und Zusammenhänge wie möglich zu liefern und klar zu kommunizieren, wie das Ergebnis aussehen soll - nur so ist der Prompt erfolgreich. Auch muss vorher definiert werden, mit welchen komprimierten Inhalten GPT trainiert wird, da der Gesamtcontent oft zu viel ist.

Durch diese Arbeit legte der Kunde den Grundstein dafür, dass GPT die Dokumente analysiert und wertvolle Informationen extrahiert. Doch das ist bei den meisten Unternehmen nur die Basis für weitere Entscheidungen, die Frage lautet eher: „Was mache ich mit diesen Informationen?“. Der Kunde geht daher zusammen mit novaCapta im nächsten Schritt die Risikoanalyse an. Hierbei werden nicht nur Standardinformationen aus den Dokumenten ermittelt, sondern auch Risikofaktoren, Abhängigkeiten und Wahrscheinlichkeiten. Zudem soll GPT die Erfolgsrate vergleichbarer Projekte prüfen können.

Immer im Blick: Security und Compliance

Ein wichtiger Aspekt bei der Nutzung von GPT-Modellen ist das Thema Datenschutz, da mit sehr empfindliche Unternehmensdaten gearbeitet wird. Der Schutz besteht nicht nur darin, dass keine Inhalte nach außen gelangen, sondern dass auch intern der Zugriff je nach Berechtigung der Mitarbeitenden geregelt wird – d.h. der fragenden Person werden nur Inhalte gezeigt, für die sie berechtigt ist. Bei besagtem Kunden wurde dafür eine Kombination aus Microsoft Technologien (Azure OpenAI, Finetuning) für Sicherheit und Compliance eingesetzt.

Eine Empfehlung, damit Unternehmensdaten im Unternehmen bleiben: GPT nahtlos in die bestehenden Unternehmensprozesse und -applikationen integrieren, wie es z.B. Microsoft mit Copilot vormacht.

Die textbasierte Nutzung von GPT ist das bisher bekannteste Einsatzszenario und für viele Unternehmen attraktiv – seien es virtuelle Assistenten und Chatbots, Zusammenfassungen aus komplexen Texten, die semantische Suche oder die automatische Datenklassifizierung und -verteilung. GPT lässt sich durch seine Muster- und Wahrscheinlichkeitserkennung aber auch bei weiteren Prozessen, vor allem in der Industrie, einsetzen.

Die Einführung von GPT im Unternehmenskontext sollte dabei niemals leichtfertig geschehen und gut vorbereitet sein. Die Basis für den Erfolg bildet die vorherige Entwicklung einer ganzheitlichen AI-Strategie – denn nur so werden Compliance, Governance und Sicherheit von Beginn an mitgedacht.