Eigene Daten für KI-Agenten: Lokale RAG-Lösungen am PC

Zusammenfassung

Der Artikel beschreibt den technologischen Durchbruch, der es ermöglicht, generative KI-Agenten direkt auf dem eigenen Desktop-Rechner zu nutzen, um interaktiv mit lokalen Datenbeständen zu kommunizieren („mit eigenen Daten sprechen“).

Weltwissen der KI mit dem Domainwissen auf dem PC verbinden

Vor gut zwei Jahren, als ChatGPT und Co. noch reine Chatbots waren, hatte ich einen Traum. Ich wollte mit einem solchen „virtuellen“ Partner über meine eigenen Daten auf dem PC „sprechen“ können. Das Weltwissen der generativen KI auf das eigene Domainwissen loslassen – auf all die ungeschliffenen Steine, die sich über Jahre in den Ordnern angesammelt haben. Diese Schätze heben, neu kombinieren, wieder nutzbar machen.

KI-Agenten: Ein Traum wird wahr – mit eigenen Daten sprechen auf dem Desktop

Denn bisher ging das nur über die Schlagwortsuche auf dem Laufwerk. Und man konnte froh sein, wenn man sich überhaupt noch an den eigenen Dateinamen erinnerte. Eine Volltextsuche in Word- oder PDF-Dokumenten? Fehlanzeige.

Erste Schritte zur Selbsthilfe mit Phython

Also fing ich an, mir mit Python eine eigene Suche aufzubauen – ganz ohne Programmierkenntnisse. Ich begann, alte Daten anzuschauen, zu bewerten und in TXT-Dateien umzuwandeln, um sie so zu erschließen. Dokument für Dokument. Öffnen, bewerten, umwandeln – oder, wenn veraltet, einfach löschen. Keine schlechte Sache für den Anfang. Eine wertvolle Erfahrung sogar, die ich nicht missen möchte.

Mein Fokus lag auf der konsequenten Datenhygiene: Bevor die KI zum Einsatz kam, nutzte ich Python-gestützte Skripte für ein radikales Audit meiner Bestände. Anstatt veraltete Datenfriedhöfe lediglich zu indizieren, unterzog ich jedes Dokument einer Qualitätsprüfung auf Aktualität und Relevanz. Durch die Transformation in strukturierte Volltexte wurden ehemals starre Informationen rekombinierbar. Dieser Prozess – die Umwandlung von Quantität in validierte Qualität – schuf erst die Voraussetzung dafür, dass der KI-Agent nicht nur antwortet, sondern auf Basis eines hochkarätigen, aktuellen Wissensschatzes agiert.

Manus für den Desktop

Und jetzt lese ich einen Beitrag über Manus für den Desktop – und das klingt wirklich gut. Mein erster Gedanke gilt natürlich der Datensicherheit. Denn in den eigenen Dokumenten schlummern auch personenbezogene Daten und andere Vertraulichkeiten, die erst einmal sicher vor dem Zugriff Dritter verwahrt sein müssen.

Trotzdem – oder gerade deswegen – habe ich ein eigenes Projekt aufgelegt. Es trägt den Titel: „Manus – mit eigenen Daten sprechen“. Ein Name, der mir damals spontan durch den Kopf geisterte – noch unfassbar, aber schon geahnt, wohin die Reise gehen könnte.

Und die gemachten Erfahrungen werde ich auch innerhalb des Gewerbevereins Rüsselsheim vorstellen. Denn auch dort beschäftigen wir uns seit der öffentlichen Zugänglichmachung von ChatGPT im November 2022 mit dem Thema – ebenfalls unter dem Titel „Mit Daten sprechen„.

Für wen das wichtig ist?

Für die Inhaber kleiner Geschäfte aus Einzelhandel und Gewerbe, Solo-Selbständige und Start-Ups.

Mein Fazit und Erwartungen

Was das genau bedeutet, was ich dabei herausfinde und wo die Grenzen liegen – das erzähle ich in den nächsten Beiträgen. Worauf wir uns aber alle freuen dürfen, ist der Wettbewerb unter den Anbietern. Er definiert immer wieder neu, was Mittelmaß und was Qualität bedeutet – und sorgt so dafür, dass ein immer größeres Publikum von neuen Möglichkeiten und echten Arbeitserleichterungen profitieren kann.

Achim Weidner ist zertifizierter Social Media Manager (IHK) und Absolvent des Zertifizierungsprogramms (Certificate of Advanced Studies) „Rechtliche Aspekte der IT- und Internet-Compliance“ an der Carl von Ossietzky Universität Oldenburg. Dieses Programm ist angesiedelt in der Fakultät für Informatik, Wirtschafts- und Rechtswissenschaften und deckt folgende Bereiche ab: Datenschutz, Datensicherheit, Internetrecht sowie Computer- und Internetstrafrecht, ergänzt durch den Aspekt der technischen Datensicherheit. Seite 2017 befasst er sich mit der Thematik der „Künstlichen Intelligenz“.

→ Erstgespräch anfragen

Achim Weidner
Haßlocher Straße 73
65428 Rüsselsheim am Main
post@achim-weidner.de
06142 796066

Vorträge und Veranstaltungen 2026

Erreichbar über Social Media und sichtbar auf Google