Die KI baut das Werkzeug. Beurteilen musst du es selbst

Kolumne: Hands on
Autor: Johannes Oberhofer | LinkedIn

💡 Ich arbeite mit unserem sicheren KI-Assistenten ROBIN. Der Gedanke dieser Folge gilt tool-übergreifend — ob ChatGPT, Gemini oder Claude. Wie immer: keine sensiblen Daten, anonymisieren, mit Platzhaltern arbeiten.

Reality Check

Vor ein paar Wochen habe ich hier von meiner To-do-Routine geschrieben — der Assistent trägt mir die offenen Punkte zusammen und legt sie mir als abhakbare Liste hin. Das Tool dafür habe ich mir selbst gebaut, über eine feste Anweisung an die KI. Früher wäre das für mich keine Option gewesen; ich bin kein Entwickler und hätte so etwas nie zusammengebaut. Heute sage ich der KI, was ich will, und sie schreibt mir den Baustein.

Interessant wurde es im Benutzen. Nach ein, zwei Wochen zeigte mir der tägliche Gebrauch, was noch fehlt, und ich habe nachgebessert — Stück für Stück, immer dann, wenn der Alltag es mir zeigte. Irgendwann sah mein Kollege das Ding und meinte: Das brauche ich auch. Also hat er es übernommen. Seitdem baut jeder in seiner eigenen Version weiter, mit seinen eigenen To-dos — dieselbe Bauanleitung, zweimal immer etwas unterschiedlich im Einsatz.

Warum das für dich zählt

Genau an dieser Weitergabe an meinen Kollegen entscheidet sich mehr, als es aussieht.

Solange ich das Tool allein benutze, bin ich die Qualitätssicherung — im laufenden Gebrauch. Stimmt etwas nicht, falle ich selbst darüber, ärgere mich kurz, passe es an. Das reicht, weil die Rückmeldung sofort bei mir landet und der Schaden bei mir bleibt. Ich muss nichts vorab durchprüfen, ich entwickle es im Benutzen weiter.

Als mein Kollege es übernommen hat, war es streng genommen schon nicht mehr nur meins. Es hätte bei ihm schieflaufen können — andere Notizen, andere Macken, ein Sonderfall, den ich nie hatte. Dass es trotzdem unkritisch war, liegt an einer Sache: Mein Kollege ist kein Nutzer, der sich blind verlässt, sondern ein zweiter Bauer. Er baut selbst weiter, merkt selbst, was klemmt, trägt sein eigenes Risiko. Ich habe ihm kein fertiges Produkt hingestellt, sondern eine Inspiration, die er benutzen kann und zu seiner eigenen macht.

Und da liegt die Linie, auf die es mir ankommt. Etwas an jemanden geben, der es selbst versteht und anpasst, ist eine Sache. Etwas Leuten hinzustellen, die es nur benutzen und darauf vertrauen müssen, dass es stimmt — das ist eine ganz andere. Beim Ersten reicht das gemeinsame Mitdenken als Prüfung. Beim Zweiten reicht „fällt im Benutzen schon auf" nicht mehr, weil die, die es benutzen, den Fehler gar nicht als Fehler erkennen können. Was unter Mitbauern pragmatisch ist, wird gegenüber reinen Nutzern fahrlässig.

Und hier ist der Punkt, auf den es mir ankommt: Den Unterschied zwischen diesen Lagen zu erkennen, ist selbst die eigentliche Fähigkeit. Die KI baut mir das Werkzeug inzwischen in Minuten. Was sie mir nicht abnimmt, ist die Einschätzung, ob mein eigenes Urteil als Prüfung ausreicht — oder ob jetzt jemand ranmuss, der die technische Tiefe hat, die ich nicht mitbringe. Einen Helfer für den eigenen Schreibtisch beurteile ich locker. Ob dasselbe in einen echten Betrieb gehört, für viele Nutzer, mit echten Daten — das beurteile ich gerade noch so weit, dass ich weiß: Das kann ich nicht mehr allein beurteilen.

Was du jetzt tun kannst

🌱 Die Tiny Habit: Bevor du etwas, das du dir mit KI gebaut hast, weitergibst, stell eine Frage — hängt hier jemand dran, der sich einfach drauf verlässt?

1. Bau dir ruhig Dinge für den eigenen Bedarf. Eine Liste, eine Vorlage, einen kleinen Helfer. Für dich selbst darfst du im Benutzen lernen und nachbessern — das ist der schnelle, richtige Weg.
2. Gibst du es weiter, schau, an wen. Jemandem, der selbst mitbaut und das Ding durchschaut, kannst du es bedenkenlos überlassen. Bei jemandem, der es nur benutzt und sich darauf verlässt, halt inne — jetzt reicht „fällt mir beim Benutzen schon auf" nicht mehr.
3. Wird es ernst — viele Nutzer, echte Daten, ein Ablauf, an dem andere hängen —, ist die ehrlichste Frage: Kann ich wirklich beurteilen, ob das trägt? Wenn die Antwort „nicht ganz" ist, hol jemanden dazu, der die Seite prüft, die du nicht überblickst. Das Erkennen dieser Grenze ist die Fähigkeit, um die es geht.

Ehrlich dazu: Die Linie ist nicht immer scharf. Manches Tool fängt bei einem selbst an und rutscht unmerklich in den Gebrauch durch andere — genau da wird es heikel, weil die Prüfung nie stattgefunden hat. Es geht nicht darum, jede Kleinigkeit abzusichern. Es geht darum, den Übergang zu bemerken, statt die private Lockerheit einfach mitzunehmen, wenn plötzlich Leute betroffen sind, die sich nur noch verlassen.

🛡️ Hands on im VTM-Kontext

In unserer Branche ist dieser Übergang kein Nebending. Ein selbstgebautes Tool für den eigenen Schreibtisch ist meist unkritisch, vor allem wenn keine direkten Anbindungen an Systeme daran hängen und der Mensch weiterhin der "Daten-Keeper" ist — ein Helfer, der in einen Kundenprozess, eine Beratung oder eine Risikobewertung einfließt, ist es nicht. Am Ende trägt ein Mensch die Verantwortung für das, was rausgeht, nicht das Modell. Deshalb lohnt es, das eigene Urteil zu schulen: an den kleinen Dingen, die nur dich betreffen, damit du den Moment erkennst, in dem es größer wird und jemand mit mehr Tiefe draufschauen muss. Und was in ein Tool hineingeht, entscheidest weiter du — keine sensiblen Daten, nur weil es inzwischen so leicht geht.

Dein To-Do für diese Woche

Nimm dir etwas vor, das du dir mit KI gebaut hast oder bauen willst, und zieh die Linie bewusst: Ist das nur für mich und ein paar Mitdenker — oder hängt da jemand dran, der sich einfach verlässt? Für den eigenen Bedarf: ausprobieren und im Benutzen nachbessern. Für reine Nutzer: vorher prüfen, und ehrlich sein, wenn du es nicht allein kannst.

Dann schreib mir gern in die Kommentare: Hast du dir mit KI schon mal etwas gebaut, das ein Kollege übernommen hat — und war das jemand, der selbst weiterbaut, oder einer, der sich einfach drauf verlässt? Mich interessiert, wo bei euch die Linie zwischen „reicht für uns" und „muss geprüft sein" verläuft.

Bis nächste Woche,
Hannes

📤 Kennst du jemanden, der sich gerade seine ersten eigenen KI-Helfer baut? Leite ihm die Folge weiter.