Vergiss KI beim Amt: Warum ChatGPT-Widersprüche böse nach hinten losgehen

Als ich neulich einen Bericht darüber gelesen habe, wie deutsche Sozialgerichte und Behörden aktuell unter einer Schwemme von KI-generierten Schriftsätzen ächzen, musste ich erst einmal durchatmen. Nicht etwa, weil ich Mitleid mit den Amtsschimmeln in ihren staubigen Büros hätte. Sondern weil mir schlagartig klar wurde, wie viele Menschen da draußen gerade mit vollem Anlauf in eine fiese Falle rennen.

Ich kenne dieses Gefühl aus eigener Erfahrung. Du kommst nach einem langen Arbeitstag nach Hause, öffnest den Briefkasten und hast diesen gelben oder weißen Umschlag in der Hand. Fünf Seiten Beamtendeutsch, vollgepackt mit Schachtelsätzen, Abkürzungen und Fristsetzungen. Nach dem dritten Absatz schaltet das Gehirn spontan auf Durchzug. Irgendeine Kürzung, ein abgelehnter Antrag oder eine Nachforderung. In genau diesem Moment wirkt der KI-Chatbot auf dem Smartphone wie die absolute Wunderwaffe. Text reinkopieren, kurz „Schreib mir einen harten Widerspruch gegen diesen Bescheid“ eintippen, und drei Sekunden später spuckt der Bildschirm ein Schreiben aus, das nach knallhartem Juristendeutsch klingt.

Sieht auf den ersten Blick extrem schlau aus. Klare Kante, beeindruckende Begriffe, volle Breitseite gegen die Behörde.

Aber ganz ehrlich? Es ist in den meisten Fällen ein gigantisches Eigentor.

Das Märchen vom schlauen KI-Anwalt in deiner Hosentasche

Der denkbar größte Fehler ist zu glauben, ChatGPT oder andere Sprachmodelle wären kleine, digitale Rechtsanwälte im Hosentaschenformat. Das sind sie nicht. Sprachmodelle sind am Ende des Tages hocheffiziente Rechenknechte für Wortwahrscheinlichkeiten. Sie wissen absolut nicht, was Recht ist. Sie haben keine Ahnung von der Wirklichkeit. Sie wissen lediglich, welche Wörter grammatikalisch und stilistisch so aneinandergereiht werden können, dass es für den Leser überzeugend klingt.

Wenn du der KI sagst, sie soll dir einen Widerspruch schreiben, bedient sie genau dieses Klischee. Sie baut eine glänzende Fassade. Da stehen dann Aktenzeichen, beeindruckend klingende Gesetzestexte und geschliffene Floskeln.

Das Problem dabei: Die KI halluziniert. Und zwar ohne mit der Wimper zu zucken.

Sie erfindet Urteile des Bundessozialgerichts, die es in der Realität nie gegeben hat. Sie zitiert Paragrafen aus Gesetzbüchern, die überhaupt nicht zum Fall passen – oder schlicht frei erfunden sind. Ich habe mir selbst schon Entwürfe von Bekannten angeschaut, die mir stolz ihren KI-Widerspruch zeigten. Da wurde allen Ernstes das Nachbarrecht zitiert, um eine Entscheidung beim Jobcenter oder der Krankenkasse anzufechten. Das ist nicht nur peinlich, wenn es auf dem Tisch des Sachbearbeiters landet. Es ist gefährlich für dein eigenes Anliegen.

Warum Sachbearbeiter über deine KI-Post nur müde lächeln

Glaub mir: Die Leute im Amt oder am Gericht machen ihren Job nicht erst seit gestern. Wenn dort ein dreiseitiges Schreiben eingeht, das vor geschwollenen Phrasen strotzt, aber im Kern überhaupt kein konkretes Argument gegen den eigentlichen Fehler im Bescheid liefert, schrumpft deine Chance auf Erfolg gegen Null.

Die Richter und Sachbearbeiter durchschauen das Muster sofort. Statt einer echten Begründung bekommen sie eine Nebelbombe aus hohlen Textbausteinen. Die Justiz wird mit diesem Kram regelrecht gelähmt, weil die Mitarbeiter jeden erfundenen Paragrafen und jedes falsche Aktenzeichen mühsam prüfen müssen, um rechtssicher zu antworten.

Und genau das ist die eigentliche Tragik an der Sache. Wer sich auf den automatisierten KI-Generismus verlässt, vergisst das Wichtigste: nämlich klipp und klar zu sagen, was an der eigenen Lebensrealität vom Amt falsch verstanden oder falsch berechnet wurde.

Das Resultat ist vorhersehbar. Der Sachbearbeiter prüft den Fall anhand der erfundenen Paragrafen gar nicht erst groß weiter, sondern weist den Widerspruch schlicht als unbegründet ab. Die Frist verstreicht. Und du stehst am Ende mit leeren Händen da – während du dachtest, du hättest dem Amt mit digitaler Hochrüstung eins ausgewischt. Deine Glaubwürdigkeit ist dahin, und deine echten Argumente sind im Phrasenmüll untergegangen.

So nutzt du Chatbots beim Amt wirklich – ohne dich zu blamieren

Heißt das jetzt, dass wir KI beim Behördenkram komplett verteufeln müssen? Nein, absolut nicht. Ich nutze KI-Tools im Alltag selbst regelmäßig, um mir lästige Schreibarbeit zu erleichtern. Aber man muss das Werkzeug eben richtig herum anfassen.

Der größte Nutzen von Sprachmodellen liegt nicht darin, dass sie für dich Jura studieren oder Paragrafen ausspucken. Der größte Nutzen liegt im Übersetzen.

Wenn ich heute einen unverständlichen Wisch vom Amt bekomme, lade ich den Text hoch und tippe ein: „Erkläre mir diesen Absatz in einfacher Sprache. Was genau will die Behörde von mir und welche Unterlagen fehlen?“

Plötzlich löst sich der Beamtendeutsch-Nebel auf. Du verstehst auf einmal, dass dem Amt schlicht ein Nachweis über die Nebenkosten fehlt oder eine Frist falsch berechnet wurde. Das ist der Moment, in dem KI echten Mehrwert bringt: Sie nimmt dir die Angst vor dem Textungetüm.

Meiner Meinung nach fährst du am besten mit folgender Strategie: Lass dir von der KI helfen, deine eigenen, echten Argumente sauber zu strukturieren. Sag dem Tool ganz konkret: „Ich habe diesen Bescheid bekommen. Ich bin nicht einverstanden, weil Fakt A falsch berechnet wurde und Fakt B nicht berücksichtigt wurde. Formuliere mir daraus einen höflichen, klaren und sachlichen Brief.“

Anschließend machst du die wichtigste Arbeit selbst: Du liest den Text gründlich durch und streichst ausnahmslos alle juristischen Belehrungen und Paragrafen raus, die dir der Bot vorschlägt und die du nicht selbst im Originalgesetz nachgeschlagen hast.

Ein ehrlicher, einfacher Fünfzeiler, der genau auf den Punkt bringt, wo der Fehler liegt, schlägt jeden dreiseitigen KI-Satzbaustein um Längen. Die KI kann dir beim Formulieren helfen, aber das Denken und die Fakten musst du liefern. Wer beim Amt mit erfundenen Schein-Argumenten blufft, verliert am Ende immer.