13. März 2026 Marcus Schwarzbach
Millionen fragen ChatGPT statt Arzt oder Anwalt – was dabei schiefgehen kann, hat selbst Experten kalt erwischt.
Künstliche Intelligenz (KI) gewinnt an Bedeutung. Das zeigt sich bei der Neugründung von Unternehmen, so der Rückblick auf das letzte Jahr. Der Anteil von Start-ups mit KI-Bezug im Geschäftsmodell stieg von 18 Prozent im Vorjahr auf 27 Prozent.
Daniela Furkel, Chefreporterin des Personalmagazins, berichtet:
"Die Rolle von KI ist dabei allerdings nicht auf Neugründungen im Software-Sektor beschränkt, sondern zeigt sich zum Beispiel auch in der Medizin, in Legal Tech, der Werbebranche oder auch dem HR-Bereich."
Immer mehr Menschen nutzen generative KI-Chatbots und recherchieren bei rechtlichen und medizinischen Fragen. Eine Umfrage der Ärzte-Plattform Zocdoc ergab, dass einer von drei Amerikanern wöchentlich generative KI-Tools zur Gesundheitsberatung nutzt, einer von zehn sogar täglich. Nicht nur deshalb verändert KI Berufsbilder.
Oliver Kharraz, CEO von Zocdoc, prognostiziert, dass "KI zum bevorzugten Werkzeug für die Vorbehandlung wie Symptomkontrolle, Triage und Navigation sowie für Routineaufgaben wie Nachfüllungen und Screenings werden wird". Mediziner sieht er vor großen Herausforderungen. Sie müssen viel mehr erklären und sich auf das geänderte Patientenverhalten einstellen.
Er hofft, dass so "die Patienten erkennen werden, dass KI kein Ersatz für die große Mehrheit der Interaktionen im Gesundheitswesen ist, insbesondere für jene, die menschliches Urteilsvermögen, Einfühlungsvermögen oder komplexe Entscheidungen erfordern".
Auch Juristen stehen vor großen Veränderungen. Das zeigt sich bei der aktuellen Prozessrechtsreform. Danach sollen mehr Klagen vor den Amtsgerichten verhandelt werden. Verfahren mit einem Streitwert von bis zu 10.000 Euro werden vor den Amtsgerichten, Verfahren mit einem Wert über 10.000 Euro vor Landgerichten verhandelt. Vor der Änderung lag die Schwelle bei 5.000 Euro.
Das hat Folgen, wie die Rechtsanwältinnen Johanna Weißbach und Anna Schwingenheuer in einem Beitrag für Legal Tribune Online. Denn beim Amtsgericht besteht kein Anwaltszwang. Bürger können selbst Klage einreichen und Schriftsätze verfassen.
"Die Parteien des Rechtsstreits können, müssen sich aber nicht von einem Anwalt vertreten lassen. Dies eröffnet juristischen Laien die Möglichkeit, sich anstelle anwaltlicher Unterstützung Hilfe durch KI zu suchen."
Johanna Weißbach, Anna Schwingenheuer
Zwar habe der KI-Einsatz auch Vorteile. "Wen die Kosten eines Anwalts bei höheren Streitwerten bisher von der Führung eines Prozesses abgehalten haben, dem steht nun der Weg zum Gericht offen und eine gewissenhafte Nutzung von KI kann dabei durchaus eine sinnvolle Unterstützung sein", so die Anwältinnen.
Sie warnen, dass Laien die Komplexität unterschätzen. Verfahren vor dem Amtsgericht seien nicht ohne Weiteres einfach. Für einen juristischen Laien sei es schwer, die juristischen Dimensionen eines Falles zu überblicken.
Auch sei nicht jedem die Funktionsweise von KI hinreichend bekannt. "Fallstricke bei ihrer Nutzung für rechtliche Fragestellungen" werden leicht übersehen werden.
"Das haben auch die Anbieter der KI-Systeme erkannt. So versucht OpenAI, das Unternehmen hinter ChatGPT, eigene Haftungsrisiken möglichst zu reduzieren."
Johanna Weißbach, Anna Schwingenheuer
In seinen Nutzungsbedingungen schreibt das Softwareunternehmen daher seit Oktober 2025, dass ChatGPT nicht für "personalisierte Beratungsleistungen, z. B. rechtlicher oder medizinischer Natur, für die eine Befugnis oder Lizenz erforderlich ist, ohne Beisein einer einschlägig qualifizierten Person" verwendet werden dürfe.
Von der Nutzung der KI in gerichtlichen Verfahren dürfte diese Regelung Privatpersonen aber kaum abhalten.
Juristen mit Problemen beim KI-Einsatz
Auch Juristen haben Probleme mit der KI-Nutzung, berichtete das Online-Magazin LTO.
Das zeigt ein Fall aus dem letzten Jahr. Ein Familiengericht überprüfte die Fundstellen im Schriftsatz eines Rechtsanwalts und fand Fehler. "Die weiteren von dem Antragsgegnervertreter […] genannten Voraussetzungen stammen nicht aus der zitierten Entscheidung und sind offenbar mittels künstlicher Intelligenz generiert und frei erfunden. Auch die genannten Fundstellen sind frei erfunden", schrieb der Familienrichter am Amtsgericht Köln in der Entscheidung.
Der Richter sieht darin einen Verstoß gegen § 43a Abs. 3 Bundesrechtsanwaltsordnung (BRAO). Er kritisiert die "bewusste Verbreitung von Unwahrheiten". "Der Verfahrensbevollmächtigte hat derartige Ausführungen für die Zukunft zu unterlassen, da sie die Rechtsfindung erschweren, den unkundigen Leser in die Irre führen und das Ansehen des Rechtsstaates und insbesondere der Anwaltschaft empfindlich schädigen", kritisiert der Richter den ungeprüften Einsatz von KI.
Das erweiterte Wissen von Kunden und Patienten erhöht die Anforderungen an wichtige Berufe.
"Ärzte und Anwälte prüfen heute zunehmend Inhalte, die von generativer KI erstellt wurden, etwa E-Mails oder Vorabanalysen. Gleichzeitig müssen sie Laien davon überzeugen, dass sie selbst über das nötige Fachwissen verfügen und nicht nur Informationen wiedergeben, die auch eine KI liefern könnte", beschreibt Amanda Hoover für Business Insider die Herausforderungen.
Kommunikation gehört deshalb zu den wichtigen Aufgaben. Die Experten müssen erklären können, wie ein Richter zu seiner Entscheidung kommt oder wie sich die Krankengeschichte konkret auf den aktuellen Zustand des Patienten auswirkt.
