KI-basierter „Robo-Anwalt“ muss 193.000 Dollar Strafe zahlen

Veröffentlicht von Redaktion am 17. Oktober 202417. Oktober 2024

Der KI-Dienstleister DoNotPay hat eine Strafe von 193.000 US-Dollar erhalten, da seine automatisierten Rechtsberatungen nicht von Menschen geprüft wurden. Die US-Kartellbehörde FTC greift wegen irreführender Praktiken ein.

DoNotPay, ein Anbieter automatisierter Rechtsberatung auf KI-Basis, geriet in den Fokus der Federal Trade Commission (FTC). Der Vorwurf: Die von der KI erzeugten juristischen Dokumente und Beratungen wurden nicht ausreichend geprüft, was zu unzuverlässigen Ergebnissen führen konnte. Dies verstoße gegen Verbraucherschutzvorschriften und könne irreführend sein. Daraufhin verhängte die FTC eine Strafe in Höhe von 193.000 US-Dollar und forderte Änderungen im Geschäftsmodell.

Gerichtsentscheidung und Folgen

Die FTC entschied, dass DoNotPay wegen irreführender Geschäftspraktiken gegen das Verbraucherschutzgesetz verstoßen habe. Insbesondere wurden Beschwerden laut, dass die Qualität der durch KI erstellten Rechtsdokumente nicht den Standards entspreche. Als Reaktion darauf muss DoNotPay seine Dienstleistungen einschränken und darf bestimmte rechtliche Bereiche nicht mehr abdecken, ohne dass eine menschliche Kontrolle der Ergebnisse erfolgt.

Was Anwältinnen und Anwälte aus diesem Urteil mitnehmen können:

• Sie müssen sicherstellen, dass KI-basierte Rechtsdienste immer durch menschliche Kontrolle ergänzt werden.
• Irreführende oder unzureichende Beratungen durch KI-Systeme können rechtliche Konsequenzen nach sich ziehen.
• Compliance mit Verbraucherschutzvorschriften ist auch im Bereich der Legal Tech essentiell.