Leistungen · 15 Wege über eine Lücke

Alle Leistungen

Referenzen · Belege statt Versprechen

Alle Case Studies

Wissen · Straßenton, aufgeschrieben

Magazin

Unternehmen · KI in Produktion seit 2011

Über Voidgap

Ship happens · 04 / 08

← Alle Vorfälle

Nur öffentliche Berichte

Ein Chatbot der Stadt, der Unternehmen zum Rechtsbruch riet

Wann
· erstmals berichtet
Wer
Stadt New York
Was
Chatbot einer Behörde
Abgefangen bei
05Evals04Guardrails

01 · Was passiert ist

Der MyCity-Chatbot der Stadt New York, im Oktober 2023 angekündigt und auf Microsofts Azure-KI-Diensten gebaut, sollte Fragen von Unternehmern beantworten. The Markup berichtete am 29. März 2024, dass er Antworten gab, die dem Recht der Stadt widersprachen: Arbeitgeber dürften einen Teil des Trinkgelds einbehalten, Vermieter müssten keine Wohngeld-Gutscheine akzeptieren, Restaurants dürften bargeldlos werden.

02 · Gemeldete Ursache

Die Berichte belegen die falschen Antworten, nicht deren technische Ursache. Die Stadt erklärte, sie werde das Tool weiter verbessern, und es habe bereits Tausenden Menschen korrekte Antworten gegeben. Ein kleiner Hinweis sagte, der Bot könne gelegentlich falsche, schädliche oder voreingenommene Inhalte erzeugen.

03 · Was sie geändert haben

Er blieb mit dem Hinweis online. Am 30. Januar 2026 kündigte der neue Bürgermeister an, ihn abzuschalten, und nannte ihn „funktional unbrauchbar“. Am 4. Februar 2026 war er offline.

04 · Quellen

  1. The Markup · themarkup.org ↗
  2. The Markup · themarkup.org ↗

Die Fakten auf dieser Seite beschränken sich auf das, was diese Quellen berichten. Geprüft im September 2026.

Prototyp Nur öffentliche Berichte. Unsere eigenen anonymisierten Post-Mortems folgen, mit Zustimmung der Kunden: erstes · Termin offen

Bevor es eures ist

Langweilig
mit Absicht.

Jeder Fix auf dieser Seite ist öde, günstig und vor dem Start aufgeschrieben. Das ist der ganze Trick.