Ein japanischer Manga-Zeichner verliert von einem Tag auf den anderen den Zugriff auf sein gesamtes digitales Leben, auf E-Mail, Dokumente, YouTube, alle verknüpften Dienste. Ein Vater in San Francisco wird von der Polizei als mutmaßlicher Kindesmissbraucher ermittelt, weil er ein Foto seines kranken Kleinkinds an einen Arzt geschickt hat. Eine Professorin kann ihren Studenten keine Übungsaufgaben mehr bereitstellen, weil Google eine Textdatei mit dem Inhalt „1″ als Urheberrechtsverletzung eingestuft hat.
Das sind dokumentierte Fälle, und sie haben einen gemeinsamen Nenner: Googles automatisierte Moderationssysteme treffen Entscheidungen, die Existenzen erschüttern können, ohne menschliche Prüfung und ohne die Möglichkeit eines Widerspruchs, der von einem Menschen bewertet wird.
Der aktuelle Aufhänger: Ein Mangaka verliert sämtliche Daten
Am 15. Mai 2026 berichtete der japanische Manga-Zeichner Itosugi Masahiro auf X (ehemals Twitter), dass sein Google-Konto gesperrt wurde. Der Grund: Er hatte Daten eines alten, von ihm selbst gezeichneten Manga auf Google Drive hochgeladen. Während des Uploads erschien eine Warnung. Sein Widerspruch wurde abgelehnt. Die Folge: komplette Kontosperre.
In seinem mittlerweile über 60.000 Mal geliketen Post schrieb er sinngemäß, er habe sein Google-Konto für zahlreiche Websites und Dienste genutzt und durch die Sperre den Zugang zu allem verloren.
Itosugi ist der Urheber des Materials, das er hochgeladen hat. Es handelt sich um sein eigenes geistiges Eigentum, das nur als privates Backup hochgeladen wurde und nicht öffentlich einsehbar war. Googles System hat nicht zwischen dem Rechteinhaber und einem unbefugten Uploader unterschieden, oder konnte es nicht. Der Mangaka vermutet, dass er in keiner Phase des Prozesses mit einem echten Menschen interagiert hat: alles KI-gesteuert, alles automatisiert.
Google hat sich öffentlich bisher nicht zu dem Fall geäußert.
Quellen:
- Originalpost von Itosugi Masahiro: x.com/@masahiroitosugi, 16. Mai 2026
- Glitchwire, 23. Mai 2026: Manga Artist Loses Entire Google Account After AI Flags His Own Artwork on Drive
- Bestätigung durch Anime Updates auf X, 20. Mai 2026: x.com/@animeupdates
Medizinische Kinderfotos als Kindesmissbrauch eingestuft
Im Februar 2021 bemerkte ein Vater in San Francisco, dass der Genitalbereich seines Kleinkinds geschwollen war. Es war Freitagabend, mitten in der Pandemie, persönliche Arztbesuche waren kaum möglich. Eine Krankenschwester wies ihn an, Fotos zu machen und sie für eine Videokonferenz-Konsultation am nächsten Morgen hochzuladen. Der Vater fotografierte die Schwellung mit seinem Android-Smartphone. Seine Frau übertrug die Bilder auf ihr iPhone und lud sie über das Messaging-System des Gesundheitsdienstleisters hoch.
Die Fotos wurden dabei automatisch in Google Photos gesichert, das hatte der Vater nicht bedacht. Googles Algorithmen stuften sie als CSAM ein, also als Child Sexual Abuse Material, und meldeten den Fall automatisch an das National Center for Missing and Exploited Children (NCMEC). Es folgte eine Ermittlung durch das San Francisco Police Department.
Das SFPD stellte die Ermittlungen ein und entlastete den Vater vollständig. Es hatte kein Vergehen stattgefunden; es handelte sich um rein medizinische Fotos, auf Anweisung einer Krankenschwester aufgenommen.
Google weigerte sich trotzdem, das Konto wiederherzustellen. Auch nachdem der Vater polizeiliche Dokumentation vorlegte, dass kein Vergehen vorlag. Auch nachdem die New York Times Google kontaktierte und der Fehler offensichtlich war. Der Konzern verweigerte weiterhin die Wiederherstellung.
Die New York Times berichtete im August 2022 über diesen und einen zweiten, ähnlich gelagerten Fall, einen Vater in Houston, ebenfalls vollständig entlastet, ebenfalls keine Kontowiederherstellung. Die Electronic Frontier Foundation (EFF) veröffentlichte daraufhin eine ausführliche Stellungnahme und nannte die Fälle Kanarienvögel in der Kohlenmine. Die Anspielung bezieht sich auf die Praxis im Bergbau, Kanarienvögel mit unter Tage zu nehmen: Wenn der Vogel umfiel, wussten die Bergleute, dass giftige Gase austraten, bevor sie es selbst merkten. Die EFF sieht in diesen Fällen Frühwarnsignale für ein sehr viel größeres Problem.
Die Konsequenzen für den betroffenen Vater gingen weit über den Verlust von E-Mails hinaus: Er verlor auch seine Google-Fi-Telefonnummer, die mit zahlreichen Zwei-Faktor-Authentifizierungen verknüpft war. Der Zugang zu Diensten, die von dieser Nummer abhingen, war ebenfalls weg. Die korrekte und empfehlenswerte Nutzung von 2FA führte wegen eines fragwürdig agierenden Anbieters zum Gegenteil dessen, was man damit erreichen will.
Quellen:
- The New York Times, 21. August 2022, Kashmir Hill (paywall): A Dad Took Photos of His Naked Toddler for the Doctor. Google Flagged Him as a Criminal.
- Electronic Frontier Foundation, 19. September 2022: Google’s Scans of Private Photos Led to False Accusations of Child Abuse
- SiliconANGLE, 21. August 2022: Big tech gone bad: Google blocks accounts based on false child exploitation filter
Automatische Uploads, automatische Überwachung
Auf Android-Geräten ist Google Photos Backup standardmäßig aktiviert. Jedes Foto, das aufgenommen wird, landet automatisch in der Google Cloud und wird dort gescannt. Die Betroffenen haben die Fotos nicht bewusst bei Google hochgeladen; das System hat es für sie getan. Bei Apple verhält es sich nicht anders.
Wer sich nie aktiv mit den Backup-Einstellungen seines Smartphones auseinandergesetzt hat, sollte wissen: Die gesamte Fotobibliothek wird nach dem Upload laufend durchsucht, bei Google wie bei Apple. Wenn der Algorithmus zu einem falschen Schluss kommt, kann das den Verlust des Google-Kontos bedeuten und zusätzlich eine polizeiliche Ermittlung nach sich ziehen.
Im Oktober 2025 hat Google die Richtlinien verschärft: Die CSAM-Kategorie wurde auf die breitere Kategorie CSAE (Child Sexual Abuse and Exploitation) erweitert, die auch Grooming, Sextortion und Sexualisierung umfasst. Verstöße lösen seitdem sofortige Kontosperrungen aus; die vorherige siebentägige Warnfrist wurde abgeschafft. Insbesondere gewisse Manga-Bilder, die nach geltendem Recht völlig legal sind, könnten unter der breiteren CSAE-Definition die übereifrige KI triggern, eine mögliche Erklärung auch für den oben genannten Mangaka-Fall. Wir erinnern uns zudem an Fälle bei einem namhaften deutschen Hoster, wo gezeichnete Bilder küssender weiblicher Teenager im Manga-Stil zu Kontensperrungen führten, obwohl sie in keinster Weise justiziabel waren.
Quelle:
- MetadataFixer, 3. März 2026: What Happens When Google Bans Your Account
Eine Textdatei mit der Ziffer 1
Im Januar 2022 lud Dr. Emily Dolson, Assistant Professor an der Michigan State University, Übungsaufgaben für einen Algorithmen-Kurs auf Google Drive hoch. Darunter eine Datei namens output04.txt. Ihr Inhalt: eine einzige Zeile mit der Ziffer 1.
Google stufte die Datei als Urheberrechtsverletzung ein und sperrte die Freigabe. Die Warnung endete mit dem Satz, dass eine Überprüfung nicht angefordert werden könne. Andere Nutzer replizierten das Problem: Auch Dateien, die nur eine 0 enthielten, wurden gesperrt.
Richard D. Morey, Professor für Psychologie an der Cardiff University, kommentierte, er habe aus genau diesem Grund aufgehört, Google Drive beruflich zu nutzen. Google habe Dokumente gesperrt, die er selbst verfasst hatte, und kein Student konnte mehr darauf zugreifen.
Quellen:
- TorrentFreak, 25. Januar 2022: Google Drive Flags Text Files With “1” or “0” As Copyright Infringements
- The Register, 25. Januar 2022: Google Drive flags nearly empty files for copyright infringement
- TechDirt, 26. Januar 2022: Google Drive’s Autodetector For Copyright Infringement Is Locking Up Nearly Empty Files
- BleepingComputer, 25. Januar 2022: Google Drive flags nearly empty files for copyright infringement
Algorithmische Entscheidung ohne Ausweg
Alle diese Fälle folgen dem gleichen Ablauf: Googles KI-System erkennt vermeintlich problematische Inhalte und liegt dabei bisweilen dramatisch daneben. Es erfolgt eine automatische Sperrung. Der Nutzer legt Widerspruch ein. Der Widerspruch wird abgelehnt, mit hoher Wahrscheinlichkeit ebenfalls automatisiert. Es gibt keinen menschlichen Ansprechpartner und keinen funktionierenden Eskalationsweg, die einzige dokumentierte Methode, die vereinzelt funktioniert hat, war öffentlicher Druck über Social Media oder Berichterstattung in großen Medien.
Googles offizielle Richtlinien sehen zwar theoretisch Ausnahmen für künstlerische, pädagogische und wissenschaftliche Inhalte vor, in der Praxis scheinen diese Ausnahmen bei der automatisierten Prüfung keine Rolle zu spielen. KIs machen Fehler, das ist eine Binsenweisheit. Wenn es aber keine Möglichkeit gibt, bei derart schwerwiegenden Fällen die Fehler zu korrigieren, wird das bedrohlich. Man verzeihe mir die Dramatisierung, aber ein milderes Wort trifft es hier nicht.
Was das für Unternehmen bedeutet
Für Privatpersonen sind diese Fälle ärgerlich bis existenzbedrohend. Für Unternehmen, die Google Workspace einsetzen, sind sie ein Warnsignal, das sich nicht ignorieren lässt.
Wer als Unternehmen auf Google Workspace setzt, legt seine gesamte geschäftliche Kommunikation, Dokumentenablage, Terminplanung und oft auch Telefonie in die Hände eines Anbieters, der Konten ohne Vorwarnung, ohne menschliche Prüfung und ohne wirksamen Widerspruchsweg sperren kann. Ein einziger False Positive könnte theoretisch den gesamten Geschäftsbetrieb lahmlegen.
Auch wenn Google-Workspace-Konten mit Business-Support vermutlich besser geschützt sind als kostenlose Privatkonten: Die zugrundeliegende Architektur, automatisiertes Scanning, automatisierte Entscheidungen, intransparente Prozesse, ist dieselbe.
Kontrolle über die eigenen Daten behalten
Wer die Kontrolle über seine eigenen Daten vollständig an einen Anbieter abgibt, der Entscheidungen ohne menschliche Prüfung trifft und keine funktionierenden Widerspruchsmechanismen bietet, geht ein unnötiges Risiko ein. Cloud-Dienste sind deshalb nicht grundsätzlich schlecht, aber ein einzelner Anbieter als alleiniger Dreh- und Angelpunkt für die gesamte digitale Infrastruktur ist es. Dass der Cloudspeicher heutzutage nicht bei einem US-Anbieter liegen sollte, ist ebenfalls nichts Neues mehr.
Für Privatpersonen
Die automatische Sicherung von Google Photos sollte deaktiviert oder zumindest bewusst konfiguriert werden. E-Mail-Konten, Dateispeicher und Authentifizierung sollten nicht alle bei einem einzigen Anbieter liegen, und schon gar nicht bei Google. Wer Bilder in der Cloud sichern möchte, findet inzwischen brauchbare europäische Alternativen: PixelUnion etwa ist ein niederländischer Dienst auf Basis der Open-Source-Plattform Immich, mit Servern in Deutschland und Backup in Finnland. 16 GByte Speicher sind kostenlos, die Einrichtung ist unkompliziert, und die Immich-App funktioniert auf Android und iOS als direkter Ersatz für die Google-Photos-App, inklusive automatischem Foto-Backup. Ich nutze PixelUnion schon sehr lange und das funktioniert einwandfrei. Der Dienst wurde unter anderem von c’t/heise getestet. Wer die volle Kontrolle bevorzugt, kann Immich auch selbst hosten oder auf verschlüsselte Dienste wie Proton Drive ausweichen.
Für Unternehmen
Eine eigene E-Mail-Infrastruktur oder zumindest ein europäischer Anbieter mit transparenten Prozessen und erreichbarem Support sollte Standard sein. Dokumente gehören auf Systeme, über die das Unternehmen selbst die Kontrolle hat. Die 3-2-1-Backup-Regel, drei Kopien, zwei verschiedene Speichermedien, eine Kopie an einem anderen Standort, ist kein Nice-to-have, sondern Pflicht.
Für alle
Jeder Dienst, bei dem eine algorithmische Entscheidung ohne menschliche Überprüfung zum vollständigen Datenverlust führen kann, ist ein Risiko. Das gilt nicht nur für Google, aber bei Google ist das Muster am besten dokumentiert.
Bei der Suche nach Alternativen kann ich beraten.
Hinweis: Der Fall Itosugi Masahiro ist zum Zeitpunkt der Veröffentlichung ausschließlich über den Betroffenen selbst (verifizierter X-Account) und Nischenmedien der Anime-/Manga-Community dokumentiert. Etablierte Tech-Redaktionen haben den konkreten Fall bisher nicht aufgegriffen. Die übrigen in diesem Artikel beschriebenen Fälle sind durch die New York Times, die Electronic Frontier Foundation, The Register, TorrentFreak und weitere seriöse Quellen unabhängig belegt. Google hat sich zu keinem der aktuellen Fälle öffentlich geäußert.