Zusammenfassung
- Der Cambridge-Analytica-Vorgang ist nicht nur ein Datenschutzskandal; er ist ein Aufzeichnung der Plattformkontrolle darüber, wer Zugriff gewähren konnte, wer die Löschung überprüfen konnte, wer Nutzer benachrichtigen konnte und wer Missbrauch politischer Daten erkennen konnte, bevor Journalisten, Regulierungsbehörden und Gesetzgeber eine öffentliche Rechenschaftslegung erzwangen.
- Öffentliche Quellen der FTC, SEC, ICO, des britischen Parlaments, der kanadischen Datenschutzbehörden, von Facebook und Gerichtsakten stützen eine klare Unterscheidung zwischen bestätigten Erkenntnissen, evidenzgestützten Governance-Schlussfolgerungen und Angelegenheiten, die aus öffentlichen Beweisen unbekannt bleiben.
- Die stärkste Lektion in Sachen Rechenschaftspflicht ist, dass App-Plattformregeln schwach sind, wenn die Durchsetzung hauptsächlich von Entwicklerversprechen abhängt, nachdem Daten bereits die technische Grenze der Plattform verlassen haben.
- Die öffentlichen Aufzeichnungen beweisen nicht jede nachgelagerte Nutzung jedes Profildatensatzes, jede Kampagnenentscheidung, jede interne Facebook-Erwägung oder jeden individuellen Schaden; sie beweisen jedoch, dass die Gestaltung und Durchsetzung von Plattformberechtigungen zu einer Kontrollfläche für bürgerliche Risiken wurde.
Der Fall begann innerhalb eines Berechtigungssystems
Facebook machte Cambridge Analytica zu einem Test für die Rechenschaftspflicht von Plattformdaten, weil die zentrale Kontrolle nicht aus einem gestohlenen Passwort, einer gebrochenen Firewall oder einem mysteriösen externen Eindringen bestand. Die öffentlichen Aufzeichnungen beschreiben einen Entwickler-Plattform-Pfad. Eine Persönlichkeitsquiz-App, die mit Aleksandr Kogan in Verbindung steht, sammelte Daten von Personen, die sie installierten, und konnte unter dem damaligen Plattformdesign von Facebook auch Daten über Freunde dieser Nutzer erhalten. Die FTC beschrieb später die breitere Facebook-Datenschutzangelegenheit und den Vergleich unterhttps://www.ftc.gov/news-events/news/press-releases/2019/07/ftc-imposes-5-billion-penalty-sweeping-new-privacy-restrictions-facebook, während die eingereichte Beschwerde der FTC unterhttps://www.ftc.gov/system/files/documents/cases/182_3109_facebook_complaint_filed_7-24-19.pdfund die Anordnung unterhttps://www.ftc.gov/system/files/documents/cases/182_3109_facebook_order_filed_7-24-19.pdfdie Durchsetzungsaufzeichnung dauerhaft machten. Die Frage der Rechenschaftspflicht ist daher praktisch: Wer kontrollierte die Berechtigungsarchitektur, wer überwachte die Einhaltung der Entwicklerrichtlinien, wer überprüfte, dass Daten nicht weitergegeben wurden, und wer informierte die Nutzer, wenn die Grenze versagte?
Die eigene Stellungnahme von Facebook vom März 2018 unterhttps://about.fb.com/news/2018/03/suspending-cambridge-analytica/sagte, das Unternehmen habe Cambridge Analytica und andere suspendiert, nachdem es erfahren habe, dass über die App von Kogan erlangte Daten nicht wie bescheinigt gelöscht worden seien. Diese Aussage ist wichtig, weil sie mehrere Kontrollfakten bestätigt, ohne dass Spekulationen erforderlich sind. Erstens hatte Facebook eine Grenze für Entwicklerrichtlinien. Zweitens verließ sich Facebook auf eine Bescheinigung oder Bestätigung, dass Daten gelöscht worden seien. Drittens behandelte das Unternehmen die Bestätigung später als unzureichend. Viertens erfolgte die öffentliche Suspendierung Jahre nach dem Zeitraum der App-Datenerfassung und nachdem das Unternehmen bereits über die Weiterleitung informiert worden war. Das Problem war nicht nur, ob eine Regel existierte. Es war, ob die Regel durchsetzbar war, wenn die Daten die Plattform bereits verlassen hatten.
Das Ausmaß wurde öffentlich in Facebooks Produkt- und Datenschutzaktualisierung vom April 2018 unterhttps://about.fb.com/news/2018/04/restricting-data-access/, die besagte, dass Informationen von bis zu 87 Millionen Menschen möglicherweise unangemessen mit Cambridge Analytica geteilt worden seien. Diese Aussage sollte sorgfältig gelesen werden. Sie ist kein Beweis dafür, dass jeder dieser Menschen die gleiche Konsequenz erlitt, dass jedes Feld in einer Kampagne verwendet wurde oder dass eine vollständige Kausalkette des Wählerverhaltens öffentlich nachweisbar ist. Es handelt sich jedoch um ein Eingeständnis auf Plattformebene, dass das Berechtigungssystem eine Gefährdung der Bevölkerung schuf. Ein Nutzer, der das Quiz nie installierte, konnte dennoch Teil des Datenpfads sein, weil ein Freund es tat. Deshalb fällt das Ereignis in eine andere Kategorie als gewöhnliche Streitigkeiten über App-Einwilligungen.
Die Entwicklergrenze ist wichtig, weil Einwilligung und Kontrolle nicht übereinstimmten. Die Person, die eine App installiert, mag eine Wahl treffen, wie unvollkommen auch immer. Die Freunde, deren Daten durch diese App erreichbar wurden, trafen keine appspezifische Wahl. Facebook kontrollierte die Produktarchitektur, die diesen Datenfluss ermöglichte, die App-Bedingungen, die die Entwickler einschränkten, und die Durchsetzungswerkzeuge, die Missbrauch erkennen oder bestrafen konnten.
Die Nutzer kontrollierten weder die geschäftlichen Entscheidungen des nachgelagerten Entwicklers noch den politischen Datenmarkt, der die Daten später wertvoll machte. Wenn Kontrolle und Gefährdung an verschiedenen Orten liegen, sollte die Rechenschaftspflicht der Partei folgen, die die Berechtigungsoberfläche entworfen und betrieben hat.
Das bedeutet nicht, dass jede Behauptung über politische Nutzung, die in der öffentlichen Debatte aufgestellt wurde, bewiesen war. Die Aufzeichnung ist stärker und enger. Sie zeigt, dass die Plattform von Facebook eine groß angelegte Erfassung ermöglichte, dass Daten an Cambridge Analytica oder verbundene Parteien gelangten, dass Löschversprechen nicht ausreichten, dass Regulierungsbehörden später erhebliche Datenschutz- und Offenlegungsversäumnisse feststellten und dass die Gesetzgebung den Fall als Problem der demokratischen Governance behandelte.
Die Aufgabe der Rechenschaftspflicht ist es, diese bewiesenen Punkte von unbegründeten Behauptungen zu trennen und gleichzeitig die Schwere einer Plattformregel anzuerkennen, die die nachgelagerte politische Datenausbeutung nicht verhinderte.
Regulierungsaufzeichnungen verwandelten Entschuldigung in Beweise
Der FTC-Vergleich ist eine der zentralen öffentlichen Rechenschaftsaufzeichnungen, weil er die Cambridge-Analytica-Episode mit den breiteren Datenschutzverpflichtungen von Facebook unter einer früheren FTC-Anordnung verband. Die FTC-Pressemitteilung sagte, Facebook würde eine Strafe von 5 Milliarden Dollar zahlen und neue Datenschutzbeschränkungen akzeptieren. Die Anordnung tat mehr als nur eine Zahlung zu verhängen.
Sie erforderte ein Datenschutzprogramm, Zertifizierungspflichten, Strukturen auf Vorstandsebene, Überprüfungen durch unabhängige Gutachter und Kontrollen, die die Datenschutz-Governance von der informellen Produktentscheidung wegbewegten. Eine Strafe allein kann als Kosten des Geschäfts betrachtet werden. Eine Governance-Anordnung ist der Versuch, zu ändern, wer das Risiko sehen, bescheinigen und verantworten muss.
Der Wert der FTC-Beschwerde liegt nicht darin, dass sie jede historische Frage beantwortet. Sie liefert eine von der Regulierungsbehörde verfasste Beschreibung angeblicher Falschdarstellungen, Datenschutzkontrollversagen und der Art und Weise, wie Entwicklerzugriff mit Nutzereinstellungen interagierte. Sie steht auch neben der Cambridge-Analytica-spezifischen Durchsetzungsaufzeichnung der FTC, einschließlich der FTC-Maßnahme und Stellungnahme vom Dezember 2019 unterhttps://www.ftc.gov/news-events/news/press-releases/2019/12/ftc-issues-opinion-order-against-cambridge-analytica-app-developer-aleksandr-koganund dem Verwaltungsdossier unterhttps://www.ftc.gov/legal-library/browse/cases-proceedings/182-3107-cambridge-analytica-llc-matter. Diese Quellen helfen, die Verantwortung der Plattform von der Verantwortung nachgelagerter Akteure zu trennen. Facebook kontrollierte die Plattformgrenze. Kogan und Cambridge Analytica sahen sich eigenen Vorwürfen und Anordnungen gegenüber, die sich darauf bezogen, wie die Daten erfasst, dargestellt oder verwendet wurden.
Die SEC-Aufzeichnung fügt eine weitere Rechenschaftsschicht hinzu. Die SEC kündigte Anklagen gegen Facebook unterhttps://www.sec.gov/news/press-release/2019-140an und erklärte, das Unternehmen habe zugestimmt, 100 Millionen Dollar zu zahlen, um Vorwürfe beizulegen, dass seine öffentlichen Offenlegungen den Missbrauch von Nutzerdaten als hypothetisches Risiko dargestellt hätten, nachdem das Unternehmen von dem Cambridge-Analytica-Missbrauch wusste. Die SEC-Anordnung unterhttps://www.sec.gov/files/litigation/admin/2019/34-86457.pdfist keine Datenschutzanordnung im gleichen Sinne wie der FTC-Fall. Es ist eine Wertpapieroffenlegungsaufzeichnung. Ihre Bedeutung ist, dass die Governance von Plattformdaten zu einer Offenlegung von Anlegerrisiken wurde. Sobald ein Unternehmen weiß, dass ein Risiko eingetreten ist, kann eine öffentliche Einreichung, die dieses Risiko lediglich als möglich behandelt, zu einem Rechenschaftsproblem für Aktionäre sowie Nutzer werden.
Das britische Information Commissioner’s Office lieferte eine weitere öffentliche Durchsetzungsaufzeichnung. Seine Ankündigung vom Oktober 2018 unterhttps://ico.org.uk/about-the-ico/media-centre/news-and-blogs/2018/10/facebook-issued-with-maximum-500-000-fine/sagte, das ICO habe die damals nach altem britischen Recht maximal verfügbare Strafe von 500.000 Pfund verhängt. Die Geldbußmitteilung des ICO unterhttps://ico.org.uk/media/action-weve-taken/mpns/2260051/facebook-mpn-20181024.pdfbeschrieb Versäumnisse, die personenbezogenen Daten der Nutzer zu schützen und transparent darüber zu sein, wie Daten von anderen geerntet wurden. Die Zahl war nach späteren globalen Plattformstandards gering, weil das damalige Rechtssystem begrenzt war, aber die Feststellung war wichtig: Das Entwicklerökosystem von Facebook war zu einer datenschutzrechtlichen Durchsetzungsangelegenheit außerhalb der USA geworden.
Das britische Parlament behandelte den Fall als politisches und demokratisches Rechenschaftsproblem. Der Abschlussbericht des Digital, Culture, Media and Sport Committee des Unterhauses unterhttps://publications.parliament.uk/pa/cm201719/cmselect/cmcumeds/1791/1791.pdfordnete Cambridge Analytica in eine breitere Untersuchung von Desinformation, datengesteuerter Kampagnenführung, Plattformmacht und Wahlintegrität ein. Parlamentsberichte sind keine strafrechtlichen Urteile. Sie sind öffentliche Aufsichtsaufzeichnungen. Ihr Wert liegt hier darin, zu zeigen, warum die betroffene Bevölkerung nicht auf App-Nutzer oder Werbetreibende beschränkt war. Das Ereignis berührte Fragen der politischen Überzeugung, der Kampagnentransparenz, der Plattform-Governance und wie demokratische Institutionen private Datensysteme überprüfen können, die die öffentliche Debatte prägen.
Die kanadischen Datenschutzbehörden kamen zu einem ähnlichen Ergebnis. Die gemeinsamen Feststellungen des Office of the Privacy Commissioner of Canada unterhttps://www.priv.gc.ca/en/opc-actions-and-decisions/investigations/investigations-into-businesses/2019/pipeda-2019-002/stellten fest, dass Facebook in der Cambridge-Analytica-Angelegenheit erhebliche Datenschutzmängel hatte und die Informationen der Nutzer nicht angemessen schützte. Auch hier liegt der öffentliche Wert nicht darin, dass er eine vollständige interne technische Zeitleiste liefert. Es zeigt, dass mehrere Regulierungsbehörden in verschiedenen Rechtssystemen zu demselben Kontrollproblem kamen: Eine Plattform kann den Datenschutz nicht an die Versprechen von App-Entwickler auslagern und dann groß angelegten Missbrauch so behandeln, als ob er außerhalb ihres Rechenschaftsbereichs stattgefunden hätte.
Benutzerhinweis wurde durch Design und Beweislücken verzögert
Das Problem der Benutzerbenachrichtigung ist zentral. Facebook sagte 2018, es habe 2015 von Journalisten erfahren, dass Kogan Daten mit Cambridge Analytica geteilt habe, und es habe Zertifizierungen verlangt, dass die Daten vernichtet worden seien. Der öffentliche Skandal brach 2018 nach Berichterstattung von The Guardian unterhttps://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-electionund The New York Times unterhttps://www.nytimes.com/2018/03/17/us/politics/cambridge-analytica-trump-campaign.htmlweit aus. Diese Berichte sind keine primären Durchsetzungsdokumente, aber sie sind Teil der öffentlichen Chronologie, weil sie die ruhende Kontrollfrage in die öffentliche Sichtbarkeit zwangen. Die Nutzer erfuhren dann, dass ein Datenevidenz, das innerhalb der Vertrauensgrenze der Plattform bekannt war, keine breite zeitgleiche Benachrichtigung der Nutzer ausgelöst hatte.
Verzögerung ist wichtig, weil Datenschutzmaßnahmen mit der Zeit verfallen. Ein Nutzer, der 2015 benachrichtigt worden wäre, hätte möglicherweise App-Einstellungen geändert, verbundene Apps überprüft, Freunde gewarnt, Erwartungen an politische Daten geändert oder früher Löschungsnachweise verlangt. Ein Nutzer, der 2018 benachrichtigt wurde, erhielt Informationen, nachdem die Daten bereits weitergegeben worden waren, nachdem die Zertifizierungsstreitigkeit gealtert war und nachdem die Nutzung politischer Daten zu einer öffentlichen Kontroverse geworden war. Benachrichtigung ist nicht nur eine Höflichkeit.
Es ist eine Wiederherstellungskontrolle. Sie ermöglicht betroffenen Personen, zu entscheiden, was zu tun ist, wenn die Plattform nicht mehr die alleinige Kontrolle über das Risiko hat.
Facebooks Update vom April 2018 sagte, das Unternehmen würde den Nutzern zeigen, ob ihre Informationen möglicherweise unangemessen mit Cambridge Analytica geteilt worden seien, und beschrieb breitere Einschränkungen des Entwicklerzugriffs. Das ist ein Abhilfeschritt, aber es löscht die Rechenschaftsfrage nicht aus. Eine Plattform, die bis zur öffentlichen Krise wartet, um Nutzer zu benachrichtigen, schafft eine Beweislücke. Nutzer können nicht rekonstruieren, auf welche Daten zugegriffen wurde, wie sie verwendet wurden, ob sie erneut kopiert wurden oder ob sie mit anderen politischen oder kommerziellen Datensätzen kombiniert wurden.
Die spätere Benachrichtigung kann eine potenzielle Gefährdung identifizieren, aber sie kann den Nutzer nicht in Bezug auf verlorene Kontrolle ganzheitlich wiederherstellen.
Die stärksten öffentlichen Beweise stützen eine begrenzte Schlussfolgerung: Facebook hatte frühere Kenntnis von einem Problem der Weiterleitung, verließ sich auf Löschungszertifizierungen und benachrichtigte die Nutzer erst, nachdem das Problem öffentlich geworden war. Die Aufzeichnung erlaubt es einem externen Leser nicht, jeden internen Grund für das Timing zu beweisen. Sie beweist nicht, dass jeder relevante Facebook-Mitarbeiter das gleiche Verständnis hatte. Sie beweist nicht jede nachgelagerte Nutzung. Aber sie reicht aus, um das Kontrolldesign zu beurteilen.
Wenn eine Plattform Benachrichtigung erhält, dass Daten gegen die Richtlinie weitergegeben wurden, sollte ein Löschungsversprechen nicht das Ende des Falls sein, es sei denn, die Plattform kann die Löschung unabhängig überprüfen oder offenlegen, warum sie das nicht kann.
Hier kommt die Ökonomie der Missbrauchsmeldung ins Spiel. Eine Entwicklerplattform muss entscheiden, wie viel sie in die Überprüfung verdächtiger Apps, Nutzerbeschwerden, Journalistenberichte, Entwicklerdurchsetzung, rechtliche Eskalation und Überwachung nach der Beendigung investiert. Wenn die Durchsetzung für die Plattform billig, aber für Nutzer teuer anzufechten ist, könnte die Plattform Missbrauch unterschätzen, bis externer Druck anwächst. Ein Nutzer kann Kogan, Cambridge Analytica, einen Kampagnendienstleister oder eine vermittelte Datenkette nicht überprüfen.
Facebook konnte Entwicklerbedingungen erstellen, Apps sperren, API-Zugriff einschränken, Zertifizierungen verlangen, Prüfungen in Auftrag geben und Nutzer benachrichtigen. Das sind keine perfekten Werkzeuge, aber es sind Werkzeuge, die die Plattform hatte und die Nutzer nicht hatten.
App-Überprüfung versagte als Kontrolle des bürgerlichen Risikos
Die Cambridge-Analytica-Aufzeichnung zeigt, warum App-Überprüfung nicht nur als Funktion des Verbraucherprodukts behandelt werden kann. Auf einer Social-Media-Plattform können App-Berechtigungen soziale Graphen, demografische Signale, Likes, Freundesverbindungen und Verhaltenskategorien offenlegen, die für Werbung, psychografische Modellierung, Wähleransprache oder Einflussoperationen wertvoll sein können. Das bedeutet nicht, dass jede App politisch ist, jeder Entwickler missbräuchlich ist oder jeder Datensatz eine Wahl verändert.
Es bedeutet, dass die Plattform bestimmte Datenflüsse als Risiken für die bürgerliche Infrastruktur einstufen muss, bevor ein Skandal den Punkt beweist.
Die Änderungen an der Graph-API von Facebook nach dem Skandal sind Teil der Beweise. Das Update vom April 2018 beschrieb Einschränkungen bei Ereignissen, Gruppen, Seiten, Login, Instagram, Suche, Anruf- und Textverlauf sowie App-Berechtigungen. Die Tatsache, dass Facebook den Zugriff nach dem Ereignis einschränken konnte, zeigt, dass das frühere System eine Designentscheidung war, kein Naturgesetz. Eine Plattform verteidigt oft breiten API-Zugriff als Entwicklerinnovation. Dieses Argument hat Gewicht: Nützliche Apps hängen vom Zugriff ab.
Aber eine Plattform, die breiten Zugriff gewährt, muss auch Durchsetzung, Widerruf, Überprüfung und sinnvolle Nutzerbenachrichtigung finanzieren. Innovation entbindet nicht von der Pflicht, Berechtigungsgrenzen durchsetzbar zu halten.
Die FTC-Angelegenheit zu Kogan und Cambridge Analytica ist relevant, weil sie zeigt, dass auch nachgelagerte Akteure Pflichten hatten. Die FTC behauptete irreführende Praktiken im Zusammenhang mit der App und der Datenerfassung. Das ist für die Fairness wichtig. Facebook war nicht der einzige Akteur in der Kette. Kogan, Cambridge Analytica, politische Kampagnen, Datenmakler und andere Dienstleister hatten jeweils potenzielle Kontrolle über ihr eigenes Verhalten. Aber die Verantwortung der Plattform wird durch nachgelagertes Fehlverhalten nicht aufgehoben.
Ein Brückenbetreiber ist nicht von Leitplanken befreit, nur weil ein Fahrer sich auch schlecht verhält. Die Plattform baute die Spur, durch die sich Daten bewegten.
Bestätigte Fakten zeigen, dass App-Überprüfung und Richtliniendurchsetzung den Datenpfad nicht verhinderten. Evidenzgestützte Schlussfolgerung geht weiter: Das Governance-Modell von Facebook behandelte die Einhaltung der Entwicklerrichtlinien als ausreichend handhabbar, bis öffentliche Ereignisse zeigten, dass dies nicht der Fall war. Diese Schlussfolgerung wird durch die späteren Einschränkungen, Regulierungsfeststellungen und die eigene Sperrung und Benachrichtigungschronologie von Facebook gestützt.
Unbekannt bleiben: wie jede App-Überprüfungsentscheidung getroffen wurde, welche internen Warnungen ausgesprochen wurden, wie das Risiko über Teams priorisiert wurde und welche privaten Prüfungen zu welcher Zeit welche Fakten fanden. Diese Unbekannten sind wichtig, weil sie verhindern, dass ein öffentlicher Artikel unbegründete individuelle Schuldzuweisungen vornimmt.
Die praktische Kontrollkarte ist dennoch klar. Facebook kontrollierte die APIs, Überprüfungsregeln, Entwicklerzugriff, Durchsetzungseskalation, Sperrungsentscheidungen, nutzerseitige Einstellungen und öffentliche Benachrichtigungen. Entwickler kontrollierten ihre Anwendungen und Versprechen. Kampagnenkunden kontrollierten, wie sie Analysedienste beschafften und nutzten. Regulierungsbehörden kontrollierten die nachträgliche Durchsetzung und Regelgebung.
Nutzer kontrollierten nur begrenzte Einstellungen und ihre eigenen App-Entscheidungen, und die Gefährdung durch Freunde bedeutete, dass selbst diese Entscheidungen durch die Installation einer anderen Person umgangen werden konnten. Diese Asymmetrie ist der Grund, warum das Plattformdesign die primäre Rechenschaftsoberfläche ist.
Einwilligung reiste nicht mit den Daten
Der Cambridge-Analytica-Fall wird oft als Einwilligungsversagen beschrieben, aber dieser Ausdruck ist zu eng. Die Einwilligung versagte, weil sie nach Verlassen von Facebook nicht portabel, sichtbar oder durchsetzbar war. Eine Plattformaufforderung kann einen Nutzer bitten, einer App den Zugriff auf bestimmte Informationen zu erlauben. Sie kann allein nicht sicherstellen, dass die App die Daten später getrennt hält, nicht verkauft, nicht mit Wählerdateien kombiniert und auf Anfrage löscht. Sobald Daten eine Grenze überschreiten, wird die technische Durchsetzung schwieriger.
Deshalb müssen Plattformregeln Prävention, Überprüfung und dauerhafte Prüfung umfassen, nicht nur das Akzeptieren durch Klicken.
Der Zugriff auf Freundesdaten machte die Schwäche noch deutlicher. Betroffene Personen konnten diejenigen einschließen, die nie mit der App interagiert hatten. Die Einwilligungskette war daher nicht nur dünn; sie war sozial delegiert. Die App-Aktion eines Nutzers konnte Konsequenzen für die Daten eines anderen Nutzers haben. Diese Struktur steht im Mittelpunkt der Datensouveränität und Datenlokalität als praktisches Problem. Menschen nehmen oft an, dass ihre Daten durch die Plattform und die mit ihrem Konto verbundenen rechtlichen Erwartungen regiert werden.
In Wirklichkeit können Plattform-APIs Daten in Entwicklersysteme, Analysefirmen, Kampagnenoperationen, Cloud-Speicher, juristische Personen und Gerichtsbarkeiten exportieren, die der Nutzer nie sieht.
Die Durchsetzungsaufzeichnung des ICO formulierte das Problem in datenschutzrechtlichen Begriffen, während die FTC es durch Datenschutzversprechen und Verstöße gegen Anordnungen formulierte, und die SEC durch Anlegeroffenlegung. Dies sind verschiedene rechtliche Vokabeln für dasselbe operative Problem. Daten-Governance kann nicht auf eine Datenschutzrichtlinie reduziert werden, wenn das tatsächliche Berechtigungssystem Dritten erlaubt, große Mengen sozialer Daten zu extrahieren und die Plattform die Einhaltung nicht überprüfen kann.
Ein Versprechen über Kontrolle ist nur so stark wie der Mechanismus, der die Kontrolle davor bewahrt, zu verdunsten.
Facebooks spätere Datenschutzprogrammverpflichtungen sind relevant, weil sie die Governance in Richtung dokumentierter Bewertung bewegten. Die FTC-Anordnung erforderte ein formelleres Programm und Zertifizierungen. Solche Verpflichtungen sind kein Beweis dafür, dass jedes zukünftige Risiko verschwindet. Sie sind Beweise für die Kontrollschicht, die die Regulierungsbehörden für fehlend oder unzureichend hielten.
Ein ausgereiftes Plattformdatenprogramm sollte risikoreiche Berechtigungen identifizieren, eine Datenminimierungsbegründung verlangen, Entwickleransprüche testen, Beendigungs- und Löschungsnachweise führen, anomale Extraktion überwachen, Durchsetzungsentscheidungen aufzeichnen und Nutzer benachrichtigen, wenn die Plattform die Eindämmung nicht überprüfen kann.
Der Fall zeigt auch, warum öffentlicher Interessenschaden sich von gewöhnlichem individuellem Datenschutzschaden unterscheidet. Eine Person kann möglicherweise keine einzelne Nachricht, Werbung oder Entscheidung identifizieren, die durch die Datenübertragung verursacht wurde. Doch die Aggregation von Millionen von Profilen kann für politische Systeme, Zivilgesellschaft und Wahlaufsicht von Bedeutung sein. Die Kontinuität des öffentlichen Sektors ist hier relevant, weil demokratische Institutionen auf Vertrauen in politische Kommunikation, Kampagnentransparenz und die Fairness von Informationsumgebungen angewiesen sind.
Ein Plattformdatenversagen kann daher einen Schaden verursachen, der diffus, institutionell und schwer durch individuelle Benachrichtigung allein zu beheben ist.
Offenlegungsversäumnisse erweiterten den Rechenschaftsbereich
Der SEC-Fall erweiterte den Rechenschaftsbereich über Nutzer und Regulierungsbehörden hinaus. Öffentliche Unternehmen legen Risiken für Anleger offen. Die SEC behauptete, dass Facebooks Risikofaktorsprache das Potenzial für Missbrauch von Nutzerdaten beschrieb, obwohl das Unternehmen bereits wusste, dass Missbrauch stattgefunden hatte. Die Bedeutung liegt nicht einfach darin, dass Facebook einen Vergleich zahlte. Es ist, dass Datenschutzvorfälle zu Offenlegungskontrollvorfällen werden können.
Wenn Führungskräfte, Rechtsteams, Datenschutzteams und Investor-Relations-Funktionen unterschiedliche Bilder desselben Ereignisses haben, bricht die öffentliche Rechenschaftspflicht zusammen.
Das ist für alle großen Plattformen von Bedeutung. Ein Datenschutzvorfall kann in einem Produktteam beginnen, von einem Politikteam bearbeitet werden, über rechtliche Kanäle eskaliert werden und dann außerhalb der öffentlichen Wertpapieroffenlegung liegen, bis eine Reputationskrise ausbricht. Die SEC-Aufzeichnung sagt, dass das nicht ausreicht, wenn das Ereignis für Anleger wesentlich ist. Ein ausgereiftes Vorfallprogramm muss Produktrisiko, rechtliches Risiko, Datenschutzrisiko, Kommunikationsrisiko und finanzielles Offenlegungsrisiko verbinden.
Andernfalls kann ein Unternehmen wissen, dass ein Ereignis eingetreten ist, während es dem Markt nur mitteilt, dass ein solches Ereignis eintreten könnte.
Das Offenlegungsproblem betrifft auch die Nutzer. Wenn ein Unternehmen öffentlich ein bekanntes Datenevidenz als hypothetisch darstellt, unterschätzen Nutzer möglicherweise die Notwendigkeit, Einstellungen zu überprüfen, Verhalten zu ändern oder Antworten zu verlangen. Anleger unterschätzen möglicherweise das Ausmaß der regulatorischen Gefährdung. Gesetzgeber unterschätzen möglicherweise die Dringlichkeit der Aufsicht. Werbetreibende und Entwickler unterschätzen möglicherweise die bevorstehende Governance-Änderung. Offenlegung ist daher keine Formalität.
Sie ist eine Koordinationskontrolle über Interessengruppen hinweg, die die privaten Systeme der Plattform nicht einsehen können.
Die öffentliche Aufzeichnung stützt diese Schlussfolgerung, ohne private Spekulationen zu erfordern. Die SEC-Anordnung, FTC-Anordnung, ICO-Geldbuße, kanadischen Feststellungen, der Parlamentsbericht und die eigenen Stellungnahmen von Facebook beschreiben alle überlappende Aspekte derselben Episode. Die Details unterscheiden sich, aber die Richtung ist konsistent: Cambridge Analytica war kein einzelner isolierter App-Zwischenfall. Es wurde zu einem Test, ob eine Plattform Datenmissbrauch identifizieren, verwalten, offenlegen und beheben kann, der durch ihre eigene Berechtigungsarchitektur floss.
Unbekannt bleiben erheblich. Die öffentliche Aufzeichnung offenbart nicht jedes interne Treffen, jeden Entwurf, jede rechtliche Bewertung, jede technische Warnung oder jede Führungsentscheidung. Sie erlaubt es Außenstehenden nicht, den genauen Weg von internem Wissen zur öffentlichen Offenlegungssprache zu rekonstruieren. Aber die öffentliche SEC-Anordnung reicht aus, um die Rechenschaftsschlussfolgerung zu stützen, dass Offenlegungskontrollen in Daten-Governance-Kontrollen integriert werden müssen.
Ein Datenschutzteam, das von Missbrauch weiß, und eine Wertpapieroffenlegung, die Missbrauch als hypothetisch behandelt, sind keine getrennten Risikowelten.
Löschungsversprechen waren kein Eindämmungsnachweis
Eine der wichtigsten Lektionen ist der Unterschied zwischen Löschungsversprechen und Eindämmungsnachweis. Die Stellungnahme von Facebook von 2018 sagte, es habe Zertifizierungen verlangt und erhalten, dass Daten vernichtet worden seien. Spätere Ereignisse zeigten, dass dies kein ausreichender Endpunkt des öffentlichen Vertrauens war. Wenn Daten in die Systeme einer anderen Entität kopiert wurden, kann die Zertifizierung eine rechtliche Kontrolle sein, aber sie ist nicht dasselbe wie ein technischer Nachweis. Sie kann notwendig sein; sie ist selten ausreichend.
Eindämmungsnachweis würde stärkere Beweise erfordern: welche Daten gehalten wurden, wo sie gespeichert waren, wer darauf zugegriffen hat, ob sie in Backups kopiert wurden, ob abgeleitete Modelle erstellt wurden, ob Dritte sie erhalten haben, ob die Löschung unabhängig geprüft wurde, ob Protokolle aufbewahrt wurden und ob Nichteinhaltung erkannt würde. Einige dieser Fragen können nach Zeitablauf möglicherweise nicht vollständig beantwortet werden. Genau deshalb sind Prävention und rechtzeitige Überprüfung wichtig. Je später eine Plattform versucht, exportierte Daten einzudämmen, desto unsicherer wird der Eindämmungsnachweis.
Das FTC-Dossier zu Cambridge Analytica und verwandte Anordnungen halfen, Verantwortung nachgelagerten Akteuren zuzuweisen, stellten aber die Nutzerkontrolle über die historische Gefährdung nicht wieder her. Die FTC-Facebook-Anordnung befasste sich mit der Plattform-Governance für die Zukunft. Die ICO-Geldbuße verhängte die maximal verfügbare Strafe nach dem relevanten alten Recht. Der kanadische Bericht dokumentierte erhebliche Versäumnisse. Zivilprozesse fügten einen weiteren öffentlichen Rechenschaftskanal hinzu, einschließlich der Website für den Datenschutz-Vergleich unterhttps://www.facebookuserprivacysettlement.com/und dem Bundesgerichtsdossier für In re Facebook, Inc. Consumer Privacy User Profile Litigation unterhttps://www.cand.uscourts.gov/judges/chhabria-vince-vc/in-re-facebook-inc-consumer-privacy-user-profile-litigation-mdl-no-2843/. Vergleichsprozesse sind nicht dasselbe wie Feststellungen nach einem Verfahren, aber sie zeigen, wie Nutzeransprüche in einen Entschädigungs- und Freistellungsrahmen überführt wurden.
Die Löschungslektion gilt über Facebook hinaus. Jede Plattform, die Dritt-Apps die Erfassung personenbezogener Daten erlaubt, muss entscheiden, was passiert, wenn die App die Autorisierung verliert, gegen die Richtlinie verstößt oder ihren Zweck ändert. Erhält die Plattform maschinenlesbare Löschungsnachweise? Prüft sie risikoreiche Entwickler? Überprüft sie Datenflüsse, bevor sie breite Berechtigungen gewährt? Überwacht sie das Extraktionsvolumen? Hat sie vertragliche Rechte, nachgelagerte Systeme zu überprüfen? Benachrichtigt sie Nutzer, wenn die Löschung nicht überprüft werden kann?
Unterscheidet sie gewöhnliche Entwicklerfehler von Datenübertragungen mit zivilrechtlichem Risiko? Cambridge Analytica zeigte die Kosten, diese Fragen im Nachhinein zu beantworten.
Die öffentlichen Beweise stützen eine evidenzbasierte Schlussfolgerung: Die frühere Durchsetzung von Facebook verließ sich zu stark auf Zusicherungen nach der Datenbewegung und nicht genug auf überprüfbare Datenverwendungskontrollen vor oder während des Zugriffs. Diese Schlussfolgerung stützt sich auf die Unternehmensaussagen und Regulierungsaufzeichnungen. Sie sollte nicht auf Behauptungen über jede App oder jeden Facebook-Mitarbeiter ausgedehnt werden. Der Punkt ist systemisch: Plattformdaten-Governance versagt, wenn die Richtlinie als Dokument und nicht als durchsetzbarer Kontrollkreislauf behandelt wird.
Nutzung politischer Daten machte Plattformrisiko zu einem Risiko des öffentlichen Sektors
Cambridge Analytica war wichtig, weil der Datenpfad sich mit politischer Kampagnenführung und öffentlicher Debatte überschnitt. Ein kommerzieller App-Missbrauchsfall kann Verbraucher schädigen; ein Fall von Missbrauch politischer Daten kann auch das demokratische Vertrauen beeinträchtigen. Der Bericht des britischen Parlaments behandelte datengesteuerte Kampagnenführung, Plattformverantwortung und Desinformation als verbundene Probleme. Das breitere Untersuchungsupdate des ICO unterhttps://ico.org.uk/media/action-weve-taken/2260271/investigation-into-data-analytics-for-political-purposes-update.pdfordnete die Facebook-Angelegenheit in eine breitere Untersuchung von Datenanalysen für politische Zwecke ein. Diese Quellen beweisen nicht jede öffentliche Behauptung über Wahlergebnisse. Sie zeigen, dass demokratische Institutionen undurchsichtige politische Datenflüsse als Aufsichtsproblem betrachteten.
Die Unterscheidung ist wichtig. Es ist leicht, den nachgewiesenen Einfluss von Cambridge Analytica auf Wahlergebnisse zu übertreiben. Öffentliche Beweise erlauben keine saubere kausale Behauptung, dass die Datenübertragung ein bestimmtes Wahlergebnis verändert hat. Der Rechenschaftsfall benötigt diese Behauptung nicht. Ein Plattformdatensystem kann unverantwortlich sein, selbst wenn die Wirksamkeit der nachgelagerten Überzeugung unsicher ist.
Das Kontrollversagen besteht darin, dass politische Akteure Vorteile aus Daten suchen konnten, deren Erfassung, Einwilligung, Weiterleitung und Löschungsstatus für die von den Daten beschriebenen Personen nicht transparent waren.
Das Risiko politischer Daten verändert auch das Schadensmodell. Wenn ein Nutzer eine manipulative Anzeige erhält, einer modellierten Zielgruppe zugeordnet oder von einer Kampagnennachricht ausgeschlossen wird, kann der Nutzer dies nie erfahren. Wenn eine Kampagne eine Strategie mit unangemessen erlangten Daten aufbaut, können Außenstehende möglicherweise die Wirkung der Daten von Nachrichten, Medienkäufen, Feldoperationen, Wählerdateien oder dem breiteren politischen Klima nicht trennen. Die Undurchsichtigkeit selbst ist Teil des Rechenschaftsproblems.
Die Kontinuität des öffentlichen Sektors hängt davon ab, dass Institutionen die Infrastruktur, die die politische Kommunikation prägt, überprüfen und anfechten können.
Facebook schuf später mehr Transparenzwerkzeuge für politische Anzeigen und verhängte mehr Einschränkungen, aber der Cambridge-Analytica-Fall bleibt eine Baseline, weil er die Lücke zwischen Plattformumfang und öffentlicher Aufsicht aufdeckte. Regulierungsbehörden können im Nachhinein bestrafen. Gesetzgebungen können Anhörungen abhalten. Journalisten können investigativ arbeiten. Nutzer können klagen. Aber keiner dieser Mechanismen funktioniert so sauber wie Plattformkontrollen, die risikoreiche Datenextraktion verhindern, bevor sie anderswo politisch nützlich wird.
Der Fall gehört daher sowohl zur Kontinuität des öffentlichen Sektors als auch zur Datensouveränität. Eine globale Social-Media-Plattform ist keine Regierungsbehörde, kann aber die Informationsumgebung prägen, in der öffentliche Institutionen arbeiten. Wenn ihre App-Regeln versagen, können die Folgen das bürgerliche Vertrauen erreichen. Das bedeutet nicht, dass jeder Plattformvorfall ein Staatsversagen ist. Es bedeutet, dass Plattformbetreiber bestimmte Berechtigungen, insbesondere solche, die soziale Graphen und politische Analysen betreffen, als Risiken der Infrastrukturebene behandeln sollten.
Was sich änderte und welche Beweise noch wichtig sind
Die Veränderungen von Facebook nach dem Skandal umfassten Einschränkungen des Entwicklerzugriffs, Nutzerhinweise, Änderungen der App-Überprüfung, Datenschutzprogrammverpflichtungen und öffentliche Zusicherungen der Führung. Die vorbereitete Aussage von Mark Zuckerberg und die Seite des Anhörungstranskripts unterhttps://about.fb.com/news/2018/04/transcript-of-zuckerbergs-senate-hearing/ist relevant, weil sie zeigt, wie das Unternehmen den Fall gegenüber gewählten Amtsträgern als Verantwortungsversagen darstellte, das Produkt- und Governance-Änderungen erforderte. Die FTC-Anordnung wandelte dann einige Zusicherungen in durchsetzbare Verpflichtungen um. Der Unterschied zwischen freiwilligem Versprechen und durchsetzbarer Anordnung ist zentral. Öffentliche Entschuldigung kann Rechenschaftspflicht beginnen, aber dauerhafte Rechenschaftspflicht erfordert Prüfung, Berichterstattung, Überprüfung und Konsequenzen.
Die Beweise, die nach Cambridge Analytica zu beobachten sind, sind nicht nur, ob sich ein ähnlicher Skandal wiederholt. Es ist, ob risikoreiche Datenflüsse vor dem Skandal reguliert werden. Eine ernsthafte Plattform sollte in der Lage sein zu beantworten: Welche Berechtigungen legen Freunde oder soziale Graphen offen; welche Apps erhalten sensible Datenkombinationen; welche Entwickler haben politische, Makler-, Analyse- oder Profiling-Zwecke; welche Daten verlassen die Plattform; welche Löschungsnachweise existieren; welche Nutzerbenachrichtigungsschwelle gilt; und welche Führungskräfte bescheinigen, dass das Kontrollsystem funktioniert.
Dies sind Governance-Fragen, keine PR-Fragen.
Ein weiterer Beobachtungspunkt ist, ob die Nutzereinstellungen echte Kontrolle widerspiegeln. Ein Datenschutz-Dashboard kann Menschen Entscheidungen geben, aber wenn diese Entscheidungen die Weiterleitung an Dritte durch die App eines anderen Nutzers nicht verhindern können, kann das Dashboard die Kontrolle überschätzen. Eine Plattform sollte zwischen Einstellungen unterscheiden, die die direkte Sichtbarkeit steuern, und Einstellungen, die die API-Bewegung steuern, und Einstellungen, die nur den zukünftigen Zugriff betreffen.
Cambridge Analytica zeigte, dass Nutzer klare Antworten darauf brauchen, was die Plattform noch durchsetzen kann, nachdem Daten die Plattform verlassen haben.
Regulatorische Koordination ist ebenfalls wichtig. Die FTC, SEC, ICO, kanadischen Behörden, das britische Parlament und die Gerichte berührten jeweils verschiedene Teile der Episode. Fragmentierung kann Lücken schaffen, wenn Datenschutz, Wertpapieroffenlegung, Wahlaufsicht, Verbraucherschutz und Zivilprozesse isoliert voneinander ablaufen. Der Fall zeigt, warum große Plattformvorfälle einer bereichsübergreifenden Rechenschaftspflicht bedürfen.
Ein Datenevidenz kann gleichzeitig ein Verbraucherschutzproblem, ein Datenschutzproblem, ein Wertpapieroffenlegungsproblem, ein Problem der politischen Transparenz und ein privates Rechtsstreitproblem sein.
Die öffentliche Aufzeichnung lässt immer noch offene Fragen. Sie zeigt nicht vollständig, wie alle betroffenen Daten verwendet wurden, ob alles abgeleitete Material gelöscht wurde, wie jeder nachgelagerte Empfänger die Daten handhabte, welche internen Risikosignale vor 2015 existierten oder wie jedes Team das Problem vor 2018 verstand. Diese Unbekannten sollten nicht mit unbegründeter Sicherheit gefüllt werden. Sie sollten als Gründe für stärkere Beweispflichten behandelt werden. Wenn eine Plattform die Eindämmung nicht zeigen kann, sollte die Beweislast nicht bei den Nutzern liegen, nachzuweisen, wohin ihre Daten gingen.
Es gibt auch eine Beschaffungslektion für Institutionen, die Social-Media-Plattformen für Öffentlichkeitsarbeit, Werbung, Kommunikation mit Wählern oder Forschung nutzen. Öffentliche Behörden, Universitäten, Wohltätigkeitsorganisationen, Medienorganisationen und Kampagnen behandeln Plattformwerkzeuge oft als Zielgruppeninfrastruktur. Sie kaufen möglicherweise Anzeigen, betreiben Seiten, autorisieren Apps, betten Teilen-Werkzeuge ein oder nutzen Analysen, ohne direkte Macht über die Plattformdurchsetzung zu haben.
Cambridge Analytica zeigte, dass institutionelle Nutzer fragen sollten, ob die Plattform risikoreichen Datenzugriff, Sicherungen für politische Segmente, App-Überprüfungseskalation, Prüfungsrechte, Löschungsüberprüfung und Nutzerbenachrichtigungsschwellen dokumentieren kann. Diese Fragen sind nicht nur für Datenschutzbeauftragte. Sie gehören in die Beschaffung, Kampagnen-Compliance, Informationssicherheit, öffentliche Kommunikation und Vorstandsaufsicht.
Die gleiche Lektion gilt für Entwickler. Ein gesundes App-Ökosystem benötigt nützlichen Zugriff, aber nützlicher Zugriff sollte nach Risiko abgestuft sein. Integrationen mit geringem Risiko können einer leichteren Überprüfung folgen. Apps, die soziale Graphen, Freundes-, Profil-, politische, demografische oder Verhaltensdaten anfordern, benötigen stärkere Zweckbindungs-, Protokollierungs- und Widerrufspflichten. Entwickler sollten wissen, dass Zugriff bedingt ist und dass späterer Missbrauch Beweisanforderungen auslösen kann, nicht nur die Kontosperrung.
Plattformen sollten genug über diese Pflichten veröffentlichen, damit legitime Entwickler die Regeln verstehen und Nutzer verstehen, warum eine Berechtigungsanfrage sensibel ist. Geheimhaltung um das Durchsetzungsmodell kann Angreifer schützen, aber totale Undurchsichtigkeit kann auch das öffentliche Vertrauen schwächen.
Für Nutzer ist der Fall eine Erinnerung daran, dass Oberflächenkontrolle und Datenkontrolle nicht dasselbe sind. Ein Nutzer kann eine App entfernen, eine Einstellung ändern oder ein Konto schließen, aber diese Aktionen können möglicherweise bereits in ein anderes System exportierte Daten nicht zurückholen. Das macht Nutzeraktionen nicht sinnlos. Es bedeutet, dass nutzerseitige Kontrollen mit plattformseitigen Garantien für zukünftigen Zugriff, historischen Export, Löschung und Benachrichtigung gekoppelt werden müssen.
Eine Datenschutzeinstellung sollte sagen, was sie verhindern kann, was sie nicht rückgängig machen kann und wann die Plattform die Menschen informieren wird, dass eine Drittgrenze versagt hat.
Der Rechenschaftsstandard ist durchsetzbare Einwilligung
Der endgültige Rechenschaftsstandard ist durchsetzbare Einwilligung. Einwilligung ist nicht durchsetzbar, wenn Nutzer nicht wissen, was die Plattform verlässt, wenn Freunde sie ohne appspezifische Wahl gefährden können, wenn Entwickler Daten ohne rechtzeitige Erkennung umwidmen oder weitergeben können, wenn Löschungsversprechen die Überprüfung ersetzen, wenn bekannter Missbrauch nicht klar offengelegt wird und wenn die Nutzung politischer Daten erst nach journalistischer und regulatorischer Maßnahme überprüft wird. Durchsetzbare Einwilligung erfordert ein Berechtigungssystem, das geprüft, eingeschränkt, widerrufen und erklärt werden kann.
Bestätigte Fakten stützen diesen Standard. Öffentliche Aufzeichnungen bestätigen den App-Datenpfad, die Sperrungsmitteilung von Facebook, die Schätzung von bis zu 87 Millionen betroffenen Personen, die FTC-Strafe und -Anordnung, den SEC-Offenlegungsvergleich, die ICO-Geldbuße, die kanadischen Datenschutzfeststellungen, die parlamentarische Prüfung und die Zivilprozessvergleichsprozesse. Evidenzgestützte Schlussfolgerung stützt eine breitere Governance-Schlussfolgerung: Die Plattformkontrollen von Facebook entsprachen nicht den bürgerlichen und datenschutzrechtlichen Risiken der Datenflüsse, die die Plattform ermöglichte.
Unbekannt bleiben die vollständige nachgelagerte Nutzung, interne Überlegungen und Schäden auf individueller Ebene.
Verantwortung sollte der praktischen Kontrolle folgen. Facebook kontrollierte die Plattformarchitektur und das Durchsetzungsmodell. Entwickler kontrollierten ihre Apps und die Einhaltung der Bedingungen. Politische Datenfirmen und Kampagnen kontrollierten ihre Beschaffung und Nutzung von Analysediensten. Regulierungsbehörden kontrollierten die nachträgliche Durchsetzung. Nutzer kontrollierten nur enge Wahlmöglichkeiten, und manchmal nicht einmal diese, wenn der Zugriff auf Freundesdaten involviert war. Diese Karte ist der Grund, warum Cambridge Analytica auch Jahre nach den ersten Schlagzeilen ein lebendiger Rechenschaftsfall bleibt.
Die breitere Lektion für Cloud- und Plattform-Governance ist einfach, aber anspruchsvoll: Datenzugriffsregeln müssen als betriebliche Kontrollen gebaut werden, nicht als Reputationssprache. Eine Plattform sollte davon ausgehen, dass die Wiederherstellung unsicher wird und das öffentliche Vertrauen schwerer wiederherzustellen ist, sobald Daten ihre Grenze verlassen. Die sicherere Kontrolle ist Prävention durch Minimierung, Zweckprüfung, enge Berechtigungen, Entwicklerüberprüfung, Überwachung anomalen Zugriffs, schnelle Sperrung, überprüfte Löschung und Benachrichtigung der Nutzer, wenn die Eindämmung unsicher ist.
Die Cambridge-Analytica-Aufzeichnung von Facebook gehört daher in eine Risikoakte, nicht weil sie jede politische Frage beantwortet, sondern weil sie die richtige Infrastrukturfrage stellt. Wenn eine private Plattform zum Gatekeeper für Identität, soziale Graphen, Werbung, politische Kommunikation und den Zugriff Dritter wird, ist ihr Berechtigungssystem nicht mehr nur ein Produktmerkmal. Es ist eine öffentliche Rechenschaftsoberfläche. Der Test ist, ob die Plattform beweisen kann, dass Einwilligung, Durchsetzung, Löschung, Offenlegung und Abhilfe funktionieren, bevor Außenstehende die Aufzeichnung aufzwingen.

