SmartCheck für nachhaltige Apps – Fallbeispiel „Schutzranzen” für Kinder

von Saskia Dörr | 21. März 2019 | Nachhaltige Digitalisierung

von Saskia Dörr & Damian Padarta

Um gigantische 62 Mrd.$ schrumpfte der Börsenwert von Facebook binnen weniger Tage im Datenskandal um „Cambridge Analytica” im März 2018.[1] Zum Vergleich: Das entspricht etwa zwei Drittel der gesamten Marktkapitalisierung von VW.[2] Dieser Fall macht deutlich, daß Unternehmen gefordert sind, Maßnahmen zum Schutz ihrer Reputation und Unternehmenswerte auch in Bezug auf digitale Geschäftsaktivitäten zu verfolgen.

„Digital Responsibility” bietet Unternehmen Chancen

Neben der Chance, die Digitaltechnologie für eine nachhaltige Entwicklung bietet[3], bestehen heute bereits eine Reihe gesellschaftlicher „Nebenwirkungen”: Eine neue Kluft digitaler Fähigkeiten innerhalb der Gesellschaft, die unethische und nicht legitimierte Nutzung von Kundendaten, der ökologischer Fußabdruck der Digitaltechnik, der ungleiche Zugang zu Digitaltechnologie und ihren Vorteilen sowie der Druck auf die Gemeinschaft und das Wohlbefinden des Einzelnen.[4][5]

Unternehmen werden sich mehr und mehr ihrer Verantwortung für eine nachhaltige Umsetzung der Digitalisierung bewusst. Bereits 98 % aller Führungskräfte denken, dass das „Internet der Dinge” zu einer nachhaltigen Zukunft beiträgt, aber bisher handelt nur die Hälfte danach, so eine britische Studie.[6] Ziel ist das Vertrauen von Kunden und anderer Stakeholder sowie eine zukunftsfähige Positionierung im Wettbewerb.

Ob zur Vermeidung von Risiken oder Nutzung von Chancen: ein systematisches Management von „Digital Responsibility” stiftet einen Mehrwert für Unternehmen.

Im Innovationsprozess Win-Win-Situationen erkennen

Bei einem nachhaltig-orientierten Innovationsprozess gilt es, die – kritischen – Perspektiven unterschiedlicher Stakeholder (deutsch: Anspruchsgruppen) „einzufangen”. Um die Chance auf Erfolg zu steigern, ist es Ziel so viele Win-Win-Situationen wie möglich mit unterschiedlichen Stakeholdern herzustellen.[7]

Für einen solchen Prozess bestehen jedoch zahlreiche Hemmnisse in der Unternehmenspraxis, wie z.B. Ressourcen- und Zeitaufwand, verfügbare Kommunikationskompetenzen oder Schutz von Intellectual Property. Innovation im Digitalzeitalter ist zudem von Unsicherheit, Vieldeutigkeit und Dynamik geprägt. Neue Lösungswege müssen entwickelt werden.

Um die Hemmnisse zu überwinden und dennoch die Perspektiven unterschiedlicher Stakeholder im frühen Designprozess berücksichtigen zu können, schlagen wir einen SmartCheck für Nachhaltigkeit von digitalen Services und Produkten vor. Mit dem SmartCheck können in einem frühen Entwicklungsprozess die Punkte identifiziert werden, die die Kooperationsbereitschaft gesellschaftlicher Stakeholder mit der digitalen Anwendung oder einen Reputationsverlust riskieren. Ziel sind digitale Anwendungen „sustainable-by-design”.

Unsere grundlegende Annahme ist es, dass digitale Anwendungen entwickelt werden können, die sowohl für Unternehmen als auch für die Gesellschaft wertstiftend sind und sich diese Ziele nicht gegenseitig ausschließen. Zudem gehen wird nicht davon aus, dass digitale Anwendungen nur eine positive oder nur eine negative Nachhaltigkeitswirkung haben – vielmehr gehen wir von einer Mischung von beidem aus. Ein „Sustainable Design” strebt nach einem positiven Nettoeffekt.

SmartCheck unterstützt beim „Sustainable Design” von Apps

Der SmartCheck für Nachhaltigkeit kann sinnvoll in nachhaltigkeitsorientierten Unternehmen und Organisationen eingesetzt werden, die an der Entwicklung oder Anwendung von digitalen Vernetzungslösungen im Bereich „Internet der Dinge” (Internet of Things, IoT) im Business-to-Consumer-Segment beteiligt sind (z.B. Smart City, Smart Building, Smart Clothes). Konkrete Einsatzbereiche finden sich in FuE, Produkt- und Innovationsabteilungen, Marketing sowie Einkauf und Anforderungsmanagement.

Grundlage bildet die Stakeholder-Theorie von Freeman, die als eine der einflussreichsten Ansätze des Nachhaltigkeitsmanagements das komplexe Zusammenspiel gesellschaftlicher Akteure adressiert.[8]

Seele (2017) schlägt vor, diesen Ansatz auch auf die Verantwortung von Akteuren für eine (zukünftige) Nachhaltigkeit im Digitalzeitalter anzuwenden.[9]  

Für die Entwicklung des SmartChecks für Nachhaltigkeit haben wir zunächst bestehende Ansprüche gesellschaftlicher Stakeholder z.B. Bürger, Kunden, Beschäftigten, Unternehmern, NGOs und Regulierer, an digitalen Produkten und Services sowohl in Bezug auf Chancen als auch Risiken mittels Literaturrecherche gesammelt.[10] Sie wurden durch einen nicht-systematisierten Dialog der beiden Autoren mit Vertretern der gesellschaftlichen Gruppen ergänzt und in einer aktuell ca. 95 Variablen umfassenden Sammlung zusammengestellt.

Die gesellschaftlichen Akteure wurden nach der Systematisierung des „Leitfadens zur gesellschaftlichen Verantwortung von Organisationen“ – der DIN-ISO-26000-Norm – zugeordnet. Diese sind: Konsumentenanliegen, faire Betriebs- und Geschäftspraktiken, Arbeitspraktiken, Menschenrechte, Umwelt, Einbindung und Entwicklung der Gemeinschaft und Organisationsführung.[11]

So entstand ein umfangreiches Raster an möglichen Ansprüchen unterschiedlicher Stakeholder, das in der Entwicklung digital-vernetzter Produkte und Services eingesetzt werden kann. Für jede Anwendung ist die Betroffenheit der Ansprüche und die Bedeutung für die Umsetzung einzuschätzen. In der Ergebnisdarstellung stellen wir jeden Anspruch als Handlungsfeld mit einer „Bubble” dar (vgl. Abb. 1).

Hier zeigt sich einer der Mehrwerte des SmartChecks: die Einschätzung kann aufgrund der umfangreichen Vorarbeiten mit begrenztem Aufwand von den Projektbeteiligten durchgeführt werden. Auf Basis der Prioritäten können Empfehlungen zur weiteren fokussierten Untersuchungen erfolgen. Für eine weitergehende Nutzung im Rahmen von sozialer oder unternehmensinterner Innovation wurden zu jedem der ca. 95 Ansprüche Fragen entwickelt, die den Prozess der Lösungsentwicklung befördern. Dieser Ansatz folgt dem Konzept der menschzentrierten Entwicklung im Design Thinking.[12] Es ist geplant, den methodischen Ansatz praktisch und theoretisch weiter zu entwickeln.

Mit Vernetzung von Schulranzen Kinder im Verkehr schützen?

Um die Anwendung deutlich zu machen, wendeten wir den SmartCheck für Nachhaltigkeit beispielhaft auf ein medial gut zugängliches IoT-Projekt, den „Schutzranzen”, an. Es ist eines von vielen Iot-Projekten, die aktuell in Deutschland und weltweit in einem Markttest durchgeführt werden. Der IoT-Markt ist einer der großen Wachstumsmärkte der Digitalisierung. Laut einer Prognose von Growth Enabler wird er bis 2020 um 28,5 % auf 457 Milliarden Dollar anwachsen. Treiber für Erfolg in diesem Markt ist die Reduzierung von Betriebskosten, die Erhöhung der Produktivität, eine Entwicklung neuer Produkte sowie Erschließung neuer Märkte.[13]

Unternehmen, die an diesem Wachstum partizipieren wollen, führen daher Pilotprojekte durch, um ein entsprechendes Know-How aufzubauen und Prozesse und Abläufe zu optimieren.

Das Projekt „Schutzranzen”[14] erprobt ein IT-System, das Schulkinder vor Verkehrsunfällen schützen soll. Schutzranzen verspricht, schützenswerte Verkehrsteilnehmer für Autofahrer frühzeitig sichtbar zu machen und zu helfen, Unfälle zu vermeiden. Die App ermöglicht den Autofahrern Kinder wahrzunehmen, bevor diese überhaupt in das Blickfeld des Fahrers kommen. Damit soll die Zahl der Unfälle mit Kindern deutlich reduziert werden.

Umgesetzt wird das Projekt von der Firma Coodriver GmbH, die ebenfalls für den Vertrieb zuständig ist, in Kooperation mit der Volkswagen AG. Sponsoren waren der Sportausrüster Uvex und der AvD Automobilclub von Deutschland. Die Coodriver GmbH ist laut eigenen Angaben ein deutsches Start-up-Unternehmen, das sich zum Ziel gesetzt hat, mit innovativen Technologien die Sicherheit von Kindern im Straßenverkehr zu erhöhen. Aufgrund des Nachhaltigkeitsengagements der VW AG und Uvex Group gehen wir davon aus, dass ein „Sustainability-by-Design” der Anwendung im Unternehmensinteresse wäre.[15]

Kern des Konzeptes sind zwei Smartphone-Applikationen die Kinder „tracken” (dt. verfolgen), in der Nähe befindliche Verkehrsteilnehmer warnen und Eltern die Möglichkeit der Ortung geben. Kinder werden per GPS überwacht und ihre Position an Autofahrer geschickt, um ein Warnsystem aufzubauen.

So funktioniert die „Schutzranzen-App” für Eltern und Autofahrer

Kinder senden mit der „Schutzranzen für Ihre Kinder“- App oder dem GPS -Tracker ein Positions- und Bewegungssignal. Ein Server berechnet die Bewegungsrichtungen beider Verkehrsteilnehmer und warnt den Autofahrer sowohl optisch als auch akustisch, wenn ein definierter Sicherheitsabstand unterschritten wird. Der Autofahrer soll, bevor er die Kinder überhaupt sieht, eine Warnung bekommen. Die Autofahrer-Funktion der App warnt den Autofahrer, sobald ein kritischer Abstand zur Position der Kinder unterschritten wird. Der Autofahrer soll in dieser Zeit seine Aufmerksamkeit erhöhen und sein Fahrverhalten anpassen. Die Autofahrer-Funktion zeigt die aktuell gefahrene Geschwindigkeit an und warnt in der Nähe von Grundschulen mit einem akustischen und visuellen Signal, wenn 30 km/h überschritten werden. Besonders in Situation in denen sich Kinder hinter anderen parkenden PKW aufhalten und für den Fahrer unvorhersehbar die Straße überqueren, soll die Anwendung wirksam sein. Laut Angaben der Hersteller wurden 16.000 Grundschulen kartiert und mit sogenannten „Schutzzonen” versehen in denen die App zum Tragen kommt. Die Schutzranzen-App ist kostenfrei.

Mit der Eltern-Funktion können Eltern Nachrichten der Kinder empfangen oder die Position des Kindes abfragen. Die Sichtbarkeit der Kinder-App für die Eltern ist nach der Installation nicht angeschaltet und die Eltern können das Kind nicht lokalisieren. Die Kinder müssen dazu die Funktion selbst anschalten und können sie jederzeit wieder ausschalten.

So funktioniert die „Schutzranzen-App” für Kinder

Per „Notfalltaste“ haben Kinder die Möglichkeit eine SOS-Nachricht an ausgewählte Personen zu schicken. Eltern erhalten dann die Positionsdaten ihres Kindes. Nachdem eine Position von Tracker oder Kinder-App vom Server empfangen wurde, wird sie dafür verwendet, alle Sektoren, die sie beinhaltet, als aktiv zu markieren oder deren Zeitschaltuhr neu zu starten. Danach wird die Position der Kinder-App verworfen und gelöscht. Falls die Position von einem Tracker gesendet wurde, wird sie als letzte Bekannte Position gespeichert. Dies ist notwendig, um die Lokalisierungsfunktion zu nutzen. Es wird aber immer nur die letzte Position gespeichert.

Die Kinder-Funktion soll Kinder im Straßenverkehr sichtbar machen – Voraussetzung ist die Installation und der Betrieb der „Schutzranzen für Eltern & Autofahrer“ bei den übrigen Verkehrsteilnehmern. Für Kinder ohne Smartphone bietet das Schutzranzen – Projekt weiterhin die Möglichkeit einen GPS-Tracker („Schutzranzen GPS Tracker“) gegen eine jährliche Gebühr zu leihen.

Das „Schutzranzen”-Projekt ruft kritische Stakeholder auf den Plan

Das „Schutzranzen”-Projekt von einer Reihe Stakeholder kritisiert. Beteiligt waren die Bürgerrechtsorganisationen Digitalcourage^[16] und Digitale Gesellschaft^[17], der Kinderschutzbund sowie die Datenschutzbeauftragten von Niedersachsen^[18] und Baden-Württemberg^[19] (der Länder, in denen das Projekt durchgeführt wurden), die sich der Meinung der Bürgerrechtsorganisationen anschlossen. Die Kritik betraf Aspekte des Datenschutzes, Einschränkungen der Persönlichkeitsrechte des Kindes, die tatsächliche Wirksamkeit sowie die Praxistauglichkeit der Anwendungen. Ziel von einiger Kritiker der Stopp des Projekts.

Folgende Punkte wurden bemängelt:

• Kritiker warnen vor Überwachung von Kindern durch ihre Eltern und befürchten, dass sich Autofahrer zu sehr auf die Technik verließen. Die GPS-gestützte Überwachung von Grundschulkindern sei laut Digitalcourage e.V. nicht geeignet, die Verkehrssicherheit zu erhöhen.^[20] Vielmehr könne ein falsches Sicherheitsgefühl zu gegenteiligen Effekten führen: zu nachlassender Aufmerksamkeit der Autofahrer. Gewöhnungseffekte würden die Warnungen unbrauchbar machen. Ein Autofahrer, der täglich an einer Zone vorbeifährt, in der sich digital-überwachte Kinder aufhalten, würde die Warnungen der App nach kurzer Zeit nicht mehr wahrnehmen.
• Des Weiteren wird bemängelt, dass vorab keine unabhängigen Studien zum möglichen Nutzen und zu möglichen Gefahren des Kinder-Trackings eingeholt worden waren. Ein softwareseitiger Fehler, ein Hacking-Angriff oder ein hängengebliebenes Smartphone würden den „Schutzranzen“ sofort funktionslos machen, ohne dass die Teilnehmer dies in der kritischen Zeit merken würden.
• Kritisiert wird zudem, dass man mit der App dem Datenhandel Vorschub leiste. Coodriver GmbH behauptet, dass weder personenbezogene Kinderdaten gespeichert, noch Nutzerprofile erstellt würden.^[21] Die Daten seien anonym, würden nach einem Tag gelöscht und seien nicht zurückverfolgbar. Digitalcourage dagegen behauptet nachweisen zu können, dass Daten an Google, Microsoft, Akamai, Amazon und 1&1 übertragen wurden. Die Autofahrer-App kontaktiere zudem Facebook.^[22] Der Betreiber hat hierzu eine Stellungnahme zu den Vorwürfen abgegeben, in dem er betont keine persönliche Daten an andere Dienste weiterzugeben. Andere sicherheitskritische Fehler wurden eingeräumt.[23]
• Ein weiterer Vorwurf betrifft die generelle Anwendung solcher Überwachungs- und Alarmierungsmöglichkeiten: Anbieter von Ortungs-Apps appellierten an die Urangst der Eltern. Nach Ansicht des Kinderschutzbundes tragen solche Apps nicht zur Sicherheit bei, sondern erzeugen im Gegenteil eine Atmosphäre der Angst. Demnach vermitteln Eltern ihren Kindern damit das Gefühl, in einer besonders gefährlichen Welt zu leben, die ständige Kontrolle erfordert – was nicht der Realität entspricht.[24] Stattdessen sollten die Kinder zu selbstständigen Persönlichkeiten erzogen werden.[25]

Nach Auseinandersetzungen mit dem Verein Zivilcourage und Datenschutzbeauftragten wurde die Tracking-Funktion der Kinder aus dem Angebot herausgenommen.^[26] In Niedersachsen wird das Projekt nicht mehr verfolgt – in Ludwigsburg wird offenbar weiter an dem Vorhaben festgehalten, nachdem zahlreiche Änderungen an der Software durchgeführt wurden.[27]

Wir gehen davon aus, dass die Kritik am Schutzranzen-Projekt durch einen „Sustainability-by-Design”-Ansatz, z.B. durch den SmartCheck für Nachhaltigkeit, hätte verhindert werden können.

Für die Erstnutzer hätte sich damit die Chance für einen echten Mehrwert durch Erprobung der Pilotanwendung ergeben. So waren sie eher „Versuchskaninchen” einer im Nachhaltigkeitssinne nicht durchdachten Lösung. Die Chance in einem frühen Entwicklungsstadium von IoT zu gesellschaftlich akzeptierten Lösungen zu gelangen, blieb ungenutzt.

Im SmartCheck des „Schutzranzen” zeigen sich die Risiken für die Kooperationsbereitschaft von Stakeholdern

Im Folgenden wird das Analyseergebnis des SmartChecks für Nachhaltigkeit des „Schutzranzen”-Projekts zusammenfassend dargestellt. Zur Bewertung wurden im April-Mai 2018 öffentlich zugänglichen Quellen herangezogen (siehe Abschnitt „Gesellschaftliche Resonanz”). Es handelt sich also um eine hinlängliche aber gegebenenfalls auch verzerrte Bewertung aufgrund fehlender Informationen. Aufgrund der Anpassungen im Projekt ist das Bewertungsergebnis abhängig vom Analysezeitpunkt.

In Abbildung 1 ist das Ergebnis des SmartChecks des „Schutzranzen”-Projekts grafisch dargestellt. Von den über 95 Ansprüchen und Fragensets, die zur Verfügung stehen, sind beim „Schutzranzen”-Projekt nur 41 relevant. Nur diese werden in Abbildung 1 dargestellt.

Jede „Bubble” entspricht einem Anspruch eines Stakeholders und damit einem potenziellen Handlungsfeld. Wenn eine Win-Win-Situation aus Ansprüchen und der Umsetzung in der digitalen Anwendung entsteht, wird die „Bubble” grün dargestellt. Eine Win-Loose-Situation, in der Ansprüche nicht getroffen werden, zeigt die „Bubble” in Rot. Wenn ein Anspruch sowohl in einem Aspekt nicht getroffen wird, in einem anderen jedoch schon, wird die „Bubble” rot-grün eingefärbt. Je bedeutender ein Handlungsfeld für die digitale Anwendung, umso größer wird die „Bubble” dargestellt. (Zu den Details siehe Legende in Abb. 1).

Die am meisten betroffenen Handlungsfelder finden sich bei Konsumentenanliegen, Organisationsführung und Menschenrechten. Dort finden sich Ansprüche, die von der digitalen Anwendung positiv („grün”), negativ („rot”) oder neutral („gelb”) betroffen sind. Ansprüche zur Einbindung und Entwicklung der Gemeinschaft sind positiv betroffen. Die Ansprüche zu fairen Betriebs- und Geschäftspraktiken, Umwelt und Arbeitspraktiken sind weniger bedeutend.

Vertieft wird an dieser Stelle nur auf Ansprüche eingegangen, die nach unserer Einschätzung für das Projekt sehr relevant und entweder positiv oder negativ betroffen sind. Dies zeigt sich in Abbildung 1 in „großen” sowie in vollständig oder teilweise roten oder grünen „Bubbles”. Im Folgenden werden die Ansprüche dargestellt und der Hintergrund für die Bewertung erläutert.

Abbildung 5: Das „Schutzranzen”-Projekt im SmartCheck für Nachhaltigkeit: Ergebnisdarstellung (Quelle: eigene Darstellung).

Konsumentenanliegen

Die besonderen Beziehungen innerhalb der Triade „Verkehrsteilnehmer- Eltern-Kind” macht eine genauere Unterscheidung der Konsumenten notwendig. Eltern und Kinder stehen in einer besonderen, emotionalen Beziehung gegenseitiger Abhängigkeit. Da davon ausgegangen werden kann, dass nur Eltern und Verkehrsteilnehmer als Kunden in Betracht kommen, werden Kinder nur in den Kreis der Nutzer aufgenommen. Es gilt drei Nutzergruppen zu unterscheiden: Die Eltern, die Kinder und die Verkehrsteilnehmer. Diese Nutzergruppen befinden sich in unterschiedlichen Beziehungen zueinander und sind mit verschiedenen Anwendungsmöglichkeiten der Software ausgestattet.

Digitale Selbstbestimmung und digitale Souveränität

Das Projekt bietet den Nutzern keinen Zugriff oder Manipulationen der eigenen Daten, wie z. B. Ortungsprofile. Es bietet weder eine Einflussmöglichkeit auf die Speicherung der Daten, noch besteht eine Möglichkeit, diese zu portieren oder endgültig zu löschen. Das Besitzverhältnis der Daten bleibt für den Verbraucher weitgehend ungeklärt. Die Bestimmungsgewalt darüber, was mit den „eigenen“ Daten geschieht, ist demnach nicht gegeben.

Klare Grenzen der Verbraucherhaftung und -verantwortung für komplexe internationale digitale Anwendungen

Es ist für den Verbraucher (in diesem Fall die Eltern und Autofahrer) unklar, wer für folgende Szenarien bei einem Verkehrsunfall verantwortlich gemacht werden kann:

• Was passiert bei einem Ausfall der GPS-Verbindung bei der Kinder-App – und wenn keine Ortung des Kindes mehr möglich ist?
• Was passiert bei einem Ausfall der Server beim Anbieter?
• Was passiert, wenn die Verkehrsteilnehmer trotz laufender App an einen Unfall beteiligt sind?

Neue Anwendungen stellen Menschen in neue Beziehungsstrukturen und werfen neue, teils fundamentale Fragen auf. Produktanbieter sind in der Verantwortung Unsicherheiten, die durch nicht gekannte Szenarien entstehen, verständlich zu beschreiben. Einfache Sprache hat hier einen höheren Wirkungsgrad bei den zu Informierenden als ein Disclaimer in juristischer Terminologie.

Individuelles Tracking von Nutzungsverhalten

In Untersuchungen wies der Verein „Digitalcourage”[28] einen Datenaustausch der App mit Google, Microsoft, Akamai und 1&1 nach. Dies wäre nach geltendem Datenschutzbestimmungen nur in sehr engen Grenzen und nach explizitem Einverständnis der Nutzer rechtlich erlaubt. Eine Stellungnahme des Betreibers behauptet das Gegenteil. Hier zeigt sich deutlich, wie schwierig es selbst für Experten ist, ohne Zutun der Betreiber Transparenz in Bezug auf Fairness oder Rechtskonformität herzustellen – und für den Verbraucher ist dies gänzlich unmöglich. Der Verbraucher kann also nicht erkennen, welche Daten über ihn erhoben, gespeichert und weitergegeben werden. Der Anbieter gibt an bestimmte Daten zu löschen – über den genauen Umfang der Daten bleibt der Verbraucher aber im Ungewissen. Ein möglicher Datenfluss zu US-amerikanischen Drittanbietern wird weder explizit ausgeschlossen noch weiter erwähnt.[29] Nachdem das Projekt in der Kritik stand, erklärte der Betreiber dass weder personenbezogene Daten der Kinder gespeichert, noch Nutzerprofile erstellt würden. Die Positionsdaten der Kinder blieben stets anonym, seien nicht zurückverfolgbar und würden binnen eines Tages endgültig gelöscht.

Kunden- und Nutzungsfreude durch Vereinfachung (u.a. auch User Experience)

Den höchsten Komfort verspricht die Anwendung den Eltern, die schnell den Aufenthaltsort ihres Kindes per App checken können. Diese kommen aber erst in den „Genuss” der Kontrolle, wenn die Kinder die Ortung in ihrer App aktivieren.^[30] Dieser Anspruch stellt eine Win-Win-Situation mit den Eltern als Anwender dar. Für die Verkehrsteilnehmer, d.h. Auto-, Taxi- oder Lkw-Fahrer, stellt sich die Situation anders dar. Sie haben die Möglichkeit Einstellungen vorzunehmen, z.B. ob sie bei 19 oder 75 km/h (oder einer beliebigen Geschwindigkeit dazwischen) gewarnt werden möchten und ob diese Warnung akustisch erfolgen soll. Nicht ersichtlich ist für den Nutzer an der Stelle was diese Einstellungen für Auswirkungen haben bzw. welche Risiken oder Chancen eingegangen werden, wenn diese Optionen gewählt wird. Bislang wurde noch nicht untersucht, ob eine „semantische Anreicherung“ einer Warnung in Form eines Geräusches und eines visuellen Hinweises zu positiven Effekten in zeit- und sicherheitskritischen Verkehrssituationen führen. Eine Bewertung wie sinnvolle Warn-Konfigurationen die zu der jeweiligen Gefahrensituation und den damit verbundenen Erwartungen eines Fahrers passen, aussehen könnten, steht noch aus. Durch ein benutzeroptimiertes Design von Warnhinweisen könnte sichergestellt werden, dass die Warnung alarmiert, informiert und auf eine geeignete Handlung vorbereitet.

Menschenrechte

Verantwortung für Abhängige, digital-unterstützt

Der Gebrauch der Anwendung soll eine Überwachung der Kinder anhand ihrer geografischen Lage ermöglichen. Die Überwachung der Kinder wird mit Kontrolle und Kontrolle mit deren Schutz gleichgesetzt. Der Schutz der Kinder besteht zunächst nur im Zusammenspiel der Interaktion zwischen Verkehrsteilnehmern und der Kinder. Die Eltern stehen in dieser Anwendung in keinem Zusammenhang des Schutzes, sondern dienen zunächst nur als mögliche erste Anlaufstelle, die mithilfe der „Notfall-Buttons” herbeigerufen werden könnte. An der potenziellen Gefahrenlage können die Eltern nichts ändern. Mit der generellen Verfügbarmachung der Anwendung wird den Eltern suggeriert, ihre Kinder schützen zu können, ohne dass sie dazu faktisch in der Lage sind. Umgekehrt besteht die Möglichkeit, dass die Eltern diesen „Schutz” als so weitreichend erachten, dass die Folge ein vermindertes Risikobewusstsein ist, da sie annehmen, eine wichtige Vorsorge bereits getroffen zu haben. Hinsichtlich des Wunsches der Eltern nach mehr Kontrolle kann die Applikation dieses Bedürfnis erfüllen, unabhängig des tatsächlichen Schutzpotenzials. Dies gilt ebenso für die Fahrer. Für die Kinder kann es auch bedeuten, sich im Verkehr eigenständig bewegen zu können, ohne die Anwesenheit der Eltern. In diesem Fall wäre eine (nur) „digitale” Anwesenheit der Eltern ein positiver Effekt für Kinder.

Verringerung von Freiräumen und von Möglichkeiten des „Andersseins“

Bei den Kindern können sich Effekte der Verhaltensänderung einstellen, die weder den Eltern bewusst sind noch von ihnen als positiv gewertet werden könnten. In Überwachungssituationen verändern Menschen ihr Verhalten, bekannt als „Hawthorne-Effekt”[31]. Die Folgen können Selbstzensur, Konformität und Stress sein. Das Hinausgehen bzw. das Sich-Entfernen von angestammten Räumen gilt als die Möglichkeit des Andersseins, des Über-sich-hinaus-gehen Könnens. In der Wissenschaft spricht man vom sogenannten „Chilling Effect”[32]: Im vorauseilenden Gehorsam beschränken sich Menschen selbst, um etwaige spätere Konflikte zu vermeiden.

Die prinzipielle Verfügbarkeit von Systemen, in denen eine Verhaltensänderung von Gefährdeten erwartet werden kann, z.B. mit dem Kauf und dem Betrieb der App bei Kindern, eröffnet zunächst den Freiraum von Handlungsmöglichkeiten, möglicherweise aber auch Handlungsdruck. Ein Nicht-Einsatz von „Schutzsystemen” für Kinder kann einen höheren Anpassungsdruck für die Eltern bedeuten, die für ihre Kinder nur „das Beste” wollen. Dieser Anpassungsdruck kann vor allem dann zum Tragen kommen, wenn Eltern die Funktions- und Wirkweise von Systemen nicht oder nur unzureichend verstehen. Mit steigender Popularität solcher Systeme wird selbst bei der persönlichen ablehnenden Haltung der Eltern, der Einsatz wahrscheinlicher, da sich diese dem Vorwurf des unterlassenen Schutzes nicht aussetzen möchten: „Im Zweifelsfall doch lieber die App.”

Einbindung und Entwicklung der Gemeinschaft

Umgang mit kollektiver Datensammlung und Vernetzung

Die „Schutzranzen”-App vermittelt digital zugängliche Information zum Aufenthaltsort eines schutzbedürftigen Verkehrsteilnehmern an Autofahrer, um diesen die Möglichkeit zu geben und ggf. das eigene Verhalten anzupassen. Damit leistet die App einen Ansatz für eine Datenbereitstellung zum Schutz im Straßenverkehr. Falls sich das System bewähren würde, könnte der Anspruch jedoch nur dann erfüllt werden, wenn es allen Verkehrsteilnehmern kollektiv zur Verfügung gestellt würde.

Ein wesentlicher Anspruch von Staat und Gesellschaft ist die Nutzung von „digitaler Intelligenz”, welche das gespeicherte kollektive Wissen, für die Verbesserung von Gemeinwohl und Zusammenleben einsetzt.

Soziale Nachhaltigkeit

Das Projekt unterstützt Akteure beim Schutz von Kindern sowie von Verkehrsteilnehmern und der weiteren Minderung von Opfern im Straßenverkehr. Es bildet eine Win-Win-Situation und kann als praktische Umsetzung des globalen Nachhaltigkeitsziels („Sustainable Development Goals, SDG) Nr. 3 „Gesundheit und Wohlergehen” gewertet werden. Dabei geht es darum, ein gesundes Leben für alle Menschen jeden Alters zu gewährleisten und ihr Wohlergehen zu fördern.

Organisationsführung und wirtschaftlicher Erfolg

Personal-Data-Märkte als Geschäftsmodell

Für die Unternehmen auf Konsumentenmärkten, wie die Beteiligten am Konsortium für den „Schutzranzen”, stellt sich die Frage, wie personenbezogene Daten für das eigene Geschäftsmodell genutzt werden sollten. Die EU-Datenschutzgrundverordnung bietet hier einen gesetzlichen Rahmen, aber Internetnutzer bleiben weiterhin in einer benachteiligten Rolle[33]. Mit einer beschleunigten Entwicklung der Digitaltechnologie wird sich dies noch weiter verstärken und Unternehmen weiteren Spielraum gewähren. Die App-Nutzung, z.B. von Facebook, zeigt heute bereits, dass Nutzer in hohem Maße bereit sind, zur sozialen Teilhabe auf ihre „digitale Souveränität” zu verzichten. Das „Schutzranzen”-Projekt bewegt sich im Markt der personenbezogenen Daten. Je nach Erfolg kann es strategische Entscheidungen zur weiteren Nutzung personenbezogener Daten vorbereiten. Unternehmen sind aus ökonomischer Perspektive gut beraten, heute die Möglichkeiten auf diesem wachsenden Markt auszuloten. Aber Unternehmenspolitik und -werte setzen dem Handeln Grenzen, so daß nicht alles, was machbar ist, auch umgesetzt wird. Welche Rolle freiwillige Unternehmensverantwortung und Selbstbeschränkung in Zukunft für Unternehmen spielen wird, wird aktuell gesellschaftlich ausgehandelt.

Verhaltensbeeinflussung im Geschäftsmodell

Mit dem Fall von „Cambridge Analytica” wurde deutlich, wie weitreichend Nutzerverhalten mittels digitaler Medien – hier für zielgerichtetere Werbung – bereits heute vorhergesagt und für Manipulationen genutzt wird.[34] Es gilt für ein Engagement von Unternehmen das Gleiche wie für das Engagement auf Personal-Data-Märkten (siehe oben). Aufgrund der für die Gesellschaft völlig neuen möglichen Szenarien, bestehen jedoch noch größere Schwierigkeiten einer ethischen Bewertung, was „in Ordnung” ist und was nicht.

Kapazitäts- und Skillaufbau von „digital skills“

Der Aufbau von Fähigkeiten im Rahmen des jeweiligen Geschäftsmodells Daten und Digitaltechnologie wirksam einzusetzen, ist ein Treiber für den Geschäftserfolg der Zukunft. Ein Pilotprojekt wie der „Schutzranzen” kann für die beteiligten Unternehmen ein „Lernobjekt” zum Aufbau mangelnder oder fehlender Kompetenzen, z.B. „Big Data” Analytics, customer-centric design, fairer Umgang mit Kundendaten, sein. Frühzeitig neue und ggf. unausgereifte – Produkte in einem (Test-) Markt zu erproben, kann für eine Unternehmen entscheidende Informationen für strategische Weichenstellungen bringen. Das Projekt stellt für die beteiligten Unternehmen im Sinne des Aufbaus von Expertise und Know-How, eine „Win-Win”-Situation dar. Sie steht im Antagonismus zu den oben dargestellten übergangenen Ansprüchen von Individuum und Gesellschaft.

Der SmartCheck für Nachhaltigkeit zeigt eine Reihe von Risiken für die gesellschaftliche Akzeptanz des Projekts sowie auch Chancen auf. Insbesondere die Risiken gilt es im Zuge des Produktdesigns zu berücksichtigen, um die Kooperationsbereitschaft unterschiedlicher Stakeholdergruppen mit dem Produkt zu erhöhen und die Reputation des Betreiberkonsortiums nicht zu schädigen.

Mit Sustainable Design Lernräume eröffnen und Reputation erhöhen

Aus den Risiken wurden Design Challenges abgeleitet, die neue Handlungsfelder für eine nachhaltige Gestaltung der App eröffnen sollen. Jede dieser Design Challenges eröffnet neue Lernräume für eine zukunftsfähige und robuste Gestaltung dieser oder ähnlicher Anwendungen. Es wird daher den Projektbetreibern empfohlen, diese Design Challenges – bspw. mithilfe von Design Thinking – in die Projektentwicklung zu integrieren.

Sie wurden in vier Themenbereichen geclustert: Umgang mit Daten, der Umgang mit elterlicher bzw. zwischenmenschlicher Verantwortung und Kontrolle, eine erweiterte Sicht auf die Usability der Anwendung und das übergeordnete Projektziel. Die Design Challenges werden im Folgenden aufgeführt.

Design Challenges zu Risiken der App-Nutzung:

• Wie können Haftungsfragen für Eltern und Autofahrer in Fällen von Systemausfällen ausgestaltet werden?
• Wie können bestehende Risiken durch Kundeninformationen zielgruppengerecht dargestellt werden?
• Wie kann gewährleistet werden, dass Nutzer sich digital selbst schützen können, z.B. über Kontrolle der eigenen Stamm- und Nutzungsdaten?
• Wie können Nutzer als Datenerzeuger in fairer Weise von der Wertschöpfung bei den Datenverwertern partizipieren?

Design Challenges zu elterlicher bzw. zwischenmenschlicher Verantwortung und Kontrolle:

• Wie können Wirkzusammenhänge von digitalen Systemen verständlich gemacht werden?
• Wie lassen sich freie Handlungsspielräume von digital „Überwachten” in akzeptabler Weise gestalten?
• Wie kann eine digital vernetzte Be- und Überwachung Schutzbefohlener verhältnismäßig gestaltet werden?
• Wie kann eine digital gestützte Lösung resilient bei veränderten Rahmenbedingungen gestaltet werden?

Design Challenges zu einer erweiterten Usability der Anwendung:

• Wie können handlungsauffordernde Hinweise auf Endgeräten eindeutig und aufmerksamkeitssparsam gestaltet werden?
• Wie kann ein sachgerechter Umgang mit digitalen Systemen zur Unterstützung von Risikoeinschätzung verständlich gemacht werden?
• Wie kann im Design der Anwendung die Wirkung von Benutzereingaben und Systemeinstellungen intuitiv integriert werden?

Design Challenges zum Schutz von Kindern im Straßenverkehr:

• Wie kann der Schutz von Kindern im Straßenverkehr digital unterstützt verbessert werden?
• Wie können Kinder mit digitalen Mitteln unterstützt werden, um sich im Straßenverkehr sicherer zu bewegen?
• Wie können Autofahrer digital unterstützt werden um Unfälle mit Fußgängern und Kindern zu vermeiden?

Wir gehen davon aus, dass die Erfolgschancen des Projekts im dynamischen gesellschaftlichen Umfeld der Digitalisierung damit gesteigert werden, Fehlinvestitionen reduziert werden und Reputationschancen entstehen. Für Individuum und Gesellschaft entstehen so wünschenswerte Produkte und Services, die Sicherheit und Vertrauen bieten.

Die Höhe des Schadens für das Betreiberkonsortium durch den im Projektverlauf späten Diskurs mit Stakeholdern ist von uns nicht zu beziffern. Auch ist uns unbekannt, ob diese Kosten eventuell aufgrund taktischer Überlegungen in Kauf genommen worden sind. Dennoch meinen wir, dass Zeit und Ressourcen bei einem SmartCheck für wertschöpfendere Aufgaben hätten eingesetzt werden können. Das Projekt hätte Zeit für die Entwicklung weiterer nachhaltiger Lösungen gewonnen und Reputationsrisiken hätten weiter minimiert werden können.

Diese Form der Open Innovation trägt dazu bei, das bestehende Machtungleichgewicht zwischen Unternehmen und Verbraucher sowie Zivilgesellschaft bei der Nutzung von IoT- und Vernetzungslösungen auszubalancieren. Die Gesellschaft erhält digitale Produkte und Services mit einer hohen Akzeptanz- und Nutzungsbereitschaft.

Der Weg führt weg von der „digitalen Kurzsichtigkeit”

IoT-Pilote dienen Unternehmen, Organisationen und Verwaltung heute als Lernfelder für den Erfolg der Zukunft. Die Reaktion von Öffentlichkeit, Nutzern und anderen Stakeholder in neuen dynamischen Märkten ist ungewiss; die Zurückhaltung gegenüber digitalen Vernetzungslösungen in Deutschland und Europa groß.

Zur Absicherung der Investitionen, dem Schutz und Aufbau von Reputation empfehlen wir daher eine Einbindung eines „Sustainability-by-Design”-Ansatzes im Rahmen des Innovationsprozesses. Eine Möglichkeit dazu ist der hier vorgestellte SmartCheck für Nachhaltigkeit. Dabei können Win-Win-Situationen und Risiken identifiziert werden, die einer nachhaltige Gestaltung des Geschäftsmodells dienen. Bei agilen Pilotprojekten bietet sich im weiteren Verlauf die Chance der Einbindung von wichtigen Stakeholdern mit fokussierten Design Challenges an.

Die Anwendung des Stakeholder-Ansatzes im Zuge der Digitalisierung in den Unternehmen und Organisationen führt weg von einer – nicht selten herrschenden – „digitalen Kurzsichtigkeit”. Stattdessen werden bestehende Gestaltungsressourcen im Sinne von Open Innovation einer gemeinsamen Wertschöpfung zugeführt. Unternehmen haben damit frühzeitig im Innovationsprozess Zugang zu Wissen und Haltungen, die sie für eine erfolgreiche Geschäftsentwicklung nutzen können.

Der gesellschaftliche Nutzen des Ansatzes besteht u.a. in der Minderung negativer sozialer und ökologischer Externalitäten durch Digitalisierung und dem Zugriff auf innovative und gesellschaftliche akzeptierte Marktangebote. Zukünftig wird es mehr und mehr darum gehen, Vernetzung und Digitaltechnologie gezielt einzusetzen, um die globalen Nachhaltigkeitsherausforderungen, aber auch staatliche und politische Aufgaben im Sinne des Gemeinwohls besser als bisher zu lösen.

Dr. Saskia Dörr, MBA, berät zu Unternehmensverantwortung im Digitalzeitalter, der „Corporate Digital Responsibility“. Sie verbindet ihre fachliche Expertise mit über 20 Jahren Managementpraxis in Innovations- und Produktbereichen der Digitalwirtschaft. Mit ihrem Unternehmen WiseWay geht es ihr darum, durch den digitalen Wandel Mehrwerte für Unternehmen und Gesellschaft zu schaffen und nachhaltige Entwicklung zu befördern.

Saskia.doerr@wiseway.de | https://wiseway.de | Twitter: @wiseway_

Damian Paderta ist Webgeograph und Digitalberater. Er ist Mitbegründer des Offene Kommunen.NRW Instituts (OKNRW), welches sich für Transparenz, Beteiligung und Offenheit auf kommunaler Ebene einsetzt. Zudem ist er in verschiedenen Labs tätig, um Projekte in den Bereichen Civic Tech, Open Government, Speculative Design und Open Cities umzusetzen.

email@paderta.com | Nozilla.de | Twitter @paderta

[1] börse online (2018): Facebook-Aktie: Investoren reichen Klage wegen Datenaffäre ein. 21.03.2018 http://www.boerse-online.de/nachrichten/aktien/Facebook-Aktie-Investoren-reichen-Klage-wegen-Datenaffaere-ein-1018922290 (Zugriff am 24.03.2018)

[2]    Finanzen.net (2018): DAX 30 Marktkapitalisierung am 24.3.2018. https://www.finanzen.net/index/DAX/Marktkapitalisierung (Zugriff am 24.03.2018)

[3]    BMZ (2018): Technologien für nachhaltige Entwicklung nutzen. http://www.bmz.de/de/themen/nachhaltige_wirtschaftsentwicklung/ikt/querschnittsthema/index.html (Zugriff am 14.07.2018)

[4]    vgl. Lange, S. & Santarius, T. (2018): Smarte grüne Welt? Digitalisierung zwischen Überwachung, Konsum und Nachhaltigkeit. Berlin: oekom.

[5]    vgl. Business in the Community (2016): A Brave New World? Why business must ensure an inclusive Digital Revolution.  https://www.bitc.org.uk/sites/default/files/a_brave_new_world_bitc_accenture_report_november_2016.pdf  (Zugriff am 19.01.2019)

[6]    vgl. Forum of the Future & Wipro digital (2017). Vision 2030: A connected future. https://wiprodigital.com/2017/11/15/iot-sustainability-report-vision-2030-connected-future/ (Zugriff am 24.03.2018)

[7]    Gould, R. W. (2012): Open Innovation and Stakeholder Engagement. Journal of Technology Management & Innovation 7, 3, S. 1-11, http://www.jotmi.org/index.php/GT/article/view/925 (Zugriff am 14.07-2018)

[8]    Freeman, R. E. (1984): Strategic Management: A Stakeholder Approach, Cambridge University Press, New York.

[9]    Lock; I. & Seele, P. (2017): Theorizing stakeholders of sustainability in the digital age. Sustainability Science 12, 2, p. 235-245

[10]                    vgl. beispielsweise Christl, W. & Spiekermann, S. (2016): Networks of Control. A Report on Corporate Surveillance, Digital Tracking, Big Data & Privacy. Wien: facultas Universitätsverlag. Hildebrandt, A. & Landhäußer, W. (Hrsg.) (2017): CSR & Digitalisierung. Berlin: Springer. Grießer, M. (2013): Digitale Nachhaltigkeit. Interdisziplinäre Transformation eines ökologischen Begriffs. Masterarbeit. Helbing et al. (2017a): „Digital-Manifest (I). Digitale Demokratie statt Datendiktatur“. Spektrum Spezial „Willkommen in der Datenwelt!“ 1/17, S. 7-14. Helbing et al. (2017b): „Digital-Manifest (II). Eine Strategie für das digitale Zeitalter“. Spektrum Spezial „Willkommen in der Datenwelt!“ 1/17, S. 15ff. Open Knowledge Foundation (2018): Offenes Wissen für die digitale Gesellschaft. https://okfn.de/ (Zugriff am 16.3.2018). Schmidtpeter, R. (2017). Digitalisierung – die schöpferische Kraft der Zerstörung mit Verantwortung managen. In Hildebrandt, A. & Landhäußer, W. (Hrsg.) (2017): CSR & Digitalisierung. Berlin: Springer. S. 595- 602. Seufert, S. (2017): Digital competences. In Schweizer Wissenschafts- und Innovationsrat (Hrsg.) “Notions of disruption”, S. 64-100.

[11]                    vgl. Global Reporting Initiative (2016): Consolidated set of GRI Sustainability Reporting Standards 2016. https://www.globalreporting.org/standards (Zugriff am 24.03.2018); UN Global Compact (2018). Making Global Goals Local Business. https://www.unglobalcompact.org/sdgs (Zugriff am 24.03.2018) und Bundesministerium für Arbeit und Soziales (2011): Die DIN ISO 26000. Leitfaden zur gesellschaftlichen Verantwortung von Organisationen. Berlin: Beuth. http://www.bmas.de/SharedDocs/Downloads/DE/PDF-Publikationen/a395-csr-din-26000.pdf;jsessionid=E27430B2BBF24923906E15ADE901B066?__blob=publicationFile&v=2 (Zugriff am 19.01.2018)

[12]                    vgl. Brown, T. (2008): Design Thinking. Harvard Business Review Juni 2008, 85-92. http://5a5f89b8e10a225a44ac-ccbed124c38c4f7a3066210c073e7d55.r9.cf1.rackcdn.com/files/pdfs/IDEO_HBR_DT_08.pdf (Zugriff am 16.3.2018)

[13]                    vgl. Growth Enabler (2017): Market Pulse Report Internet of Things (IoT). https://growthenabler.com/flipbook/pdf/IOT%20Report.pdf (Zugriff am 24.03.18)

[14]                    Schutzranzen App – Mehr Sicherheit für Kinder im Straßenverkehr https://schutzranzen.com (Zugriff am 29.03.18)

[15]                    vgl. Volkswagen AG (2018): Nachhaltigkeit. http://www.volkswagenag.com/de/sustainability.html ; Uvex Group (2018): Verantwortung. https://www.uvex-group.com/de/verantwortung/ (Zugriff am 14.07.2018)

[16]                    vgl. „Schutzranzen“: überwachte Grundschulkinder sponsored by VW & Co.
https://digitalcourage.de/blog/2018/schutzranzen-ueberwachte-grundschulkinder-sponsored-by-vw-und-co#3 (Zugriff am 29.03.18)

[17]                    vgl. VW überwacht mit „Schutzranzen“ Grundschulkinder https://netzpolitik.org/2018/vw-ueberwacht-mit-schutzranzen-grundschulkinder/ (Zugriff am 29.03.18)

[18]                    vgl. Mit Peilsender in die Grundschule – Ist das gut? https://www.ndr.de/nachrichten/niedersachsen/braunschweig_harz_goettingen/Datenschuetzer-kritisieren-Schutzranzen-App,schutzranzen100.html (Zugriff am 29.03.18)

[19]                    vgl. „Schutzranzen“-Projekt kombiniert Kinder-Tracking mit Verkehrssicherheit Peilsender in die Grundschule – Ist das gut?
https://www.heise.de/newsticker/meldung/Schutzranzen-Projekt-kombiniert-Kinder-Tracking-mit-Verkehrssicherheit-3947907.html (Zugriff am 29.03.18)

[20]                    vgl. In der Kindeserziehung: Aufpassen statt überwachen https://digitalcourage.de/blog/2018/aufpassen-statt-ueberwachen (Zugriff am 29.03.18)

[21]                    vgl. Allgemeine Informationen zur Schutzranzen Lösung https://schutzranzen.com/presse/so-funktioniert-die-schutzranzen-losung (Zugriff am 29.03.18) mittlerweile vom Netz

[22]                    vgl. Kinder-Tracking mit „Schutzranzen“ – Amazon, Google, Microsoft & Co. bekommen Daten https://digitalcourage.de/blog/2018/schutzranzen-amazon-google-und-co-bekommen-daten (Zugriff am 29.03.18)

[23]                    vgl. Stellungnahme zum Blogbeitrag des Vereins Digitalcourage 22.01.2018 https://schutzranzen.com/presse/stellungnahme-zum-blogbeitrag-des-vereins-digitalcourage (Zugriff am 29.03.18)

[24]                    vgl. Wie Eltern ihre Kinder digital überwachen https://www.wiwo.de/technologie/digitale-welt/schnueffler-apps-wie-eltern-ihre-kinder-digital-ueberwachen/11234472.html (Zugriff am 29.03.18)

[25]                    vgl. Was taugen Kontroll-Apps für die Sicherheit von Kindern? https://www1.wdr.de/verbraucher/digital/kontroll-apps-eltern-kinder-100.html Zugriff am 29.03.18)

[26]                    “Neue App-Version: Schutzranzen jetzt ohne Tracking-Funktion” https://www.schutzranzen.com/presse/neue-app-version-schutzranzen-jetzt-ohne-tracking-funktion (Zugriff am 06.07.18)

[27]                    vgl. Ludwigsburg hält an App-Test fest https://www.lkz.de/lokales/stadt-kreis-ludwigsburg_artikel,-Ludwigsburg-haelt-an-App-Test-fest-_arid,469642.html (Zugriff am 08.07.18)

[28]                    vgl. „Schutzranzen“: überwachte Grundschulkinder sponsored by VW & Co.
https://digitalcourage.de/blog/2018/schutzranzen-ueberwachte-grundschulkinder-sponsored-by-vw-und-co#3 (Zugriff am 29.03.18)

[29]                    Diese gegenwärtigen Unklarheiten könnten nur durch eine technische Untersuchung des Quellcodes der Software sowie der Dokumentation beseitigt werden

[30]                    Diese Funktion des Kindertrackings wurde nach entsprechenden Stakeholder-Reaktionen im April 2018 deaktiviert, wurde aber in die Analyse und Bewertung des Projektes aus methodischen Gründen mit aufgenommen

[31]                    vgl. Olson, R. et al. (2004): What we teach students about the Hawthorne studies: A review of content within a sample of introductory I-O and OB textbooks. In: The Industrial-Organizational Psychologist. Band 41, Nr. 3, 2004, S. 23–39.

[32]                    vgl. Penney, J. (2016):, Chilling Effects: Online Surveillance and Wikipedia Use. Berkeley Technology Law Journal, 31,. 1, S. 117. https://ssrn.com/abstract=2769645 https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2769645 (Zugriff am 08.07.2018)

[33]  Heuser, U. J. (2018): DSGVO: Stimmen Sie zu? DIE ZEIT Nr. 22/2018, 24. Mai 2018. https://www.zeit.de/2018/22/dsgvo-internet-datenschutz (Zugriff am 08.07.2018)

[34] Ienca, M. & Vayena, E. (2018): Cambridge Analytica and Online Manipulation. Scientific American. 30.4.2018. https://blogs.scientificamerican.com/observations/cambridge-analytica-and-online-manipulation (Zugriff am 08.07.2018)