Quantification and Social Regulation - Project at the Weizenbaum Institute for the Networked Society

The research group “Quantification and Social Regulation” investigates how regulation changes when it makes use of contemporary automated information and decision-making systems. Ubiquitous computing, big data and artificial intelligence (AI) entail new practices of quantification and valuation whose role for regulation and for democracy require further examination. The research group undertakes this endeavor by combining perspectives from social science and computer science.

Regulation as a feature of modern societies

Regulation can be understood as the intentional steering of individual and corporative actors’ behavior by state and non-state organizations and is a key component of modern social life. Forms of regulation change with the underlying practices and technologies: at present, big data and artificial intelligence raise questions about changes in regulation the same way the development of statistics and accounting did in the past.

Influence of modern computer technology on regulatory processes

Digital technologies increasingly pervade modern societies at all levels. Individual life decisions are more and more shaped by online environments and digital devices. Concurrently, state, political and economic organizations increasingly adopt algorithmic procedures and AI to optimize their workflows. Modern computer technologies seem to render regulation more encompassing, tailored and effective – simply more powerful.

Analysis of concrete cases

Yet only empirical studies can reveal how exactly automated information and decision-making systems work in a specific institutional context and how they are interrelated with organizational structures, power relations, and professional norms and identities. We thus analyze concrete cases where quantification and datafication are deployed in regulation. These include big data and AI in policing, in social policy, for jurisdiction, for policy-design, in the development of political strategies, in social sciences and in the management of labor.

The research group is composed of scholars from political science, sociology and computer science and positions itself in the research fields of governance and regulation research, public policy research, the sociologies of classification, quantification and valuation as well as in science and technology studies, critical computer science and critical algorithm studies.

A detailed project description can be found here.

Website: www.weizenbaum-institut.de/en/research-setup-phase/rg18

Contact person: Prof. Dr. Lena Ulbricht

Selected Publications

2022

Eyert, Florian/Irgmaier, Florian/Ulbricht, Lena (2022): "Extending the Framework of Algorithmic Regulation. The Uber Case". In: Regulation & Governance, Vol. 16, No. 1, 02.11.2020, S. 23-44. (vorab online publiziert 02.11.2020)

Rehak, Rainer/R.Kühne, Christian/Bock, Kirsten (2022): "Analysis and Constructive Criticism of the Official Data Protection Impact Assessment of the German Corona-Warn-App". In: Agnieszka Gryszczyńska/Przemysław Polański/Nils Gruschka/Kai Rannenberg/Monika Adamczyk. (Eds.): Privacy Technologies and Policy. 10th Annual Privacy Forum, APF 2022, Warsaw, Poland, June 23–24, 2022 - Proceedings. Lecture Notes in Computer Science, Vol. 13279. Cham: Springer Nature, S. 119–134.

Schwarting, Rena/Ulbricht, Lena (2022): "Why Organization Matters in 'Algorithmic Discrimination'". In: Kölner Zeitschrift für Soziologie und Sozialpsychologie, Sonderheft 62 "Internet, Big Data und digitale Plattformen. Politische Ökonomie - Kommunikation - Regulierung", herausgegeben von Ulrich Dolata/Jan-Felix Schrape. Wiesbaden: Springer VS, S. 307-330.

2021

Eyert, Florian/Lopez, Paola (2021): "KI demokratisieren. Fairness und Transparenz lassen sich nicht durch Technik allein herstellen". In: WZB-Mitteilungen, H. 171, S. 29-31.

Irgmaier, Florian (2021): "Der irritierende Verlust des Nichtwissens. Die Digitalisierung konfrontiert die Gesellschaft mit sich selbst". In: WZB-Mitteilungen, H. 171, S. 61-64.

Ulbricht, Lena (2021): "Demokratie und Digitalisierung. Ein Blick auf das politische System Deutschlands". In: Lea Schrenk/Tim Schmalfeldt (Hg.): Dossier Politische Bildung in einer digitalen Welt. Bonn: Bundeszentrale für politische Bildung.

2020

Eyert, Florian (2020): "Epidemie und Modellierung. Das Mathematische ist politisch". In: WZB-Mitteilungen, H. 168, S. 82-85.

Eyert, Florian (2020): "Agent-based Modeling und Politikberatung". In: Tanja Klenk/Frank Nullmeier/Göttrik Wewer (Hg.): Handbuch Digitalisierung in Staat und Verwaltung. Living Reference Work. Wiesbaden: Springer VS, S. 1-12 (online publiziert 07.02.2020).

Haunss, Sebastian/Ulbricht, Lena (2020): "Staatliche Regulierung durch Big Data und Algorithmen". In: Tanja Klenk/Frank Nullmeier/Göttrik Wewer (Hg.): Handbuch Digitalisierung in Staat und Verwaltung. Living Reference Work. Wiesbaden: Springer VS, S. 1-9 (online publiziert 17.02.2020).

Hösl, Maximilian/Irgmaier, Florian/Kniep, Ronja (2020): "Diskurse der Digitalisierung und organisationaler Wandel in Ministerien". In: Tanja Klenk/Frank Nullmeier/Göttrik Wewer (Hg.): Handbuch Digitalisierung in Staat und Verwaltung. Living Reference Work. Wiesbaden: Springer VS, S. 1-12 (online publiziert 12.11.2019).

Irgmaier, Florian (2020): "Menschenbild und Politik. Die Verhaltensökonomik verschiebt die Maßstäbe für legitimes Regieren". In: WZB-Mitteilungen, H. 167, S. 33-36.

Rehak, Rainer (2020): "Die Spur von Corona. Alle Tracing-Apps bergen Datenschutzrisiken". In: WZB-Mitteilungen, H. 168, S. 36-38.

Römer, Magnus/Ulbricht, Lena (2020): "Datenschutzaufsicht". In: Tanja Klenk/Frank Nullmeier/Göttrik Wewer (Hg.): Handbuch Digitalisierung in Staat und Verwaltung. Living Reference Work. Wiesbaden: Springer VS, S. 1-10 (online publiziert 05.11.2019).

Ulbricht, Lena (2020): "Data mining für responsive Politikgestaltung". In: Tanja Klenk/Frank Nullmeier/Göttrik Wewer (Hg.): Handbuch Digitalisierung in Staat und Verwaltung. Living Reference Work. Wiesbaden: Springer VS, S. 1-10 (online publiziert 01.01.2020).

Ulbricht, Lena (2020): "Scraping the Demos. Digitalization, Web Scraping and the Democratic Project". In: Democratization, Vol. 27, No. 3, Special Issue "Democratization beyond the Post-Democratic Turn. Political Participation between Empowerment and Abuse", edited by Ingolfur Blühdorn/Felix Butzlaff, S. 426-442.

Ulbricht, Lena (2020): "Algorithmen und Politisierung". In: Leviathan - Berliner Zeitschrift für Sozialwissenschaft, Sonderband 35 "(Ent-)Politisierung? Die demokratische Gesellschaft im 21. Jahrhundert", herausgegeben von Andreas Schäfer/David Meiering. Baden-Baden: Nomos Verlagsgesellschaft, S. 255-278.

2019

Hügel, Stefan/Rehak, Rainer (2019): "Kampf um Troja. Verwundbarkeit der vernetzten Gesellschaft durch Nutzung von Schadsoftware". In: Bellinda Bartolucci/Iris Burdinski/Marie Diekmann/Rolf Gössner/Julia Heesen/Martin Heiming/Hans-Jörg Kreowski/Britta Rabe/Rosemarie Will (Hg.): Grundrechte-Report 2019. Zur Lage der Bürger- und Menschenrechte in Deutschland. Frankfurt am Main: Fischer-Taschenbuchverlag, S. 23-27.

Hügel, Stefan/Rehak, Rainer (2019): "Künstliche Intelligenz im Wahlkampf. Zentralisierung und politische Profilbildung gefährden die Demokratie". In: Bellinda Bartolucci/Iris Burdinski(Marie Diekmann/Rolf Gössner/Julia Heesen/Martin Heiming/Hans-Jörg Kreowski/Britta Rabe/Rosemarie Will (Hg.): Grundrechte-Report 2019. Zur Lage der Bürger- und Menschenrechte in Deutschland. Frankfurt am Main: Fischer-Taschenbuchverlag, S. 131-135.

Irgmaier, Florian/Lahn, Nadine (2019): "Big Data and nudging: Marketing or manipulation?". In: encore - The Annual Magazine on Internet and Society Research, Vol. 2018, S. 29-32.

Katzenbach, Christian/Ulbricht, Lena (2019): "Algorithmic Governance". In: Internet Policy Review - Journal on Internet Regulation, Vol. 8, No. 4, Special Issue "Defining Concepts of the Digital Society", edited by Christian Katzenbach/Thomas Christian Bächle, S. 1-18.

Kurz, Constanze/Rehak, Rainer (2019): "Gewissensbits - wie würden Sie urteilen? Fallbeispiel HackerZero". In: Informatik-Spektrum - Organ der Gesellschaft für Informatik e.V. und mit ihr assoziierter Organisationen, Jg. 42, H. 2, S. 144-145 (vorab online publiziert 18.04.2019).

Löffler, Martha/Rehak, Rainer/Frick, Vivian (2019): "DIgitale Notwehr. Weil Selbstverteidigung kaum noch möglich ist - Was geht mich das an?". In: Anja Höfner/Vivian Frick (Hg.): Was Bits und Bäume verbindet. Digitalisierung nachhaltig gestalten. München: oekom Verlag, S. 92.

Rehak, Rainer (2019): "Metadaten. Was ist das eigentlich?". In: Anja Höfner/Vivian Frick (Hg.): Was Bits und Bäume verbindet. Digitalisierung nachhaltig gestalten. München: oekom Verlag, S. 61.

Rehak, Rainer (2019): "A Trustless Society? A Political Look at the Blockchain Vision". In: Beiträge zur Hochschulforschung, Vol. 41, No. 3, Special Issue "Blockchain, Education Technology, and Agiliy", S. 60-65.

Ulbricht, Lena (2019): "Big Data und Governance im digitalen Zeitalter". In: Jeanette Hofmann/Norbert Kersting/Claudia Ritzi/Wolf J. Schünemann (Hg.): Politik der digitalen Gesellschaft. Zentrale Problemfelder und Forschungsperspektiven. Politik in der digitalen Gesellschaft, Bd. 1. Bielefeld: transcript, S. 289-307.

Ulbricht, Lena/Römer, Magnus (2019): "Vielfalt und Einheitlichkeit in der deutschen Datenschutzaufsicht". In: Zeitschrift für Vergleichende Politikwissenschaft/Comparative Governance and Politics, Jg. 13, H. 4, S. 461-489.

2018

Eyert, Florian/Berg, Sebastian (2018): "Ein neues Recht für die digitale Gesellschaft? Tagungsbericht 'Demokratie und Künstliche Intelligenz' (Trier)". In: Theorieblog.de - Politische Theorie, Philosophie & Ideengeschichte, 22.03.2018.

Eyert, Florian/Irgmaier, Florian/Ulbricht, Lena (2018): "Algorithmic Social Ordering. Towards a Conceptual Framework". In: Günter Getzinger (Ed.): Critical Issues in Science, Technology and Society Studies. Conference Proceedings of the 17th STS Conference Graz 2018, 7th-8th May 2018. Graz: Verlag der Technischen Universität Graz, S. 48-57.

Grafenstein, Max von/Hölzel, Julian/Irgmaier, Florian/Pohle, Jörg (2018): Nudging. Regulierung durch Big Data und Verhaltenswissenschaften. ABIDA Gutachten 01|S15016A-F. Berlin: Alexander von Humboldt Institut für Internet und Gesellschaft, 146 S. (erstellt im Rahmen des Projekts "ABIDA - Assessing Big Data")

Irgmaier, Florian/Lahn, Nadine (2018): "Big Data und Nudging. Marketing oder Manipulation?". In: HIIG Science Blog - Der Blog für Internetforschende und digitale Querdenker, 22.11.2018.

Kappler, Karolin/Schrape, Jan-Felix/Ulbricht, Lena/Weyer, Johannes (2018): "Societal Implications of Big Data". In: KI - Künstliche Intelligenz, Vol. 32, No. 1, Special Issue "Algorithmic Challenges and Opportunities of Big Data", edited by Kristian Kersting/Ullrich Meyer, S. 55-60. (vorab online publiziert 20.12.2017)

Kees, Benjamin/Rehak, Rainer (2018): "Gewissensbits – wie würden Sie urteilen? Fallbeispiel: Vermessen". In: Informatik-Spektrum - Organ der Gesellschaft für Informatik e.V. und mit ihr assoziierter Organisationen, Jg. 41, H. 5, S. 348-350 (auch erschienen auf: gi.de, 06.12.2018, online: https://gi.de/themen/beitrag/fallbeispiel-vermessen/).

Rehak, Rainer (2018): "Die Blockchain politisch gelesen. Vom Experiment einer Gesellschaft ohne Vertrauen". In: WZB-Mitteilungen, H. 161, S. 54-57.

Rehak, Rainer (2018): "Technische Lösung sucht Problem. Zukunftsfähige Infrastrukturen im städtischen Bereich". In: Politische Ökologie, H. 155, S. 58-63.

Ulbricht, Lena (2018): "When big Data Meet Securitization. Algorithmic Regulation with Passenger Name Records". In: European Journal for Security Research, Vol. 3, No. 2, S. 139-161.

Ulbricht, Lena/Haunss, Sebastian/Hofmann, Jeanette/Klinger, Ulrike/Passoth, Jan-Hendrik/Pentzold, Christian/Schneider, Ingrid/Straßheim, Holger/Voß, Jan-Peter (2018): "Dimensionen von Big Data. Eine politikwissenschaftliche Systematisierung". In: Barbara Kolany-Raiser/Reinhard Heil/Carsten Orwat/Thomas Hoeren (Hg.): Big Data und Gesellschaft. Technikzukünfte, Wissenschaft und Gesellschaft. Wiesbaden: Springer VS, S. 151-231.

2017

Irgmaier, Florian/Ulbricht, Lena (2017): "Big Data und Nudging. Kommt der digitale Überwachungsstaat?". In: WZB-Mitteilungen, H. 158, S. 15-17.

Ulbricht, Lena (2017): "Machtkämpfe um Big Data. Bürger und Verbraucher müssen geschützt werden". In: WZB-Mitteilungen, H. 155, S. 18-21.

Ulbricht, Lena (2017): "Big Data und Diskriminierung. Impulse aus den USA für eine deutsche Debatte". In: ads aktuell - Newsletter der Antidiskriminierungsstelle des Bundes, H. 1, S. 4.