Keynote II (auf englisch)

Stefania Milan (Amsterdam):

Die Handlungsfähigkeit in Mensch-Maschine-Interaktionen zurückgewinnen

Immer häufiger kommt es zu Szenarien, in denen Mensch-Maschine-Interaktionen, die scheinbar zugunsten der maschinellen Entscheidungsfindung voreingenommen sind, die Souveränität der Bürger zu gefährden scheinen. though, have developed from ‘means’ into a technological ‘milieu,’ and sometimes even into an interactive techno-human ‘morph.’
Moderation: Paula Helm (Tübingen)

Angesichts der atemberaubenden Fortschritte auf dem Gebiet der Künstlichen Intelligenz (KI) nehmen Bedenken über die Auswirkungen von KI auf Bürgerrechte und demokratische Teilhabe in der Bevölkerung zu. Immer häufiger kommt es zu Szenarien, in denen Mensch-Maschine-Interaktionen, die voreingenommen sind und zugunsten der maschinellen Entscheidungsfindung erfolgen, die Souveränität der Bürger zu gefährden scheinen. Beispiele hierfür sind Predictive Policing, invasive Smart-City-Technologien und der Einsatz von KI zur Eindämmung globaler Virenausbrüche – wie etwa gesichtserkennungsfähige Wärmebildkameras, die während der COVID-19-Pandemie den Zugang zum öffentlichen Raum kontrollierten. Diese Technologien werden häufig ohne öffentliche Debatte, demokratische Kontrolle und angemessene Regulierung eingeführt und setzen die Bürger dem serienmäßigen Missbrauch aus. Mehr noch: Einmal in Krisenzeiten eingeführt, wird ihre Präsenz selten in Frage gestellt. 

Aus der Perspektive von Critical Software Studies und politischer Soziologie untersucht dieser Vortrag, wie die Ausbreitung intelligenter Systeme die Ausübung und Wahrnehmung politischer Handlungsfähigkeit verändert. Besonderes Augenmerk gilt der Arbeit von Basisgruppen und aktivistischen Initiativen in ihren Bemühungen, alternative Datenepistemologien und algorithmische Gegenbilder zu entwickeln, um die Bedrohungen unseres komplexen digitalen Ökosystems für Laien zu ‚übersetzen’ und eine informierte öffentliche Debatte anzuregen.

Stefania Milan ist Associate Professor für Neue Medien und Digitale Kultur an der Universität Amsterdam. Ihre Arbeit erforscht das Zusammenspiel von digitaler Technologie, Aktivismus und Governance.  Sie ist Principal Investigator von DATACTIVE und „Citizenship and standard-setting in digital networks“, die vom Europäischen Forschungsrat bzw. dem Niederländischen Forschungsrat finanziert werden.