Zur Hauptnavigation / To main navigation

Zur Sekundärnavigation / To secondary navigation

Zum Inhalt dieser Seite / To the content of this page

Sekundärnavigation / Secondary navigation

Inhaltsbereich / Content

Wenn ein Algorithmus keine Probleme löst, sondern Probleme macht

TU Kaiserslautern beteiligt sich an neuer Initiative "AlgorithmWatch", um im Umgang mit Algorithmen zu sensibilisieren.

Ob bei selbstfahrenden Autos oder beim internetfähigen Kühlschrank: Unternehmen verwenden werden immer häufiger Prozesse algorithmischer Entscheidungsfindung (algorithmic decision making, ADM). Es zeichnet sich ab, dass auch Regierungen und die öffentliche Hand ADM einsetzen werden. Diese Methoden können großen Nutzen schaffen, bergen aber auch Risiken.

Welchen Einfluss haben ADM auf unsere Gesellschaft – im Guten wie im Schlechten? Wer kontrolliert, wie sie entwickelt werden und ob sie fehlerhaft sind? Und wer sorgt dafür, dass Regulierungsstrategien entwickelt werden, die sie einer demokratischen Kontrolle unterwerfen? Mit diesen Fragen beschäftigt sich eine neue Initiative von Journalisten, Sozialwissenschaftlern und Informatikern, an der Prof. Dr. Katharina Zweig von der TU Kaiserslautern maßgeblich beteiligt ist. Das Team kombiniert mit seiner Expertise die Analyse von gesellschaftlichen Auswirkungen mit der Analyse von Algorithmen und schafft so eine einzigartige umfassende Perspektive auf ein Thema, das immer brisanter wird.

Die Plattform "AlgorithmWatch", die zur diesjährigen Re:publica-Konferenz Anfang Mai online geht (https://re-publica.de/en/16/session/democracy-age-algorithms), soll die Nutzer für die Grundlagen algorithmischer Entscheidungsfindung sensibilisieren und anhand von Dossiers, Fallbeispielen und Blogbeiträgen aufzeigen, welche gesellschaftlichen Konsequenzen sie haben können.

Ziel der Plattform ist es zum einen, die Aufmerksamkeit darauf zu lenken, dass vermeintlich objektive technische Prozesse immer menschengemacht sind und damit Werturteile enthalten. Folglich fordern die Initiatoren von "AlgorithmWatch", dass Prozesse algorithmischer Entscheidungsfindung nachvollziehbar sind, um diese Werturteile darauf prüfen zu können, ob sie mit den Rechten von Bürgerinnen und Bürgern im Einklang sind.

Dabei geht es um etwas anderes als Transparenz, denn selbst eine Offenlegung bestimmter Daten oder auch von Algorithmen – so selten das geschieht – würde in vielen Fällen nicht ausreichen, um die Funktionsweise eines derartigen Prozesses zu verstehen und seine Auswirkungen prüfen zu können. Gleichzeitig könnte die Durchsetzung einer solchen Forderung Schaden anrichten und wäre damit weder angemessen noch hilfreich.

Zum anderen wird "AlgorithmWatch" gesellschaftsrelevante Technologien, die mit automatisierten Entscheidungen im Zusammenhang stehen, unter die Lupe nehmen. Etwa wenn es um hoheitliche Aufgaben, wie Polizeiarbeit bei "Predictive Policing" oder die automatisierte Vorprüfung von Visumanträgen geht, müssen demokratisch Standards gewahrt bleiben.

Demokratische Gesellschaften haben daher die Pflicht, diese Nachvollziehbarkeit von ADM-Prozessen herzustellen, sobald sie eine bestimmte Eingriffstiefe erreichen. Das kann durch eine Kombination aus Technologien, Regulierung und geeigneten Aufsichtsinstitutionen erreicht werden. Die Initiatoren von "AlgorithmWatch" werden dazu beitragen, Vorschläge dafür zu entwickeln.

Im Web: http://algorithmwatch.org (wird freigeschaltet zum Lightning Talk von Prof. Zweig auf der rpTEN am 4. Mai um 16.15 Uhr - https://re-publica.de/en/16/session/democracy-age-algorithms)

Die Initiatoren

"AlgorithmWatch" wurde von vier Personen initiiert:

- Lorena Jaume-Palasí, Philosophin, LMU München

- Lorenz Matzat, Datenjournalist, Lokaler Infosystems

- Matthias Spielkamp, Journalist, iRights.Lab

- Dr. Katharina Zweig, Professorin für Graphen-Theorie und Analyse komplexer Netzwerke der TU Kaiserslautern. Sie ist spezialisiert auf die Analyse und Entwicklung von Algorithmen für komplexe Netzwerke.

Kontakt:

Prof. Dr. Katharina Zweig, via Katrin Müller, Hochschulkommunikation der TU Kaiserslautern, katrin.mueller[at]verw.uni-kl.de , 0631/205-4367

Matthias Spielkamp, m.spielkamp[at]iRights-Lab.de, 0177.760.2000

Die TU Kaiserslautern ist die einzige technisch-ingenieurwissenschaftlich ausgerichtete Universität in Rheinland-Pfalz. Zukunftsorientierte Studiengänge, eine praxisnahe Ausbildung und eine moderne Infrastruktur sind die Rahmenbedingungen, die Studierende an der Campus-Universität vorfinden. Die TU Kaiserslautern wurde beim bundesweiten Wettbewerb "Exzellente Lehre" mit dem Exzellenz-Preis für Studium und Lehre ausgezeichnet. Damit stellt die TU den hohen Stellenwert ihrer Studienangebote unter Beweis. Darüber hinaus profitieren die Studierenden und Wissenschaftler von den zahlreichen international renommierten Forschungseinrichtungen, die im Bereich der angewandten Forschung eng mit der TU Kaiserslautern kooperieren.

 

 

Katrin Müller
Leitung Hochschulkommunikation

Tel.: +49(0)631/205-4367
Fax: +49(0)631/205-3658
Mail: katrin.mueller[at]verw.uni-kl.de
Web: www.uni-kl.de/pr-marketing