Beiträge

A WEIRD AI system?

Inequalities and power asymmetries in the context of Health Tech

Anne-Sophie Morand

Zitiervorschlag: Anne-Sophie Morand, A WEIRD AI system?, in: Jusletter 20. September 2021

Entwicklungen in der Health-Tech-Branche bieten eine Vielzahl von Möglichkeiten und Chancen. So kann der Einsatz von künstlicher Intelligenz beispielsweise zu einer Verbesserung der Heilungschancen und damit zu einer Senkung der Gesundheitskosten führen. Allerdings können sog. «Automated Decision-Making Systems» auch Verzerrungen und Diskriminierungen widerspiegeln. Die Autorin geht dieser Problematik nicht nur aus technischer Sicht auf den Grund, sondern beschreibt auch, wie die aktuellen Pläne für eine Regulierung von KI in Europa aussehen, damit künftig «faire Algorithmen» Entscheidungen treffen und Machtasymmetrien verhindert werden.

Inhaltsverzeichnis

1. Introduction
2. Algorithmic Decision-Making Systems
- 2.1. What is an Algorithm?
- 2.2. What is Artificial Intelligence?
  - 2.2.1. The term «AI»
  - 2.2.2. Machine Learning
  - 2.2.3. Deep Learning
3. Artificial Intelligence Systems in the Health Sector
4. Inequitable Decisions in the context of Health Tech
- 4.1. Examples of biased decisions in Health Tech
  - 4.1.1. Inequality based on race, skin colour and financial situation
  - 4.1.2. Inequality based on gender – the «Male Default»
- 4.2. The Black Box Problem
- 4.3. «Garbage In, Garbage Out»
5. AI regulation in Europe
- 5.1. «Artificial Intelligence Act» of the European Commission
  - 5.1.1. Objective of the draft bill on the regulation of AI
  - 5.1.2. Material Scope
  - 5.1.3. Categories of AI systems
  - 5.1.4. Criticism of the proposal for AI rules
- 5.2. Impact on Switzerland
- 5.3. WHO guidance on ethics and governance of AI for health
6. Quo vadis?