Contributions

A WEIRD AI system?

Inequalities and power asymmetries in the context of Health Tech

Anne-Sophie Morand

Proposition de citation: Anne-Sophie Morand, A WEIRD AI system?, in : Jusletter 20 septembre 2021

Les développements dans le secteur des technologies de la santé offrent une variété de possibilités et d'opportunités. L'utilisation de l'intelligence artificielle peut ainsi conduire à une amélioration des chances de guérison et donc à une réduction des coûts des soins de santé. Toutefois, les « systèmes de prise de décision automatisée » peuvent également refléter des distorsions et des discriminations. L'auteure ne se limite pas seulement à explorer cette question d'un point de vue technique, mais décrit également les projets actuels de réglementation de l'IA en Europe afin qu’à l’avenir, des « algorithmes équitables » prennent des décisions et que des asymétries de pouvoir soient évitées. (xf)

Table des matières

1. Introduction
2. Algorithmic Decision-Making Systems
- 2.1. What is an Algorithm?
- 2.2. What is Artificial Intelligence?
  - 2.2.1. The term «AI»
  - 2.2.2. Machine Learning
  - 2.2.3. Deep Learning
3. Artificial Intelligence Systems in the Health Sector
4. Inequitable Decisions in the context of Health Tech
- 4.1. Examples of biased decisions in Health Tech
  - 4.1.1. Inequality based on race, skin colour and financial situation
  - 4.1.2. Inequality based on gender – the «Male Default»
- 4.2. The Black Box Problem
- 4.3. «Garbage In, Garbage Out»
5. AI regulation in Europe
- 5.1. «Artificial Intelligence Act» of the European Commission
  - 5.1.1. Objective of the draft bill on the regulation of AI
  - 5.1.2. Material Scope
  - 5.1.3. Categories of AI systems
  - 5.1.4. Criticism of the proposal for AI rules
- 5.2. Impact on Switzerland
- 5.3. WHO guidance on ethics and governance of AI for health
6. Quo vadis?