de fr en

A WEIRD AI system?

Inequalities and power asymmetries in the context of Health Tech

Anne-Sophie Morand
Anne-Sophie Morand

Citation: Anne-Sophie Morand, A WEIRD AI system?, in: Jusletter 1080

Entwicklungen in der Health-Tech-Branche bieten eine Vielzahl von Möglichkeiten und Chancen. So kann der Einsatz von künstlicher Intelligenz beispielsweise zu einer Verbesserung der Heilungschancen und damit zu einer Senkung der Gesundheitskosten führen. Allerdings können sog. «Automated Decision-Making Systems» auch Verzerrungen und Diskriminierungen widerspiegeln. Die Autorin geht dieser Problematik nicht nur aus technischer Sicht auf den Grund, sondern beschreibt auch, wie die aktuellen Pläne für eine Regulierung von KI in Europa aussehen, damit künftig «faire Algorithmen» Entscheidungen treffen und Machtasymmetrien verhindert werden.


Table of contents

  • 1. Introduction
  • 2. Algorithmic Decision-Making Systems
    • 2.1. What is an Algorithm?
    • 2.2. What is Artificial Intelligence?
      • 2.2.1. The term «AI»
      • 2.2.2. Machine Learning
      • 2.2.3. Deep Learning
  • 3. Artificial Intelligence Systems in the Health Sector
  • 4. Inequitable Decisions in the context of Health Tech
    • 4.1. Examples of biased decisions in Health Tech
      • 4.1.1. Inequality based on race, skin colour and financial situation
      • 4.1.2. Inequality based on gender – the «Male Default»
    • 4.2. The Black Box Problem
    • 4.3. «Garbage In, Garbage Out»
  • 5. AI regulation in Europe
    • 5.1. «Artificial Intelligence Act» of the European Commission
      • 5.1.1. Objective of the draft bill on the regulation of AI
      • 5.1.2. Material Scope
      • 5.1.3. Categories of AI systems
      • 5.1.4. Criticism of the proposal for AI rules
    • 5.2. Impact on Switzerland
    • 5.3. WHO guidance on ethics and governance of AI for health
  • 6. Quo vadis?
Please log in to read the full text.
Register for Campus? More
Login Poster
Kanton St. Gallen (Kreisgericht St. Gallen)
Gerichtsschreiber/in Kreisgericht [...] Kanton St. Gallen (Kreisgericht St. [...]
Bihrer Rechtsanwälte AG
Associate – Corporate, M&A & [...] Bihrer Rechtsanwälte AG
Kanton St. Gallen (Amt für Handelsregister und Notariate - Amtsnotariat St. Gallen)
Jurist*in als Amtsnotar*in (m/w/d) Kanton St. Gallen (Amt für [...]
Legal XII Tables Avocats
Rechtsanwältin / Rechtsanwalt Legal XII Tables Avocats
Kanton St. Gallen (Staatsanwaltschaft - Untersuchungsamt Gossau)
Leitende Staatsanwältin / Leitender [...] Kanton St. Gallen (Staatsanwaltschaf[...]
Kanton St. Gallen (Staatsanwaltschaft - Untersuchungsamt Uznach)
Leitende Staatsanwältin / Leitender [...] Kanton St. Gallen (Staatsanwaltschaf[...]
Suter.Legal. AG
Anwältin / Anwalt mit Schwerpunkt [...] Suter.Legal. AG
Kanton St. Gallen (Amt für Handelsregister und Notariate - Amtsnotariat Wil)
Auditor*in (juristische*r Praktikant*[...] Kanton St. Gallen (Amt für [...]
Prof. Giger & Partner Rechtsanwälte
Rechtsanwältin / Rechtsanwalt Prof. Giger & Partner Rechtsanwälte
Kanton St. Gallen (Amt für Handelsregister und Notariate - Amtsnotariat St. Gallen)
Jurist*in als Abteilungsleiter*in [...] Kanton St. Gallen (Amt für [...]
Kanton St. Gallen (Arbeitslosenversicherung - Kantonale Amtsstelle KAST)
Fachexperte*in KAST (m/w/d) Kanton St. Gallen (Arbeitslosenversic[...]
Kaiser Simmen Cattin Partner
Rechtsanwalt / Rechtsanwältin 50-100% Kaiser Simmen Cattin Partner
Kanton St. Gallen (Amt für Handelsregister und Notariate - Amtsnotariat St. Gallen)
Auditor*in (juristische*r Praktikant*[...] Kanton St. Gallen (Amt für [...]
Bürgi Nägeli Rechtsanwälte
Rechtsanwältin / Rechtsanwalt 60-100% Bürgi Nägeli Rechtsanwälte
Gründler & Partner Rechtsanwälte
Anwalt / Anwältin 80–100% Gründler & Partner Rechtsanwälte
CMS (Zürich)
Rechtsanwältin / Rechtsanwalt 100% [...] CMS (Zürich)
Wenger Plattner
Rechtsanwältin / Rechtsanwalt mit [...] Wenger Plattner
Blum&Grob Rechtsanwälte AG
Steuerexpert*in oder Jurist*in mit [...] Blum&Grob Rechtsanwälte AG
MV Legal Partners Inc.
Rechtsanwältin / Rechtsanwalt 50-100% MV Legal Partners Inc.
/dam/jcr:83f09d58-4a62-41b1-9c9c-02abeb440d40
Online-Kurs: AI für die juristische [...] Weblaw Academy
/dam/jcr:d85df556-4302-43d6-aece-94d632ee9245/uni_li_logo.jpg
Intensivkurs „Strafrecht und [...]
/dam/jcr:2513d656-4f19-4079-ac7b-20994bb9e76e/uzh%20logo.webp
CAS Safety in Healthcare
/dam/jcr:19b10fb5-feb5-4241-aa84-8bacb7a4f903/Verein%20eJustice.png
Tagung für Informatik und Recht
/dam/jcr:8a7f3354-213a-43de-a59d-a7475e221373
Rechtssicher mit KI - Kompaktseminar [...] Begrenzte Plätze.
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
MAS Economic Crime Investigation
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
St.Galler Arbeitsrechtstagung
/dam/jcr:c2a09a2e-ee26-4225-a6e7-2d9825723fad
CAS Compliance in Financial Services Institut für Rechtswissenschaft und [...]
/dam/jcr:d85df556-4302-43d6-aece-94d632ee9245/uni_li_logo.jpg
Executive Master of Laws (LL.M.) in [...]
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Das neue Investitionsprüfgesetz [...]
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
CAS Haftpflicht- und Versicherungsrec[...]
/dam/jcr:d85df556-4302-43d6-aece-94d632ee9245/uni_li_logo.jpg
Executive Master of Laws (LL.M.) im [...]
/dam/jcr:035facb2-bbcb-4286-8a34-0499af8dbf1a/uni_freiburg_logo_final.PNG
19. Schweizerischer Datenschutzrechts[...]
/dam/jcr:9e9ce6db-0f4a-45c0-bb41-6f9887b960a9/zhaw.webp
CAS AI Law and Legal Tech
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Praxis im Baurecht
/dam/jcr:d85df556-4302-43d6-aece-94d632ee9245/uni_li_logo.jpg
Executive Master of Laws (LL.M.) im [...]
/dam/jcr:b81c3d7c-a23a-43fb-89d5-dd07969509b2/Logo%20UNIGE.svg
FORMAT CAPSULE: Jurisprudences [...]
/dam/jcr:db2bffcf-48e3-4984-af80-012f88784e26/Paulus_akademie.png
Tagung der Fachgruppe «Reform im [...]
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
Swiss Digital Finance Conference 2026
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
MAS Information & Cyber Security
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Gutachten im Strafprozess
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Recht aktuell: Basler ZPO-Tag 2026
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
St.Galler Eherechtstagung 2026
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
St.Galler Erbrechtstagung 2026
/dam/jcr:8a7f3354-213a-43de-a59d-a7475e221373
Rechtssicher mit KI - Kompaktsemina[...] Begrenzte Plätze.
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Recht aktuell: 10. Basler Sozialversi[...]
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
CAS Data Protection & Technology
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
CAS Prozessführung – Civil Litigation