Als AI en daarmee algoritmes de zorg deels gaan besturen, dan kan de kloof tussen patiënten en zorgprofessionals groter worden, voorspelt hij. “Van patiënten kun je niet verwachten dat ze algoritmes doorgronden. Daardoor kan  de zorg voor hen nog meer een black box worden dan het nu al vaak is. Bovendien zal dat ook gelden voor veel zorgprofessionals. Dat roept vragen op over de controleerbaarheid van AI in de zorg, want als zorgprofessionals algoritmes niet kunnen doorgronden, dan kunnen ze er ook geen verantwoordelijkheid voor nemen.” Hij ziet een parallel met de financiële wereld en de bankencrisis: “Dat systeem was zo complex geworden dat niemand het geheel meer begreep en daardoor niemand verantwoordelijkheid kon nemen. Dat is overigens nog steeds zo.”

Systeemvertrouwen

Toezicht op de zorg kan effectiever worden met de inzet van AI, mits professionals in staat zijn de verbinding te leggen tussen de systeemwereld en de tastbare wereld. “We kennen voorbeelden uit andere sectoren, bijvoorbeeld de vleessector, waarbij het systeemtoezicht geen bijzonderheden liet zien, terwijl er toch op grote schaal gefraudeerd word. Een derde invalshoek bij AI gaat over de bekostiging en regulering in de zorg. “Zorginnovaties trekken zich niets aan van grenzen tussen sectoren en regelgeving. Daarvoor is al veel experimenteerruimte gemaakt. Maar die innovaties schalen nog onvoldoende op en blijven zo gefragmenteerd. En een interessante vraag is: Als de patiënt steeds vaker digitale zorg gebruikt zonder tussenkomst van de dokter, wie bepaalt dan de kwaliteit ervan?

" Zorginnovaties trekken zich niets aan van grenzen tussen sectoren en regelgeving."