Wonderkind Google over AI in de zorg

Demis Hassabis ziet intelligente systemen artsen adviseren, maar hoe verhoudt dit zich tot de professional

Door – Sjoerd Wierenga

Adviserende systemen

Demis Hassabis is Google’s wonderkind als het gaat om de ontwikkeling van kunstmatige intelligentie. De schaakspeler van wereldklasse en oprichter van het door Google overgenomen Deepmind gooide hogen ogen met een zelflerend systeem. Een systeem met de capaciteit om zichzelf de werking van computerspellen aan te leren en vervolgens te beheersen op een bovenmenselijk niveau.

In een interview met Kamal Ahmed (BBC) wordt Hassabis gevraagd naar een mogelijke toepassing van kunstmatige intelligentie in de gezondheidszorg. Hassabis komt met het voorbeeld van een patiënt die de Eerste Hulp binnenkomt. In de huidige situatie bestaat er volgens Hassabis de kans dat het een paar uur duurt voordat een arts zich laat zien, ongeacht de ernst van het letsel. Hassabis stelt dat er een soort ‘one size fits all’ situatie bestaat, waarbinnen er weinig oog is voor maatwerk.

Gelukkig staat de door Hassabis geschetste situatie mijlenver af van de in Nederland geldende werkelijkheid. En stel dat onverhoopt zich ergens een dergelijke situatie voor zou doen, dan roept de toekomst die Hassabis voorziet een aantal prangende vragen op. Hij schetst een idee waarbij het beschikbare personeel een aantal symptomen waarneemt en in een intelligent systeem invoert. Het systeem verwerkt de informatie en informeert of waarschuwt vervolgens de dienstdoende arts over de ernst van de situatie.

Het systeem waarschuwt vervolgens de dienstdoende arts over de ernst van de situatie.

In sommige gevallen zal het systeem aangeven dat een patiënt nog even zonder zorg kan en in andere gevallen waarschuwt het systeem de arts vanwege de noodzaak tot acute zorg. Een dergelijk intelligent systeem kan correllatie en causaliteit blootleggen en zodoende medisch specialisten helpen bij het stellen van de juiste prioriteiten.

Spanning

Een interessante gedachte: een systeem dat een hooggeschoolde medisch specialist helpt bij het stellen van de juiste prioriteiten. Het roept ook vragen op, zoals: is het professioneel van de medisch specialist om het advies van een dergelijk intelligent systeem ter zijde te schuiven? Of in sterkere bewoording: is het wel ethisch verantwoord om het advies te negeren wanneer mensenlevens op het spel staan?

Is het wel ethisch verantwoord om het advies te negeren wanneer er mensenlevens op het spel staan?

Het doet denken aan de spanning tussen professionaliteit en bureaucratie. Al jaren maken vele organisaties, zoals stichting Beroepseer, zich sterk voor het beperken van de bureacratische dwangbuis waar professionals in vele beroepsgroepen zich in gevangen voelen. Wanneer systemen, of dit nou organisatorische of technologische systemen zijn, voorschrijven wat professionals behoren te doen dan bestaat de potentie tot oplopende spanning.

Het is een ingewikkelde situatie. Intelligente systemen hebben het potentieel om enorme hoeveelheden data te verwerken tot zinnige en zelfs levensreddende adviezen. Maar wanneer het ‘advies’ een ‘opdracht’ wordt, krijgt het een andere lading. Het wordt dwingender en brengt, net als bureaucratie, het gevaar met zich mee van het scheiden van denken en doen. Het systeem denkt, de professional doet.

Van Max Weber weten we dat hij zich zorgen maakte om de potentiële gevaren van bureaucratie voor individuele vrijheden, de zogeheten ‘ijzeren kooi’. Een interessante vraag voor Hassabis zou zijn of hij eenzelfde gevaar ziet in de toepassing van zijn systemen met kunstmatige intelligentie.