"Wat als AI slimmer wordt dan wij?"

De medische wereld verandert snel. Er worden in rap tempo nieuwe methoden ontwikkeld om je gezondheid bij te houden of om nieuwe geneesmiddelen te ontwikkelen. Een voorbeeld zijn organoïden, in het lab gekweekte mini-organen waarop medicatie getest kan worden. Zouden we daar bang voor of fan van moeten zijn? Medisch-ethicus Sarah Boers bepleit dat we in plaats van direct die vraag te beantwoorden eerst ons mensbeeld bij moeten stellen. In een interview met de Volkskrant vertelt Sarah alles over haar visie. Dat interview lees je hieronder.

Hij zat er altijd al. Een opvallende, donkere vlek op haar buik, ongeveer zo groot als een speldenknop. Tot de huisarts het niet meer vertrouwde en de moedervlek bij haar weghaalde. Of ze hem even ter controle kon afgeven bij haar vader, die patholoog is, vroeg de huisarts, terwijl hij de moedervlek in een buisje sterk water stopte en verpakt in een envelop aan haar overhandigde. ‘Ik dacht even dat het een grapje was. Maar hij meende het.’

Daar stond Sarah Boers dan. Vijftien jaar was ze nog maar, en toch bekroop haar een merkwaardig gevoel dat haar nooit meer helemaal zou loslaten. Want wat wás dit eigenlijk, deze dinges in die envelop?

‘Zo’n moedervlek is toch een soort tussencategorie. Iets tussen persoon en ding in’, zegt Boers, postdoc bio-ethiek aan het UMC Utrecht inmiddels. ‘Eerst was het gewoon onderdeel van mijn lichaam. En nu was het een object in een potje, met allerlei nieuwe betekenissen. Als het kwaadaardig was geweest, kon dat grote gevolgen voor mij hebben. Maar ik weet niet eens wat er uiteindelijk mee is gebeurd.’

Het zijn vragen die nu, ruim vijftien jaar later, niets aan urgentie hebben ingeboet. Surfend op de boeggolf van de genetische revolutie komt er immers een hele reeks ingenieuze, maar ook ethisch ingewikkelde zaken op ons af. Dieren waarin menselijke organen groeien. Wezens met subtiel veranderd dna. Telefoons die onze vitale functies afluisteren. Implantaten die onze hersenen bijsturen. Het zijn ontwikkelingen waarop de maatschappij absoluut nog niet is voorbereid, klaagde onder meer de commissie genetische modificatie (Cogem) enkele jaren geleden al in een rapport.

Of neem ‘organoïden’, het onderwerp waarop Boers vorig jaar promoveerde. Kleine, buiten het lichaam opgekweekte stukjes menselijk weefsel, die dienen als een soort minireplica van een orgaan. In steeds meer onderzoekslaboratoria worden ze gebruikt, om geneesmiddelen te testen, ziektes te bestuderen en – dat ook – ze op te slaan in een ‘biobank’, voor later gebruik. Een technologie vol ethische valkuilen, zoals wel bleek toen Amerikaanse artsen afgelopen najaar uit mensencellen een minibreintje kweekten waarin zowaar primitieve hersengolven pulseren.

‘Hersenorganoïden hebben nu nog geen bewustzijn’, benadrukt Boers. ‘Maar wat als ze steeds complexer worden? Ontstaan in zo’n brein op een zeker moment ook gedachten, of emoties? En wat betekent dat voor ons zelfbeeld?’

De meeste organoïden zijn gewoon kleine bolletjes weefsel. Waarom is dat anders dan, zeg, een weefselmonster dat je afstaat of een tand die je verliest?

‘Wat organoïden zo interessant maakt, is dat we steeds complexere entiteiten maken uit lichaamsmateriaal. De meeste vormen kunnen oneindig vermenigvuldigen. Dat betekent dat, als ik een stukje darmweefsel van je kweek, ik er oneindig veel darm-organoïden uit kan laten ontstaan. Ze kunnen handelswaar worden, worden doorverkocht, over de hele wereld worden gebruikt om bijvoorbeeld medicijnen te ontwikkelen en kennis op te doen. Dat maakt organoïden heel anders dan een statisch weefselplakje.’

Je kunt ook zeggen: nou en? Het is maar weefsel. Wat is precies het probleem?

‘Een van de gevolgen is dat de systemen die we hebben ingericht om ervoor te zorgen dat we verantwoord met lichaamsmateriaal omgaan, niet goed meer werken. Neem het in Nederland geldende geen-bezwaarsysteem: lichaamsmateriaal zoals bloed- en weefselmonsters mag in principe worden gebruikt voor onderzoek, tenzij de patiënt bezwaar aantekent. De gedachte daarachter is: zo lang je de privacy van de patiënt waarborgt, maakt het niet zoveel uit wat er gebeurt met lichaamsmateriaal dat geen onderdeel meer is van het lichaam. Maar met organoïden zit dat anders. In het UMC Utrecht hebben we daarom gezegd: zo’n geen-bezwaarprocedure is niet genoeg voor een organoïde, je moet patiënten om expliciete toestemming vragen om de organoïden te maken.’

Om misstanden te voorkomen zoals met de Hela-cellen, de onsterfelijk gemaakte tumorcellen van Henrietta Lacks die al decennia worden gebruikt voor onderzoek? Aanvankelijk zonder dat de familie Lacks, een arme Afro-Amerikaanse familie, daarvoor iets terugzag.

‘Dat is inderdaad een voorbeeld waarbij je ziet wat voor enorme scheefheid er kan ontstaan als anderen geld verdienen of kennis vergaren met materiaal dat door jou is gedoneerd. Stel, je bent een patiënt met taaislijmziekte. Er is geen behandeling, en je doneert wat lichaamsmateriaal om darm-organoïden mee te laten kweken, waar dan nieuwe medicijnen mee worden getest. Vervolgens komt er zo’n nieuw medicijn, maar kun je dat niet betalen – en je verzekeraar vergoedt het niet. Dat zou een beetje krom zijn, denk ik. Onrechtvaardig.’

Op voordrachten toont ze soms de beroemde tekening door Leonardo da Vinci van de Vitruviusman, die trotse blote spierbundel die met gespreide armen en benen zowel een vierkant als een cirkel begrenst. De mens als sluitstuk van de schepping, wilde Da Vinci hiermee zeggen: zo volmaakt dat zelfs de cirkel en het vierkant wiskundig in hem samenkomen.

‘Sinds de Verlichting hebben we een mensbeeld waarin de mens superieur is’, zegt Boers. ‘We vinden onszelf belangrijker dan andere dieren en dan dingen, zoals de tafel waaraan we zitten. We mogen dingen doen met een tafel die bij onze medemens niet zijn toegestaan. En we leggen de nadruk op het individu. Je ware ik. Me-time. Het is een westers ideaal dat je vormgeeft aan je individualiteit, dat je op zoek gaat: wie ben ik, wat wil ik? Dat is het mensbeeld dat de Vitruviusman belichaamt.’

Maar door technieken zoals organoïden begint dat beeld barstjes te vertonen, vindt Boers. Want wat is de mens eigenlijk, als hij overal levend weefsel achterlaat, dat soms zelfs beginnende hersenspinsels bevat? Zijn we wel zo’n mooi, wiskundig afgekaderd geheel? Of meer een soort amoebe, opdeelbaar in kledders?

En het gaat niet alleen om organoïden, vertelt ze. ‘Neem kunstmatige intelligentie in de zorg. Ook daar zie je menselijke eigenschappen ontstaan buiten onszelf, zoals intelligentie en rationaliteit. Terwijl ons oude mensbeeld altijd voorschreef: de mens is rationeler dan de materiële wereld. Wat, als die kunstmatige intelligentie slimmer wordt dan wij?’

Googles kunstmatig intelligente algoritme blijkt op röntgenfoto’s borstkanker nu al beter te kunnen detecteren dan menselijke experts, bleek deze week nog uit onderzoek. Handig toch?

‘Natuurlijk! Maar in praktijk zie je dat mensen ook in verwarring raken door dit soort barsten in ons oude, superieure mensbeeld. Men is ofwel superenthousiast over bijvoorbeeld kunstmatige intelligentie en zegt: de mens hoeft zich er niet meer mee te bemoeien, de computer is toch beter. Ofwel men reageert juist met pessimisme: we worden slaaf van de technologie, we verliezen onze autonomie.’

‘Het punt is dat beide opvattingen zich vastklampen aan dat oude mensbeeld. Het oude mensbeeld leidt tot twee kampen: techno-optimisten, die benadrukken dat technologie ons als individu nog beter kan maken, en technopessimisten, die vooral bang zijn dat we ons mens-zijn verliezen. Beide kunnen leiden tot een luie houding tegenover technologie. Optimisten zullen technologie mogelijk klakkeloos volgen. En pessimisten hebben de neiging te denken dat we toch geen invloed kunnen uitoefenen. Ik denk dat het veel interessanter is als we juist afstappen van het beeld van een scherp afgegrensde individuele mens in verhouding tot technologie.’

We moeten onszelf opnieuw uitvinden, zoals u het laatst zei in een voordracht bij het KennisCafé van de Volkskrant.

Ze grinnikt. ‘Een beetje groots statement, natuurlijk. Maar ik zou ons willen uitdagen om onszelf opnieuw te ontdekken, in samenhang met dit soort nieuwe technologieën. Als je erkent dat er misschien vormen van technologie zijn die op een bepaalde manier slimmer worden dan wij, betekent het dat je er op een andere, meer open manier naar gaat kijken. Ik hoop op een mensbeeld waarin meer nadruk is op hoe wij verbonden zijn met technologie.’

Hoe moet dat in de praktijk, jezelf opnieuw uitvinden?

‘Ten eerste denk ik dat het belangrijk is om ons bewust te zijn van dit soort technologische ontwikkelingen. Dat we erover nadenken: wat betekent dit eigenlijk? Daarvoor is nieuwsgierigheid nodig naar wat er onder de motorkap van de technologie gebeurt. Hoe komen algoritmes tot hun keuzes? Voor wat voor soort onderzoek worden mijn organoïden gebruikt? Wat vind ik daar eigenlijk van?

‘Dat is nu nog best nog lastig, omdat er voor de gemiddelde mens weinig informatie is. We zitten vast in een soort risicodenken: als de privacy maar niet wordt geschonden en zo lang er met mijn lichaamsmateriaal maar geen heel vreselijke dingen gebeuren, is het wel best. Eigenlijk zou je een website willen waar je kunt volgen wat er met je organoïden gebeurt: dit is de biobank waaraan u bijdraagt, met deze partijen werken we samen, dit zijn de projecten waarmee we bezig zijn.

‘Dat is één manier: er actief over nadenken. Een andere manier is: stel jezelf meer bloot aan kunst. Want scenario’s overdenken en technologieën uitproberen doen mensen al heel lang, in boeken, films en series. Van Frankenstein tot de Netflix-serie Black Mirror of de sciencefictionfilm Her, over de liefdesrelatie tussen een man en een computerprogramma. Het zijn manieren om met verschillende toekomstbeelden te spelen, en gevoel te krijgen voor: wat betekent het voor mij? Er zijn sciencefictionachtige ontwikkelingen op komst. En ik vind kunst bij uitstek geschikt om daarmee te spelen.’

Bron tekst: Maarten Keulemans, Volkskrant

In mei 2019 promoveerde Sarah op de ethiek van organoïde-technologie.