Wie is er schuldig als een bionische arm ontspoort?

Stel dat een bionische arm opeens de borst van een verpleegkundige betast. Maar de bediener van de arm, van nek tot teen verlamd, met een elektrode in zijn hersenen waarmee hij het apparaat bedient, houdt achteraf bij hoog en laag vol dat hij dat niet wilde. Dat zijn arm het zélf deed.

Het kan een onzedelijke handeling zijn, een harde klap, een kop hete koffie die over een bezoeker wordt gesmeten. Wie is verantwoordelijk als een apparaat brokken maakt dat via een hersen-machine-interface wordt bediend?

Het lijkt op de ethische problemen rond zelfrijdende auto’s. Wie heeft de schuld als zo’n auto een botsing veroorzaak? De mens die achter het stuurwiel zat maar op dat moment niet stuurde? De auto-fabrikant? De software-ontwikkelaar?

De hersenbediende robot is ingewikkelder want de hersen-machine-interface legt een direct contact tussen iemands innerlijk en de uitvoerende robot. Dat schrijven onderzoekers uit Duitsland, Canada, de VS, Japan en Zwitserland in een artikel over de ethiek van bionische armen en andere neuroprothesen. Hun artikel staat vrijdag in Science.

De vraag wordt nog ingewikkelder als die robots semi-autonoom worden. De ontwerpers hebben de neiging zo’n robot te ontwikkelen. Iemand die dat zelf niet kan dénkt dan aan koffiezetten en -drinken. De robot voert die taak vervolgens autonoom uit, tot aan het aanreiken van een kopje koffie van drinkbare temperatuur.

Noodrem

Om te beginnen, vinden de ethici, moeten die neuroprothesen een noodrem krijgen. De gebruiker moet een snel uitvoerbaar veto kunnen uitspreken over een actie die hij zijn robot ziet uitvoeren. Zo’n veto kan bijvoorbeeld een vooraf afgesproken snelle oogbeweging zijn. Tweemaal snel naar links kijken bijvoorbeeld, of iets anders wat je in het dagelijks leven bijna nooit doet. Iemand die zijn robot niet op tijd met zo’n veto stopt kan verantwoordelijk worden gehouden voor zijn handelen, zoals een autobestuurder die niet op tijd remt, schrijven de onderzoekers.

In het artikel in Science worden nog twee ethische dilemma’s aangestipt: de hack van de hersenelektrode en de enorme verwachtingen die worden gewekt nu een paar mensen in laboratoriumomstandigheden een bionische arm hebben leren bedienen. Spectaculair, maar uitzonderlijk en nog lang niet geschikt voor algemen gebruik door mensen met een verlamming.

De hersenelektroden die nu worden gebruikt zijn simpel. Maar ze worden ingewikkelder. Dan pikken ze ook meer signalen op. Misschien ook gedachten die iedereen heeft, maar liever voor zichzelf houdt. Zoals seksuele fantasieën.