Machines bedreigen mensenrechten

Technologische vooruitgang betekent niet automatisch vooruitgang voor de mensheid. Ontwikkelaars schetsen graag een luilekkerland waarin robots het harde werk uitvoeren en wij achterover leunen. Slimme robots kunnen ons helpen bij opgaves waarin personen tekort schieten, maar de werkelijkheid is complexer dan het ideaal. Onze mensenrechten komen in gevaar wanneer innovatieve bedrijven de koers bepalen.

Door Bijou van der Borst

Intelligente robots dringen steeds meer door in ons dagelijks leven. Geen sector lijkt te ontkomen aan deze verandering. Banken ontslaan personeel, omdat algoritmes de financiële keuzes maken. De transportsector krijgt te maken met zelfrijdende auto’s. Ouderen zijn straks voornamelijk op robots aangewezen om hen te verzorgen. In oorlogsgebieden zetten militairen drones in om vijanden te beschieten zonder risico voor de eigen troepen.

Ontwikkelingen op het gebied van artificiële intelligentie (AI) volgen elkaar steeds sneller op. AI staat voor kunstmatige intelligentie. Dat zijn software of robots die menselijk denken imiteren. Met behulp van data en algoritmes kan AI taken uitvoeren zonder inmenging van een persoon. Door het verzamelen van gegevens kunnen sommige robots zichzelf steeds nieuwe vaardigheden aanleren. Siri, de assistent in een Apple telefoon, is een vorm van AI. Innovatieve bedrijven als Google en Amazon proberen elkaars uitvindingen steeds te overtreffen. Het aantal octrooiaanvragen voor robottechnologie is de afgelopen tien jaar verdrievoudigd.

Wetgeving hinkt achterop

imagesIn de onvoorspelbaarheid van deze veranderingen schuilt het gevaar van kunstmatige intelligentie. Nee, niet in de zin van al die sci fi horror scenario’s, maar juridisch gezien. Er is namelijk nog nauwelijks wetgeving ontwikkeld over AI. Wanneer een slimme robot schade aangericht, is het onduidelijk wie er verantwoordelijk is voor de kosten en het ongeval. Daarom riep op 15 februari dit jaar het Europees Parlement (EP) de Commissie op zich over dit onderwerp te buigen. Het EP pleit voor wetgeving specifiek bestemd voor AI. Op dit moment bepalen de producenten nog hoe onze juridisch onzekere toekomst er uit ziet.

Programmeurs hoeven zich tot nog toe niet aan ethische codes te houden bij het ontwerpen van slimme technologie. Dat is vreemd wanneer je je bedenkt dat robots zwakkere mensen helpen in verzorgingstehuizen of mensen doden in oorlogen. Het Europees Parlement schrijft in haar aanbevelingen: onderzoeksactiviteiten op het gebied van robotica moeten de grondrechten respecteren. Gebruik moet gericht zijn op het welzijn en de zelfbeschikking van het individu en van de maatschappij in het algemeen. De menselijke waardigheid en autonomie, in zowel fysiek als geestelijk opzicht moeten altijd voorop staan.

Als we naar de ontwikkelingen van het moment kijken blijkt dat de Universele Verklaring van de Rechten van de Mens (UVRM) worden ondergesneeuwd door het streven naar innovatie. Zowel op het gebied van oorlogvoering, werk als zorg. Stuk voor stuk facetten waarvan menselijke waardigheid een belangrijk onderdeel uitmaakt. “Militaire en economische druk zal leiden tot versnelde ontwikkeling van zulke systemen”, stelt wetenschapper Steve Omohundro in zijn artikel: Autonomous technology and the greater human good. Ontwikkelaars moeten razendsnel beslissingen nemen om de concurrentie te snel af te zijn. Nadenken over ethische dilemma’s loont hen niet.

Robots verkrachten niemand
Drones-EU-Army-739525
Het belang van snelheid zie je in de ontwikkeling van autonome wapens. Het leger wil zo vlug mogelijk technologieën ontwikkelen die de tegenstander niet heeft. Dit kan leiden tot een wapenwedloop, voorspelt Omohundro. Het Amerikaanse leger ziet voordelen in het gebruik van AI. In een rapport van de US Air Force in 2010 worden de strategieën voor 2010-2030 besproken. Daaruit leren we: “Extra inzet van flexibele en zelfdenkende systemen kunnen grote voordelen opleveren. Je wint tijd en hebt een operationele voorsprong op tegenstanders, omdat die beperkt zijn door menselijke planning en beslissingssnelheid.”

Het gebruik van militaire robots is de laatste jaren enorm toegenomen, stelt Omohundro. De bekendste militaire robots zijn drones (UAV’s). Van 2004 tot 2012 hebben Amerikaanse drones in Pakistan 3.176 mensen gedood. Het gebruik van robots in oorlogen kent verschillende voordelen. Machines verkrachten en ontvoeren geen mensen, daarnaast kunnen ze niets stelen of gewond raken. Wat dat betreft zou de inzet van drones de mensenrechten vooruit helpen.

Ondanks de toename beschermt de wet mensen haast niet tegen het gebruik van autonome wapens. Het Europees Parlement pleit daarom voor een verbod op de productie, ontwikkeling en het gebruik van volledig autonome wapens waarmee aanvallen kunnen worden uitgevoerd zonder menselijke tussenkomst. Daarnaast liggen er nog verschillende juridische dilemma’s op tafel. Een mens is pas schuldig bevonden van moord wanneer hij bewust iemand doodt. Wanneer het onbewust gebeurt, gelden er andere regels. Daaruit rijst de vraag: kan een robot “onbewust” iemand doden?

Oorlog voeren via machines verandert de beleving van oorlog compleet. Tot nu toe worden militairen geconfronteerd met menselijk leed. Wanneer zij via schermen beslissingen nemen en machines het werken laten doen, realiseren ze zich dan nog dat ze met personen aan de andere kantvan het scherm te maken hebben? In de UVRM staat dat elke persoon waardig behandeld moet worden. Nu kan je discussiëren dat oorlogen nooit menswaardig geweest zijn, maar maakt het gebruik van robots de realiteit niet nog minder menswaardig? Wat doet het met een persoon wanneer hij de kans ervaart dat een machine hem elk moment kan doden?

Minder uren, meer verdienen?

In Westerse landen is de kans dat een machine je leven bedreigt klein. De mogelijkheid dat een machine je baan inneemt is daarentegen groot. Volgens de Europese Commissie is in 2020 voor 90% van de banen digitale kennis vereist. Deze verandering zagen we vorig jaar toen de bank ING mededeelde dat zij de komende jaren 70.000 banen zullen schrappen. “Steeds meer mensen doen hun bankzaken via mobiele apparaten,” liet Ralph Hamers, CEO van ING, weten.

“Alles wat routinematig werk is, zal geautomatiseerd worden,” stelde Martin Ford, ondernemer in Sillicon Valley tegen de nieuwszender NOS. Robots in de productie bieden de mens ook voordelen. Ze kunnen gevaarlijke taken in een fabriek vervullen of gebieden verontreinigd door gevaarlijke gifstoffen schoonmaken. De toename van robots bij de productie van goederen en diensten betekent dat met minder mankracht een hogere productiviteit behaald wordt en dat sommige banen hierdoor volledig zullen verdwijnen.

Volgens de UVRM heeft iedereen recht op werk, maar wat als er geen werk meer is? Het lijkt er op dat alleen bedrijfsleiders baat hebben bij deze ontwikkeling. De Commissie Werkgelegenheid en Sociale zaken geeft in haar ontwerpresolutie aan dat ze twijfelt aan de houdbaarheid van ons socialezekerheids-, pensioen- en werkloosheidsverzekeringsstelsel. De toenemende verdeeldheid in de samenleving zal groter worden en kan volgens hen leiden tot een hoge concentratie van rijkdom en invloed bij een klein deel van de samenleving. Ontwikkelaars van robots zullen, net als personen die toegang hebben tot de nieuwste technieken, de winst opstrijken. Terwijl de rechten van de mens juist voorschrijven dat iedereen evenveel vruchten moet plukken van wetenschappelijke vooruitgang.

Robot naast je bed

binary-1536624_960_720Niet alleen de werkende middenklasse loopt tegen de robot aan. Ook de zwakkere in de samenleving zullen robots ontmoeten. Er zijn op dit moment verschillende projecten met robots in de zorg in ontwikkeling. Zoals de robot Zora die in rusthuizen ondersteunt bij animatie van ouderen. Zora kan zingen en dansen, maar ook turnlessen geven. Deze assistentie helpt het personeel in de zorg mee taken uit te voeren. De voorspellingen zijn dat robots er voor zorgen dat de verpleging meer tijd krijgt voor hulpbehoevende personen. Toch is er niet alleen reden tot juichen. Er is nog maar weinig bekend over de psychologische en maatschappelijke gevolgen van interactie tussen mens en robot. Vooral voor kwetsbare groepen zoals kinderen en ouderen kan een robot verwarrend zijn. De apparaten kunnen emotionele reacties oproepen, of juist zorgen voor vervreemding van de werkelijkheid. Heb je als oudere later een keus wanneer je geen robot naast je bed duldt?

De zorg toont nog een gat in de wet als het gaat om de opkomst van artificiële intelligentie. Medische cyber fysieke systemen helpen artsen bij het stellen van een diagnose. Het systeem dat personen onderzoekt, verzamelt data over deze persoon en trekt daar conclusies uit. Deze elektronische patiëntendossiers doen vragen rijzen over de wetgeving als het gaat om privacy en het medische beroepsgeheim. Vandaar dat de vraag groeit naar wetten die beter de privacy beschermen. Daarnaast moet men, volgens de Commissie Milieubeheer, Volksgezondheid en Voedselveiligheid, ervoor zorgen dat verzekeringsmaatschappijen of andere dienstverleners niet worden toegestaan om e-gezondheidsgegevens te gebruiken voor een discriminerende tariefstelling.

Iedereen afhankelijk van Google

Wanneer we sneller diagnoses kunnen stellen en mensen in de zorg kunnen helpen, is dit een zegen. Slimme technologie kan ons daarmee helpen. Ook de zelfrijdende auto lijkt mensenlevens te redden omdat in 90% van de ongevallen een menselijke fout de oorzaak is. Toch moeten we voorzichtig zijn met wat we uitvinden, waarschuwt Nick Bostrom, technoloog en schrijver van het boek Superintelligence: paths, dangers, strategies. De mens ziet het als een overwinning om steeds meer ingewikkelde uitvindingen te doen die slimmer en slimmer worden. Kunnen we nog van een overwinning spreken als we onszelf steeds meer afhankelijk maken van apparaten waarvan maar een klein deel van ons begrijpt hoe ze werken?

De minderheid in onze maatschappij heeft kennis over AI. Anderen zullen zich moeten aanpassen aan de wereld die nu door deze minderheid wordt bedacht. In die wereld kunnen we misschien niet meer ons eigen voedsel produceren, zelf diagnoses stellen of auto’s besturen. Dat wordt dan allemaal voor ons gedaan. Tot nu toe gaan de ontwikkelingen in de technologie als een speer. De iPhone bestaat inmiddels alweer een decennium. De technologie ligt mijlenver voor op de kennis in de politiek. Ondertussen leert de zelfrijdende auto van Google zichzelf bij elke rit hoe hij een bocht zo goed mogelijk neemt, maar is er nog geen wetgeving over wie er precies aansprakelijk is wanneer een autonoom apparaat schade veroorzaakt. De vraag is aan ons op wie wij gaan wachten om de mensenrechten te beschermen.

 

 

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Verplichte velden zijn gemarkeerd met *