We moeten nu over robots praten, en niet morgen

Om te voorkomen dat robots de wereld overnemen, moeten we ze volgens Elon Musk een geweten geven. Daarnaast pleit FNV nu zelfs voor een robottaks. Daarom zet OpenAI zich in voor een verantwoordelijke ontwikkeling van kunstmatige intelligentie (‘AI’). Een goed initiatief, vindt Matthijs Pontier. Hij doet onderzoek naar AI en stond tweede op de lijst van de Piratenpartij. “De discussie over AI is even belangrijk als die over klimaatverandering.”

Waar gaan we heen met robots? Over die ontwikkeling is Pontier positief kritisch. “Ik weet zeker dat we met AI hele goede dingen kunnen doen. Dat is het probleem niet. Het probleem is dat er nu te weinig aandacht is over de vraag hoe we gaan zorgen dat machines zich ethisch goed gedragen.” Doen we dat niet, dan sluipt de kans erin dat machines oplossingen vinden die, op zijn zachtst gezegd, niet maatschappelijke geaccepteerd zijn. “Stel je voor, je instrueert een robot om je oma uit een brandend gebouw te redden. Een oplossing kan zijn om haar dan vanaf dertien hoog naar beneden te gooien.”

Robots moeten dus een geweten krijgen om te voorkomen dat ze onvoorspelbare dingen gaan doen. En daar komt volgens Pontier meer haast bij kijken dan over het algemeen wordt gedacht. “Op een gegeven moment ontwikkelt een AI zich zo snel, dat het niet meer bij te houden is”, vertelt Pontier. “Voordat dat gebeurt, moeten we heel helder hebben welke kaders we aan een AI mee moeten geven, zodat er geen onvoorspelbaar gedrag komt.”

Stel je voor, je instrueert een robot om je oma uit een brandend gebouw te redden. Een oplossing kan zijn om haar dan vanaf dertien hoog naar beneden te gooien.

Het gesprek over robot-ethiek vindt al een tijdje plaats, maar heeft volgens Pontier nog niet genoeg zijn weg naar de politiek gevonden. “Je ziet dat mensen als Stephen Hawking en Elon Musk dit soort discussies aanwakkeren en op de agenda zetten, maar er zou nog veel meer aandacht moeten komen. We hebben het over een discussie die even belangrijk is als die over klimaatverandering ”

Hoi

Weet je al waarom robots ons een boost in de evolutie gaan geven?

Of waarom robots ook jouw baan kunnen afpakken?

Juist omdat de ontwikkeling van AI zoveel impact heeft, vindt Pontier dat het niet alleen aan de intellectuelen en superrijken moet zijn om het over de ethische kant van het verhaal te hebben. “Over zo’n existentiële discussie als deze, zou iedereen moeten kunnen meebeslissen. Uiteindelijk hebben we allemaal te maken met de ontwikkeling van robots.”

Volgens Pontier hebben de meeste Nederlandse politici nog geen idee hebben waar de ontwikkeling van AI nu precies over gaat, en hoe groot de maatschappelijke gevolgen kunnen zijn. “Ik zag een item waarin politici hun visie gaven naar aanleiding van een introductievideo van de Zweedse filosoof Nick Bostrom, een autoriteit op het gebied van ethische vraagstukken over AI. Je ziet dan gewoon dat die politici het niet snappen.

Bekijk hier het tv-item met de politici en de robots

Pontier was er niet echt over te spreken. Lees hier wat hij er over schreef.

Dat robots zelfstandig bepalen wat mensen moeten doen, is volgens Pontier geen toekomstmuziek. Het gebeurt nu al: “Mensen maken dagelijks beslissingen naar aanleiding van de algoritmes van bijvoorbeeld Facebook. Machines bepalen dus hoe er wordt gereageerd.” En het gaat nog verder: “Robots maken nu ook al vaak zelfstandig beslissingen. Simpele dingen als beurs algoritmes handelen autonoom. Er zijn volgens mij ook algoritmes die online voor je gaan shoppen.”

Dieper in de discussie duiken?

Rechten en plichten voor Robots is een goed boek om in te stappen.

Als het aan Pontier ligt, moet duidelijk worden hoe die algoritmes precies werken. “We hebben geen idee hoe en waarom een bedrijf als Facebook bepaalde beslissingen maakt, daar moeten politici het nu al over hebben.” Daarnaast wil Pontier dat bedrijven meer openheid geven. “Profiling, specifieke informatie aan specifieke doelgroepen laten zien, is in feite gewoon een vorm van discriminatie. Nu is dit niet altijd een probleem, maar je moet wel een open discussie hebben over waarop je dan discrimineert.”

Zelfdenkende wapens zijn er al, maar niet zoals in The Terminator

Kunstmatige intelligentie (Artificial Intelligence, AI) is met een opmars bezig en dreigt een derde revolutie in oorlogsvoering te worden. Althans, daar waarschuwen CEO’s en andere medewerkers van 100 bedrijven van over de hele wereld voor. In een open brief aan de Verenigde Naties roepen ze op om, nu het nog kan, actie te ondernemen tegen de verwachte wildgroei aan geautomatiseerde wapensystemen. Die zijn in staat om zonder de tussenkomst van mensen te doden.

“Als we niks doen ontstaan er mogelijk onwenselijke situaties,” vertelt Joachim de Greeff tegen BIG.nl. Hij is COO bij Interactive Robotics, een bedrijf dat interactieve robots maakt voor de zorg en de educatieve sector. Joachim is een van de vier Nederlandse wetenschappers die zijn of haar naam op de lijst, waar onder andere ook Elon Musk bij staat, heeft gezet.

“Veel partijen mogen momenteel alles wat met AI te maken heeft produceren en gebruiken, waarvan we misschien vinden dat het niet moet kunnen.” Als voorbeeld vergelijkt Joachim de ontwikkeling van autonome robots met de productie van clustermunitie. “Daarvan vonden we achteraf ook dat het onmenselijk is. In dat geval ben ik toch enigszins hoopvol: we hebben geleerd tot wat voor excessen techniek kan leiden. Daarvoor is het belangrijk dat de discussies helder zijn. Mensen moeten weten waar we het over hebben. Pas dan kan je goed beslissingen maken.”

Voor een deel is de sci-fi wereld niet realistisch, en voor een ander deel bestaat er al veel

Dat is nu vaak niet helder. Ook vandaag weer, toen het bericht van de petitie naar buiten kwam, openden veel media met ‘killer-robots’ in de kop, geïllustreerd door Terminator-achtige foto’s uit een science fictionwereld. Dat is niet waar de CEO’s voor waarschuwen. “Er bestaan veel misconcepties over wat wel en wat niet kan,” aldus Joachim. Voor een deel is de sci-fi wereld niet realistisch, en voor een ander deel bestaat er al veel in de echte wereld. “Je hebt allerlei bewakingsrobots die bewapend zijn met machinegeweren op rupsbanden. Die bestaan nu al en worden nu bijvoorbeeld ingezet bij de bewaking van militaire doelen. Het automatisch kiezen van doelwitten door die apparaten wordt nu al gebruikt.”

Lethal automated weapon systems (LAWS) worden dus al ingezet. Volgens Nature heeft Groot-Brittannië bijvoorbeeld een onbemande drone (die men Taranis noemt) die, om de ethische dilemma’s die daar bij komen kijken tegemoet te komen,  nu nog wordt gecontroleerd door mensen. Volgens dit artikel is het bijvoorbeeld in geen enkel geval wenselijk om een machine te laten beslissen over leven of dood, omdat alleen de mens in staat is zo’n morele en juridische afweging te maken. Toch zijn er ook onderzoekers bezig om te kijken of ze een robot ethisch verantwoord gedrag aan kunnen leren.

Volgens dit artikel van The International Commitee for Robot Arms Control (ICRAC) zijn er drie argumenten die door de pro-autonome wapenlobby worden gebruikt om ‘killer robots’, zoals ze bij het ICRAC offensieve autonome wapens noemen, te gebruiken. Ten eerste zijn ze een stuk sneller dan mensenlijk handelen. Ten tweede ervaren ze geen stress, angst en reageren ze niet irrationeel, waardoor ze juist een stuk humaner zouden zijn dan mensen. Ten slotte kan er een hoop personeel wegbezuinigd worden.

“Door die algoritmes komt er aan het doden van mensen geen persoon meer te pas. Dat is een tricky gebeuren. Mocht je toevallig toch in zo’n verboden gebied zijn wordt er gewoon op je geschoten,” vertelt Joachim. “Dat soort apparaten zijn eigenlijk helemaal niet slim. Die hebben geen menselijk denkniveau. Ze zijn heel dom, maar het is wel een geautomatiseerd proces. De overwegingen die zo’n systeem maakt worden geavanceerder. Die lijken wel steeds meer op beslissingen die een mens zou nemen, maar zijn het niet.” De basis van hun besluitvorming is volgens Joachim heel anders: “Mensen doen dat op basis van ethisch besef, instructies, morele codes, etcetera. Machines zouden dat doen op basis van statistische berekeningen. Echt te vergelijken is het dus niet, ook al kan de uitkomst (schieten of niet schieten) hetzelfde zijn.”

Door die algoritmes komt er aan het doden van mensen geen persoon meer te pas

Het is niet gek dat kunstmatige intelligentie ook in wapentuig opduikt. “In de defensieve context zie je dat autonome technieken steeds meer mogelijk maken. De wereldmachten willen daar ook gebruik van maken. In de geschiedenis zie je dat nieuwe technologieën juist in militaire toepassingen worden ontwikkeld en gebruikt omdat dat strategisch voordeel oplevert,” vertelt Joachim.

Hoewel robots en AI al verder zijn dan veel mensen denken, is het niet waarschijnlijk dat ze sci-fi achtige proporties gaan aannemen: “Het moment dat robots slimmer worden dan mensen, is nog heel ver weg,” stelt Joachim gerust. “Dat wordt technologische singulariteit genoemd. Die voorspelling is al heel lang en vaak gedaan. Dat wil niet zeggen dat het er niet ooit gaat komen.”

Een defensief phalanx close-in weapon system (CIWS), gemaakt om anti-scheepsraketen tegen te houden

Robots kunnen nu delen van menselijk gedrag wel imiteren, maar zelfbewustzijn kan je dat dat nog niet noemen. “Binnen een bepaalde context is het gedrag van een systeem te beschouwen als intelligent of niet,” legt Joachim uit. “Wat AI-systemen nu kunnen is redenatiestappen nemen waarvan je als mens kan zeggen dat je, in die context, ook gehandeld zou hebben. Buiten die context kan het AI systeem echter niks.”

Robots dreigen dus de plek van soldaten in te nemen.

Ook jouw baan staat misschien op de tocht, blijkt uit onderzoek.

Lees hier welke banen het grootste risico lopen op robotisering.

Oorlog tegen robots lijkt geen nabije toekomst. “Het sci-fi idee suggereert dat er een moment komt waarop we op een bepaalde drempel zijn, waarna we geen weg meer terug hebben,” legt Joachim uit. “Wat hierin belangrijk is, is om je bewust te zijn van de mogelijkheden van AI en geautomatiseerde wapensystemen. Het is belangrijk dat er transparantie komt. Als de Verenigde Naties die realisatie niet heeft, kunnen ze ineens in de positie komen waarin er technologie wordt gebruikt waar ze niet blij mee zijn, waarna er geen weg meer terug is,” waarschuwt Joachim. “Dat is ook gebeurd met allerlei chemisch en nucleair wapentuig.”

Het sci-fi idee suggereert dat er een moment komt waarop we op een bepaalde drempel zijn, waarna we geen weg meer terug hebben

“Er is een redelijk goed besef van wat wel of niet kan, en wat wij als mensheid wel of niet acceptabel vinden,” nuanceert Joachim. Door het sci-fi sausje is dat besef er niet goed. Het belangrijkste van die open brief aan de VN is dan ook dat het opschudt. let op mensen: er gebeurt van alles! We moeten hier grip op krijgen, en transparantie is daarbij heel belangrijk.”

Volgens Elon Musk moeten we actie tegen robots ondernemen voor het te laat is

Als het aan Elon Musk ligt, komt er meer regelgeving op het gebied van robots en kunstmatige intelligentie (AI). Dat de zakenman daarmee zijn eigen mogelijkheden beperkt, is volgens hem juist nodig om de mensheid te beschermen.

Computerrobots zijn inmiddels in sommig gevallen slimmer dan de mens. Volgens Musk gaan de ontwikkelingen op het gebied van kunstmatige intelligentie veel sneller dan we doorhebben. Dat meldt Webwereld.

Tegen de tijd dat we achteraf bedenken wat goede AI-wetgeving is, is het te laat

Als we nu niks doen, dan is het te laat als het gevaarlijk wordt, zegt Musk. “AI is een zeldzaam geval waarin we volgens mij proactief moeten reguleren in plaats van reactief. Want tegen de tijd dat we achteraf bedenken wat goede AI-wetgeving is, is het te laat.” Robots zouden bijvoorbeeld, zonder menselijke morele code’s, veel schade kunnen aanrichten om hun doelen te behalen.

Wie gaat er dan voor zorgen dat de wereld niet wordt overgenomen door robots?

De gevaren van AI zijn ook bekend in de Nederlandse politiek.

We spraken de piratenpartij over kunstmatige intelligentie.

Bekijk hier de video waarin Musk spreekt op een bijeenkomst van de Amerikaanse National Governors Meeting, waarbij alle gouverneurs van alle Amerikaanse staten samenkomen om na te denken over maatschappelijke en technologische problemen.

Robots gaan onze evolutie een boost geven

Elon Musk startte onlangs met OpenAI, een enorme onderneming die ervoor moet zorgen dat kunstmatige intelligentie (‘AI’) op een veilige manier ontwikkelt. Moeten we bang zijn voor robots? Hoogleraar interactieve intelligentie Catholijn Jonker van TU Delft ziet AI als een kans om de evolutie van de mens een boost te geven.

Jonker denkt dat de ontwikkeling van AI ons dwingt om beter naar onszelf te kijken. “In duizenden jaren hebben we met veel moeite een maatschappij opgebouwd met werkende normen en waarden. Als AI een belangrijk deel van ons dagelijks leven wordt, moeten we ook onze normen en waarden meegeven aan de machines die we bouwen.”

Hoe pakken we dat dat aan? Volgens Jonker is het in de eerste plaats belangrijk dat een artificiële intelligentie op zichzelf kan reflecteren. “Op die manier kunnen machines met mensen en zichzelf bespreken waarom bepaalde keuzes zijn gemaakt, en waarom het misschien beter was om iets anders aan te pakken.” In de toekomst moet het dus mogelijk worden dat een AI zelf ‘snapt’ wat bijvoorbeeld goede tafelmanieren zijn. Maar ook: dat een graanmachine weet dat hij altijd voor mensen uit de weg moet gaan.

Als AI een belangrijk deel van ons dagelijks leven wordt, moeten we ze ook onze normen en waarden meegeven

Technisch gaan we zover wel komen, maar de uitdaging zit hem ook in wát we de machines moeten leren. “Hoe gaan we om met cultuurverschillen? Kijken we naar het gedrag van individuen of van een groep? Als we dat soort maatschappelijk belangrijke dingen aan machines willen leren, moeten we eerst scherp hebben wat we daarmee bedoelen.” Door die ontwikkelingen zijn het volgens Jonker niet alleen de machines die evolueren. “We krijgen een co-evolutie tussen mensen en machine. We dagen onszelf dan constant uit met zelfreflectie.”

Filosofie en techniek krijgen in de wereld van de artificiële intelligentie steeds meer raakvlakken. Dat merkt een technicus als Jonker ook. “Tien jaar geleden was ik veel minder met die filosofische kant bezig. Zeker nu de techniek met sprongen vooruit gaat, worden dit soort vragen steeds belangrijker.”

Hoi,

Hoe snel we met robotisering te maken krijgen, is moeilijk te voorspellen

Maar lees eens waarom robots ook jouw baan kunnen afpakken

En waarom we nu over robots moeten praten, en niet morgen

Jonker deelt de angst van Musk niet dat we worden ‘opgeslokt’ door computers, maar snapt het initiatief wel. “Het is goed dat er instellingen zoals deze ontstaan die ons bewust maken van de belangrijke vragen die nu rond AI ontstaan.” Maar het idee dat een AI compleet zelfbewust wordt en vervolgens besluit dat mensen beter kunnen verdwijnen, verwijst ze naar de wereld van sciencefiction. “We zijn er toch altijd zelf bij. Ik ga er vanuit dat de meeste mensen techniek willen gebruiken voor het goede.”

Waar we volgens Jonker vooral mee moeten uitkijken, is dat er niet een soort ‘evil guardian’ ontstaat. “Als we het goed aanpakken, willen onze machines ons altijd veilig houden. Het kan zijn dat een AI dan besluit om een deur op slot te houden, omdat het thuis logischerwijs het veiligst is. En dat is natuurlijk niet de bedoeling.”

Robots kunnen ook jouw baan afpakken

Robots gaan dit jaar nog niet massaal banen afpakken, dat blijkt uit onderzoek van vacaturezoekmachine Adzuna. Maar dat zou volgens Thomas de Schuyter van het bedrijf snel kunnen veranderen: “We zitten aan het begin van een curve die ineens exponentieel kan toenemen.”

ERWIN VAN ‘T HOF

Over de hele linie lijkt het banenverlies door robotisering mee te vallen, maar het heeft al een forse impact op de administratieve en financiële branche. Voor beroepen met kekke namen als Payroll Specialist en Accounts Payable Medewerker nam het aantal beschikbare vacatures dit jaar gemiddeld met 26,7% af. Deze banen hebben volgens een onderzoek van de universiteit van Oxford een hoge kans om tegen 2035 volledig geautomatiseerd te zijn. Andere, minder cijfermatige, beroepen lijken nu nog de dans te ontspringen.

Het zou goed zijn als de politiek nu al goede kaders afspreekt over robotisering

Hoe snel ook andere baantjes, zoals die van leraar of arts, te maken krijgen met robotisering, laat zich volgens De Schuyter moeilijk voorspellen. “Het ligt in de lijn der verwachting dat meer en meer beroepen te maken krijgen met robots die steeds steeds slimmer worden.” Wat voor effecten kunstmatige intelligentie op de arbeidsmarkt gaan hebben, is nu nog niet in de cijfers te zien. “Maar dát het een effect gaat hebben, is zeker,” zegt De Schuyter. “Dan worden ethische discussies ook een stuk ingewikkelder.”

Hoe de politiek robot-ethiek wil gaan tackelen, is nog niet duidelijk. “Dat soort discussies zijn nog erg abstract,” reageert een woordvoerder van GroenLinks. “Wij zijn er zeker mee bezig, maar een politicus kan er pas echt wat mee als het concreter wordt.” Ook de VVD vindt de discussie over kunstmatige intelligentie nog niet concreet genoeg. “Het zou nu nog luchtfietserij worden, daar proberen we altijd zoveel mogelijk van weg te blijven,” ligt een woordvoerder toe.

Hey

Weet je waarom we niet morgen, maar vandáág al over robo-ethiek moeten praten?

En weet je dat robots ons een boost in de evolutie gaan geven?

Volgens De Schuyter kan een potje ‘luchtfietsen’ op dit moment geen kwaad. “Dit jaar lijkt het nog mee te vallen, maar ik denk dat we aan het begin van een curve staan die ineens exponentieel kan toenemen.” Het kan ineens dus hard gaan. “De ontwikkeling van kunstmatige intelligentie is moeilijk te voorspellen. Het zou goed zijn als de politiek daar nu al goede kaders voor afspreekt. Als ze dan niet doen, gaan ze achter de feiten aanlopen.”