Dat zegt Melanie Peters, directeur van het Rathenau Instituut. Ze spreekt aanstaande dinsdag in de Rode Hoed serie It’s the Food, my Friend over ethiek en de ontwikkeling van techniek. Dient technologie ons of gebruikt ze ons?
Tijdens de voorgaande avond in de serie zei professor Michel Haring dat hij niet tegen de toepassing van CRISPR Cas 9 verdelingstechnologie is, maar op voorwaarde dat het om ‘open source’ techniek gaat. Dat is echter niet het geval. Succesvolle toepassingen zullen krachtens het patent de ontwikkelaar rijk maken. Net als in het geval van GMO’s is daarom te verwachten dat toepassingen dienstbaar zullen blijken aan de cumulatie van macht rond verdienmodellen. Techniek maakt die mogelijk, versterkt die en is daarmee bepalend voor de ontwikkeling van de samenleving. Vooral als die techniek haar greep via de infrastructuren van multinationals ontwikkelt.
Marionetten
Op dinsdag 24 april is Melanie Peters de key note spreker over de ethiek rond deze zaken. In de voorbereiding tot het gesprek met Peters sprak ik It’s the Food-organisator Bert van Ruitenbeek. De avond is geprogrammeerd rond de vraag of techniek verdienmodellen of de samenleving dient. In de woorden van Van Ruitenbeek zelf: “hoe zorgen we dat technologie dienend is aan de mens en onze noodzakelijke transitie op het gebied van landbouw en voeding?”
Sinds een tijdje heeft de vraag naar de functie van technologie een naam. Responsible Research and Innovation heet het vak waarin ethici,overheden en bedrijven zich beginnen af te vragen hoe we met de voortdurende stroom nieuwe techniek om moeten gaan. We hebben nauwelijks tijd om te leren hoe we die voor onze doelen kunnen gebruiken. Technologie vernieuwt zich zo snel dat we het risico lopen dat ze gaat bepalen hoe wij leven, zonder dat we zelf hebben kunnen besluiten hoe wij al die nieuwe mogelijkheden willen gebruiken. Daarom spint zich onderwijl een onontkoombaar net om ons heen waarin consumenten marionetten dreigen te worden. Denk bijvoorbeeld aan Facebook. We zijn er met miljarden ingestapt en wisten niet dat we Orwell’s 1984 binnengingen. Nu we het wel weten, heffen we ons account niet op omdat we er al zo diep mee verbonden zijn. Hadden we dat gedaan als we van te voren hadden geweten wat baas Zuckerberg van plan was of waar de techniek zijn gevoel voor eigenbelang toe zou drijven?
’Geweld of slim?’
Ik schetste Peters de vraag van Van Ruitenbeek en vroeg haar wat ze volgende week in de Rode Hoed kwijt wil. “Ach, die transities. Daar weten we al al heel lang van dat ze nodig zijn. Al evenmin is de vraag of we er nieuwe technologieën bij nodig hebben of welke het meest veelbelovend zijn. De vraag is hoe we ze willen inzetten. We staan wat mij betreft voor de keuze of we door willen gaan op het pad van met veel technologisch geweld ingrijpen of slim de natuur voor ons gaan laten werken. Die keuze komt ons als mensen toe. Daar wil ik over vertellen.”
’Misbruik van bewijs’
Technologie leent zich uitstekend voor ingrijpen in natuurlijke processen, nieuwe problemen creëren en daar weer nieuwe technologie voor ontwikkelen. Het is een business model dat gelegitimeerd wordt door bewijs dat we iedere keer opnieuw weer een betere oplossing hebben voor een eerder gecreëerd probleem. Peters: “Zulke bewijzen zijn misbruikt. We zijn op een pad geraakt waarop je techniek moet kunnen beoordelen om er iets over te kunnen zeggen dat hout snijdt. Alleen de expert kan dat nog. De vraag is echter: zijn er wegen die niet steeds het volgende probleem creëren om het vervolgens ontstane probleem met weer een nieuwe oplossing te lijf te gaan?”
Peters praat over technologie als een nieuw geloof met zijn eigen taal die buiten het bereik van het publiek is komen te liggen. Bewijzen dat iets werkt zijn niet na te lopen als je geen expert bent. Andere wegen kan het publiek niet bedenken omdat het is gaan denken dat het met net zulke bewijzen moet komen als de experts. Daar verdwaalt het in en wordt het mee voor gek gezet. “Eigenlijk zijn dat vormen van machtsmisbruik”, zegt Peters. Volgens haar moet het anders: “Draai de bewijslast om en laat niet zien wat je kunt, maar wat het bijdraagt aan de samenleving.” Ook grote bedrijven zouden hun aanpak zo kunnen vormgeven, denkt ze. “Multinationals kunnen samen met het publiek hun doelen stellen en laten zien wat ze bijdragen aan het leven van mensen en hun leefomgeving. Zo werken ze aan een duurzame vertrouwensbasis en behouden ze hun maatschappelijke license to operate.” Hoe dat moet? “Daar zijn een nieuwe taal en een nieuwe houding voor nodig. Bedrijven kunnen uitleggen wat ze proberen te bereiken voor het publiek. In plaats van het managen van de risico’s van hun activiteiten kunnen ze starten met het managen van hun verantwoordelijkheden. Zo kunnen we hen als samenleving weer beoordelen op hun woorden en daden en wordt de machtsbalans in de maatschappij hersteld.”
In de Rode Hoed staat Peters morgen naast onder meer Anne Bruinsma. Bruinsma promoot precisietechnologie voor boeren in Nederland. Zulke technologie zou volgens critici boeren recht in de armen van de grote agridata-multinationals als Bayer-Monsanto en John Deere drijven. Behalve dus als die hun verantwoordelijkheden gaan managen en laten zien wat ze in samenspraak met ons bij gaan dragen aan een beter milieu, schoner en minder milieuvervuilend gemaakt voedsel en een rendabel boerenbedrijf. Dat is immers zo’n beetje wat we willen. Toch?
Dit artikel afdrukken
Marionetten
Op dinsdag 24 april is Melanie Peters de key note spreker over de ethiek rond deze zaken. In de voorbereiding tot het gesprek met Peters sprak ik It’s the Food-organisator Bert van Ruitenbeek. De avond is geprogrammeerd rond de vraag of techniek verdienmodellen of de samenleving dient. In de woorden van Van Ruitenbeek zelf: “hoe zorgen we dat technologie dienend is aan de mens en onze noodzakelijke transitie op het gebied van landbouw en voeding?”
Sinds een tijdje heeft de vraag naar de functie van technologie een naam. Responsible Research and Innovation heet het vak waarin ethici,overheden en bedrijven zich beginnen af te vragen hoe we met de voortdurende stroom nieuwe techniek om moeten gaan. We hebben nauwelijks tijd om te leren hoe we die voor onze doelen kunnen gebruiken. Technologie vernieuwt zich zo snel dat we het risico lopen dat ze gaat bepalen hoe wij leven, zonder dat we zelf hebben kunnen besluiten hoe wij al die nieuwe mogelijkheden willen gebruiken. Daarom spint zich onderwijl een onontkoombaar net om ons heen waarin consumenten marionetten dreigen te worden. Denk bijvoorbeeld aan Facebook. We zijn er met miljarden ingestapt en wisten niet dat we Orwell’s 1984 binnengingen. Nu we het wel weten, heffen we ons account niet op omdat we er al zo diep mee verbonden zijn. Hadden we dat gedaan als we van te voren hadden geweten wat baas Zuckerberg van plan was of waar de techniek zijn gevoel voor eigenbelang toe zou drijven?
We zijn op een pad geraakt waarop je techniek moet kunnen beoordelen om er iets over te kunnen zeggen dat hout snijdt. Alleen de expert kan dat nogTransitie is trouwens ook een woord om even bij stil te staan. Er is inmiddels een heel leger mensen op de been dat zich de betekenis van het woord toe heeft geëigend, zonder duidelijk te maken wat ze er precies onder verstaan. Maar ze oefenen er wel macht mee uit of proberen dat. Dat doen ze nauwelijks anders dan de grote firma’s die zich lenen om techniek zo ruim baan te geven dat we als publiek niet meer kunnen zeggen wat we willen om prettig, en misschien wel gelukkig, te leven.
’Geweld of slim?’
Ik schetste Peters de vraag van Van Ruitenbeek en vroeg haar wat ze volgende week in de Rode Hoed kwijt wil. “Ach, die transities. Daar weten we al al heel lang van dat ze nodig zijn. Al evenmin is de vraag of we er nieuwe technologieën bij nodig hebben of welke het meest veelbelovend zijn. De vraag is hoe we ze willen inzetten. We staan wat mij betreft voor de keuze of we door willen gaan op het pad van met veel technologisch geweld ingrijpen of slim de natuur voor ons gaan laten werken. Die keuze komt ons als mensen toe. Daar wil ik over vertellen.”
’Misbruik van bewijs’
Technologie leent zich uitstekend voor ingrijpen in natuurlijke processen, nieuwe problemen creëren en daar weer nieuwe technologie voor ontwikkelen. Het is een business model dat gelegitimeerd wordt door bewijs dat we iedere keer opnieuw weer een betere oplossing hebben voor een eerder gecreëerd probleem. Peters: “Zulke bewijzen zijn misbruikt. We zijn op een pad geraakt waarop je techniek moet kunnen beoordelen om er iets over te kunnen zeggen dat hout snijdt. Alleen de expert kan dat nog. De vraag is echter: zijn er wegen die niet steeds het volgende probleem creëren om het vervolgens ontstane probleem met weer een nieuwe oplossing te lijf te gaan?”
Bedrijven kunnen uitleggen wat ze proberen te bereiken voor het publiek. In plaats van het managen van de risico’s van hun activiteiten kunnen ze starten met het managen van hun verantwoordelijkheden. Zo kunnen we hen als samenleving weer beoordelen op hun woorden en daden en wordt de machtsbalans in de maatschappij hersteld’Managen van verantwoordelijkheid’
Peters praat over technologie als een nieuw geloof met zijn eigen taal die buiten het bereik van het publiek is komen te liggen. Bewijzen dat iets werkt zijn niet na te lopen als je geen expert bent. Andere wegen kan het publiek niet bedenken omdat het is gaan denken dat het met net zulke bewijzen moet komen als de experts. Daar verdwaalt het in en wordt het mee voor gek gezet. “Eigenlijk zijn dat vormen van machtsmisbruik”, zegt Peters. Volgens haar moet het anders: “Draai de bewijslast om en laat niet zien wat je kunt, maar wat het bijdraagt aan de samenleving.” Ook grote bedrijven zouden hun aanpak zo kunnen vormgeven, denkt ze. “Multinationals kunnen samen met het publiek hun doelen stellen en laten zien wat ze bijdragen aan het leven van mensen en hun leefomgeving. Zo werken ze aan een duurzame vertrouwensbasis en behouden ze hun maatschappelijke license to operate.” Hoe dat moet? “Daar zijn een nieuwe taal en een nieuwe houding voor nodig. Bedrijven kunnen uitleggen wat ze proberen te bereiken voor het publiek. In plaats van het managen van de risico’s van hun activiteiten kunnen ze starten met het managen van hun verantwoordelijkheden. Zo kunnen we hen als samenleving weer beoordelen op hun woorden en daden en wordt de machtsbalans in de maatschappij hersteld.”
In de Rode Hoed staat Peters morgen naast onder meer Anne Bruinsma. Bruinsma promoot precisietechnologie voor boeren in Nederland. Zulke technologie zou volgens critici boeren recht in de armen van de grote agridata-multinationals als Bayer-Monsanto en John Deere drijven. Behalve dus als die hun verantwoordelijkheden gaan managen en laten zien wat ze in samenspraak met ons bij gaan dragen aan een beter milieu, schoner en minder milieuvervuilend gemaakt voedsel en een rendabel boerenbedrijf. Dat is immers zo’n beetje wat we willen. Toch?
Nog 3
Je hebt 0 van de 3 kado-artikelen gelezen.
Op 5 april krijg je nieuwe kado-artikelen.
Op 5 april krijg je nieuwe kado-artikelen.
Als betalend lid lees je zoveel artikelen als je wilt, én je steunt Foodlog
Lees ook
Zie ook vpro tegenlicht van gisteravond, over algoritmen, en hoe we omgaan met technologie.
Zo is dat Carolien: verslaafd aan algoritimen. En dat is natuurlijk ook doodgewoon wat de toekomstvoorspellende historicus Yuval Harari neerzet.
Ik moet er altijd een beetje om glim- en grimlachen. We - krantenlezers, de natuurkundige Hawking (hij overleedt recent) - zijn bang voor het moment waarop Artifical Intelligence in de vorm van robots de wereld overneemt. Maar dat is de aard van technologie die zo goed is en zo'n momentum heeft bereikt, dat'ie beter kan rekenen en ons én de natuur beter kan simuleren dan wij.
Vandaar die keuze die Harari stelt: willen we mensen zijn of vinden we het toch leuker om cyborgs (machines met nog iets van vlees en bloed) te worden en onsterfelijkheid te bereiken via een back-up van de gedachten en denkkracht (= onze 'gekke', al te menselijke algoritmen) in ons hoofd? Die tweede keuze is overigens niet per definitie de foute, als we het maar bewust doen. Nu gebeurt het alleen maar.
Het zijn overigens heel oude thema's en ze werden al diverse malen in de geschiedenis voorzien op een theoretische manier. Denk bijvoorbeeld aan de 16e eeuwer Nostradamus en de twintigste eeuwer Jacques Ellul. Nu wordt het denken over onze relatie tot techniek in de dagdagelijkse wereld politiek relevant omdat technologie echt op stoom is gekomen en zich autonoom kan ontwikkelen. Dat maakt het thema in onze tijd nieuw en niet langer theoretisch (en uiteraard: de laatste 200 jaar zijn al tamelijk praktisch en vergden steeds keuzen, waarvan er vele niet bewust gemaakt zijn maar 'gebeurden').
Zoals in de tekst ook naar voren komt, is het belangrijk om het achterliggende probleem van geld en macht aan te pakken. Techniek staat daar weer in dienst van. Als iets sneller, effectiever en/of goedkoper gedaan kan worden met techniek dan wordt dat heel snel gedaan, en of er nu flinke nadelen aan zitten op lange termijn is niet belangrijk.
Wij staan in dienst van de techniek, en de techniek staat in dienst van het geld en macht. Ik ben benieuwd of het eerste probleem wel op te lossen is zonder iets te doen aan het tweede.
Overigens is veel techniek voornamelijk handig om problemen op te lossen die we zonder techniek niet hadden gehad. Het lijkt alsof we heel hard rennen, echter er gaat veel energie verloren door het rennen in rondjes om de ontstane problemen weer op te lossen. Als het doel echte vooruitgang wordt ipv meer geld en macht creëren, dan pas los je de problemen op.
Daarom gaat dus de 'Groene Revolutie 2.0' of de 'agro ecologie' over veel meer dan een derde weg of een mentale transitie. Het zijn diepgevoelde perspectieven van de werkelijkheid. Want waarom zou je anders de boeren naast 'agency' niet fijne high tech gunnen?
Otto, zoals Woody Allen placht te zeggen: "Ik ben buitengewoon verheugd dat mijn been in de 21ste eeuw moet worden afgezet in plaats van in de 19de"