Volgens Deborah Nas, hoogleraar Innovatie aan de TU Delft, is mijn reactie wel verklaarbaar: “De angst voor nieuwe dingen is reëel,” legt zij uit. “We hebben een ‘oud’ referentiekader, waar nieuwe ontwikkelingen niet altijd in passen.” Dat betekent voor veel mensen dat alles wat is uitgevonden na je 35e voelt als indruisend tegen de natuurlijke orde der dingen. Dat wantrouwen jegens dingen waar ik niet mee ben opgegroeid herken ik wel, maar is dat angst voor het onbekende? Of een gezonde kritische houding, gebaseerd op levenservaring?
Data management
De gemiddelde leeftijd van de Amerikaanse melkveehouder is 59 jaar. Tijdens de Global Future Farming Summit in november werd dat feit gepresenteerd als zorgwekkend: zulke oude mensen staan veel te weinig open voor technologieën die de agrosector volledig gaan transformeren (zie ook dit artikel op Foodlog). Het schijnt namelijk de bedoeling te zijn dat alle data van landbouwbedrijven worden verzameld tot ‘Big Data’ die vervolgens via zelflerende algoritmes en handige apps weer ten goede komen aan de boeren: ‘Manage data, harvest information’ noemt Matt Waits van Proagrica (proagrica.com) dat.
Natuurlijk kan het bijeenbrengen van data uit verschillende bronnen ons vooruit helpen. Maar…Mijn eerste reactie is: Dat moet andersom, je verzamelt gegevens, die interpreteer je en verwerk je (met verstand van zaken graag) tot nuttige informatie die weer toepasbaar is voor de boer. Ook in het voedingsonderzoek wordt veel waarde gehecht aan big data. En natuurlijk kan het bijeenbrengen van data uit verschillende bronnen ons vooruit helpen. Maar…
De technologie tussen de dataverzameling en de toepassing is volstrekt onhelder, evenals het verdienmodel van de infotechbedrijven. Van alle kanten wordt mij verzekerd dat degene die de data aanlevert ook de eigenaar van die data blijft. De data van akkerbouwers worden in de vorm van ‘big data’ gevoerd aan zelflerende algoritmes, die dan bij voorbeeld teeltadviezen ontwerpen die de akkerbouwer via een app in staat stellen om precisielandbouw toe te passen. De techbedrijven ontwikkelen die algoritmen overigens niet zelf, vertelde Waits mij: “We krijgen die algoritmen van andere bedrijven, bijvoorbeeld van Monsanto.”
'Garbage in equals garbage out'
Onder het thema bosbranden zijn op Foodlog al eerder discussies gevoerd over het nut van ingewikkelde rekenmodellen ten opzichte van ‘gezond boerenverstand’. Vaak blijken vakmanschap en ervaring toch nog steeds nuttiger dan zelflerende algoritmes.
De app leek perfect te functioneren, totdat er toch steeds meer foute diagnoses optradenNog een leuke anekdote in dit verband: Het is wenselijk om bij te houden waar wolven zich ophouden en verspreiden. Sommige hondenrassen zijn echter moeilijk op uiterlijk te onderscheiden van wolven en dus kwam er iemand op het idee om hiervoor een app te ontwikkelen. Op basis van heel veel foto’s van honden en wolven werd een zelflerend algoritme gemaakt dat wel onderscheid moest kunnen maken tussen hond en wolf. De app leek perfect te functioneren, totdat er toch steeds meer foute diagnoses optraden. Wat bleek? Alle wolvenfoto’s in het Big Data bestand waren genomen in de sneeuw, terwijl geen van de honden in de sneeuw was gefotografeerd. De app was dus – dankzij het zelflerende algoritme – perfect in staat om onderscheid te maken tussen ‘een beest in de sneeuw’ en ‘een beest niet in de sneeuw’.
Ros Harvey, oprichter en directeur van The Yield, erkent dit probleem: “Alles staat of valt met de kwaliteit van je inputdata,” benadrukt zij: “Garbage in equals garbage out.” Ook wijst zij erop dat data en data management niet gratis zijn. Om te voorkomen dat je eigen gegevens tegen je gebruikt worden, moeten we dus streven naar datamarkten, en datamonopolies tegengaan, vindt Harvey.
Transparantie
Op vragen over transparantie in de keten is het ultieme antwoord tegenwoordig: ‘blockchain’. Beetje jammer dat bijna niemand weet wat dat precies is. Het schijnt zo te zijn dat informatie in blokken steeds gekoppeld wordt, je kunt niets wijzigen, alleen toevoegen en iedereen heeft steeds een kopie van de hele blockchain. Een onfeilbaar systeem… Net als de Titanic, denk ik dan.
Blockchain, een onfeilbaar systeem… Net als de Titanic, denk ik danAls ik om me heen kijk, dan is dat ook niet het type transparantie waar de gemiddelde mens op zit te wachten. Ik wil in de supermarkt kunnen zien uit welk land de sperziebonen komen en een plaatje van de aardappelteler op de zak Opperdoezers vind ik ook leuk. Eieren zelf halen bij een lokale zorgboerderij of een boeket bloemen uit de pluktuin hier in de straat, dat verbindt producent en consument, een QR-code niet.
Risico’s
Het implementeren van al die nieuwe technologie – zelfrijdende machines, precisielandbouw op basis van zelflerende algoritmes, supply chain management met behulp van blockchain technologie, farm management met behulp van een app – gaat het leven van een boer een heel stuk gemakkelijker maken. Of niet?
Als ik een vraag stel over risico’s, dan is het antwoord dat er zeker aandacht moet zijn voor privacy en bescherming tegen hackers. Concreet wordt het zelden. En wat gebeurt er als er simpelweg iets technisch niet functioneert, zelfs zonder kwade opzet? Tijdens de Global Future Farming Summit is het mij de hele dag niet gelukt om contact te maken met het Eduroam-wifi-systeem van de WUR. Als gevolg daarvan kon ik niet meedoen met de geinige peilingen met behulp van Mentimeter. Allemaal geen ramp, maar als ik als akkerbouwer afhankelijk ben van mijn smartphone voor het management van mijn bedrijf, dan heb ik wel een probleem.
Als het internet uitvalt, dan zullen we al die bijna zestig jaar oude boeren nog hard nodig hebbenEn dan nog iets: Hightech, data-driven bedrijven worden meestal bemand door enthousiaste jonge honden die de toekomst omarmen en vormgeven. Lekker out-of-the-box denken en old-school-sectoren zoals de landbouw ‘disrupten’ met innovatieve concepten. Leuk en nuttig, maar niet geheel zonder risico. Naar mijn mening moeten er in elk team ook wat ‘grumpy old men and women’ rondlopen, die de millennials af en toe wat tegengas geven, inside-the-box blijven en daar het fort bewaken dat zich – zeker in de agrosector – al duizenden jaren bewezen heeft.
Als het internet uitvalt, dan zullen we al die bijna zestig jaar oude boeren nog hard nodig hebben: Zij weten nog hoe je ‘ambachtelijk’ een landbouwbedrijf runt.
Wantrouwen
Mijn wantrouwen hangt vast en zeker samen met mijn leeftijd. Ik herinner me de opkomst van de personal computer en kon me niet voorstellen dat daar grootschalig behoefte aan zou zijn: Wat moet een mens thuis met een computer? Boodschappenlijstjes maken? Als trendwatcher of toekomstvoorspeller ben ik dus zeker niet gekwalificeerd. Maar toch …
Mijn wantrouwen is niet zozeer gericht tegen de technologie, als wel tegen de mensen, of liever tegen de arrogantie of hubris van mensenIk ben niet alleen maar oud en bang, ik ben ook gewoon kritisch, op basis van het verleden: De ontwikkeling van de atoombom zou een einde maken aan de wapenwedloop. De ontwikkeling van het world wide web zou de hele wereld verbinden, kennis wordt voor iedereen beschikbaar, dus armoede en honger worden uitgebannen. Computers zouden ervoor zorgen dat er veel minder papier wordt gebruikt, dus veel minder bomen gekapt. Social media brengen mensen met elkaar in contact en vergroten het onderlinge begrip: nooit meer oorlog.
Mijn wantrouwen is niet zozeer gericht tegen de technologie, als wel tegen de mensen, of liever tegen de arrogantie of hubris van mensen: Alle technologie wordt door ons gemaakt en alle fouten die we daarbij maken zitten dus ingebakken in de technologie. Er gaat dus fundamenteel iets mis als we kritiekloos vertrouwen op algoritmes, robots of apps. Achter al die technologie gaan mensen schuil, met hun menselijke tekortkomingen. Het idee dat robots en computers in de toekomst ‘beter’ zullen zijn dan wij, is een illusie. Het feit dat een computer een potje schaak of go van ons kan winnen, zegt mij niets.
Bovenstaande tekst is een iets aangepaste en ingekorte versie van mijn verhaal dat in december is verschenen in De Molenaar, Vakblad voor de graanverwerkende en diervoederindustrie.
Op 5 mei krijg je nieuwe kado-artikelen.
Als betalend lid lees je zoveel artikelen als je wilt, én je steunt Foodlog
Heel fijn zo'n artikel, want ik voel dezelfde weerstand en irritatie.
>> Ik wil in de supermarkt kunnen zien uit welk land de sperziebonen komen en een plaatje van de aardappelteler op de zak Opperdoezers vind ik ook leuk. <<
Prima hoor, net als een koe op een pak koemelk.
Maar houdt die plaatjes dan wel realistisch en geen plaatje van een complete fruitmand op de yoghurt/kwark waar ik met een vergrootglas moet zoeken naar fruit.
Code op het ei vind ik aangenaam, maar ik hoef echt niet te weten welke kip dat ei heeft gelegd.
Algorithmen zijn vaak 'gebiased' (Carolien schreef ergens 'Monsanto'), dwz niet waardenvrij (voor zover je bij een algorithme daarvan kan spreken). Meestal is onduidelijk hoe, maar vaak wordt de welvarende witte man bevoordeeld bijvoorbeeld. Overigens, dat je je ongemakkelijk voelt bij allerlei ontwikkelingen, kan er ook mee te maken hebben dat je het gevoel hebt eruit te liggen, en dat er indirect met je aangesold kan worden, 'want die snapt het toch niet meer, dus wij nemen de beslissingen wel'.
Carolien, in zekere zin stel je precies dezelfde vraag als Yuval Harari in zijn Homo Deus (maar dan veel praktischer): gebruiken we ons verstand of volgen we de logica die we in een algoritme hebben gestopt dat zichzelf verder ontwikkelt op basis van die beperking?
Ik ben voor alle twee en dus voor heel diverse algoritmen. Als ik jou zo lees, krijgen we daar geen ruzie over. Harari zou ons prijzen: de menselijkheid gered!
Mooi stuk Carolien!
Het citaat in de tekst van Ros Harvey (“Alles staat of valt met de kwaliteit van je inputdata”) is m.i. tekenend voor de beperkte diepte waarop er nagedacht wordt over de problemen achter zelflerende algoritmes. Natuurlijk is het waar dat 'garbage in' leidt tot 'garbage out', maar het veel fundamentelere probleem is dat algoritmes niets meer of minder doen dan waarvoor ze ontworpen worden.
Het lijkt alsof ze vanzelf leren en daardoor mogelijke fouten vanzelf wel zullen verdwijnen of ze vanzelf 'beter' worden in hun taak, maar hoe ze leren zit ingebakken in het door mensenhanden gemaakte ontwerp. Daardoor zitten er (impliciete) keuzes bij in, en die bepalen mede hoe het algoritme zich zal gedragen. De definitie van 'beter' m.b.t. de taak is al een voorbeeld van iets waar keuzes een rol in spelen.
Ik vind dit zorgelijk omdat ik merk dat mensen het buitengewoon lastig vinden om alleen al van hun eigen denken te achterhalen welke vooronderstellingen ze hebben. Dat geldt in de breedste zin van het woord. Dat begint al bij alledaagse dingen waarbij dat wat we normaal vinden sterk door de cultuur waarin we leven wordt bepaald. In Japan is bijvoorbeeld het verliezen van een baan zo'n reden voor schaamte dat er met regelmaat mensen zelfmoord door plegen; in Nederland begrijpen we daar niets van. Maar de doorvlechting met vooronderstellingen geldt evengoed voor technische keuzes, zoals die bijvoorbeeld terugkomen in het ontwerp van wetenschappelijke studies (hier al vaak besproken).
Het punt is dus dit: als we al niet eens in staat (of bereid) zijn om de vooronderstellingen achter onze eigen keuzes te zien, hoe veel verder uit beeld blijven ze dan wel niet bij 'zelflerende' algoritmes? Wat betekent dat voor de inrichting van onze maatschappij, die zich immers steeds meer verlaat op algoritmes? Als vooronderstellingen vastgelegd zitten in maatschappij-bepalende algoritmes, wordt het dan niet veel lastiger om daar ooit nog iets aan te veranderen? Bij mensen sterven ideeën op zijn minst nog met de mens, en is er daardoor sprake van continue herijking, maar bij algoritmes is er geen sprake van natuurlijke dood.
Prachtig artikel Carolien! Helemaal mee eens! Je zegt 'Vaak blijken vakmanschap en ervaring toch nog steeds nuttiger dan zelflerende algoritmes.'. Vergelijk, Vandana Shiva: “Does Big data mean knowledge? No, it doesn’t. No, Big Data in a big ocean of ignorance, is just more ignorance.” Laten we niet vergeten dat de landbouw ook andere waarden vertegenwoordigt. Vandana: “Agriculture is the ultimate coevolution of human beings with the Earth. It is the expression of the highest level of creativity.” Ik herinner me nog ooit een grappige column van Koos van Zomeren, een groot schrijver als we het over de landbouw hebben, en zijn campagne 'Bomen voor koeien'. Heel actueel: Koos verbaasde zich dertig jaar geleden al over het feit dat alle koeien in een weiland dezelfde leeftijd hadden. Dat kan niet goed gaan, alleen maar pinken bij elkaar, lopen in hun enthousiasme allemaal tegelijk in dezelfde sloot. Vergelijk jouw 'Hightech, data-driven bedrijven worden meestal bemand door enthousiaste jonge honden die de toekomst omarmen en vormgeven'. Common Sense is van veel grotere waarde dan we vaak beseffen, het heet niet voor niets in het Nederlands: boerenslimheid.