2 min
Volautomatische trekkers, melkrobots, besproeiing met drones en precisie-bemesting zijn al lang geen science fiction meer in de landbouw. Grote bedrijven zijn al bezig met de next generation 'ag bots' en slimme beslisbomen die de mens overbodig maken op de boerderij. Maar tot nu toe lijkt niemand zich nog zorgen te maken over de risico's die de snelle uitrol van artificial intelligence (AI) in de landbouw met zich meebrengt.
Die vraag stelde een team onderzoekers van het Centre for the Study of Existential Risk (CSER) van de universiteit van Cambridge nou juist wel. En het antwoord is behoorlijk slikken. De risico's van agri-AI worden flink onderschat maar zijn wel substantieel.
Je moet er niet aan denken dat een cyberaanval een agrarisch bedrijf plat legt door de data uit de geautomatiseerde systemen te corrumperen en zo sproeisystemen, drones of oogstrobots stilzet. In één klap kan de voedselzekerheid van miljoenen mensen op het spel komen te staan. Toch komt dat al voor. Vorig jaar legde een cyberattack JBS, 's werelds grootste vleesverwerker, plat. Verschillende slachterijen in de VS, Canada en Australië moesten dagenlang de deuren sluiten. Ook wisten Russische cybercriminelen veevoerbedrijf NEW Cooperation te hacken, waardoor de voedselvoorziening van 11 miljoen dieren in gevaar kwam.
'Ethische hackers' en ecologen
Dat betekent bijvoorbeeld dat ethische hackers al tijdens de ontwikkeling bedrijven helpen zwakke plekken in de beveiliging in kaart te brengen, zodat echte hackers geen kans maken. Maar het gaat niet alleen om de (computer)technische kant. Een AI-programma dat bedoeld is om op korte termijn de grootste opbrengsten te genereren, zou ongunstige lange termijneffecten kunnen hebben door overbemesting, bodemerosie en overmatig gebruik van pesticiden. Om dat te voorkomen is het onontbeerlijk dat bijvoorbeeld een ecoloog meekijkt tijdens de ontwikkeling.
Er is nog een risico aan het grootschalig gebruik van AI in de landbouw: de blinde vlek die juist kleine boeren vormen. Het merendeel van de boeren wereldwijd zijn 'smallholders' die genoeg verbouwen om hun eigen familie te voeden en misschien nog wat extra naar de markt kunnen brengen. Door de lage penetratiegraad van internet kunnen kleine boeren geen gebruik maken van geavanceerde technologieën en voor de geautomatiseerde nieuwste snufjes en machines hebben ze geen geld. AI dreigt de kloof tussen commerciële en zelfvoorzienende boeren dan ook nog verder te verwijden.
Voedselonzekerheid
AI is ontwikkeld met het oog op het optimaliseren van gewassen voor stapelvoedsel zoals tarwe, rijst en mais. Voor de gewassen die van cruciaal belang zijn voor arme zelfvoorzienende boeren (denk aan quinoa, cassave of sorghum) is veel minder aandacht. En dat heeft tot gevolg dat allerlei kleinschalige vormen van het boerenbestaan die voldoende voedsel opleveren en tegelijk de bodemvruchtbaarheid verbeteren, plagen in toom houden en de agrobiodiversiteit op peil houden, ondervertegenwoordigd zijn in de AI-datasets. Met het oog op de groeiende wereldbevolking én de klimaatverandering dreigt een verkeken kans op verbetering van de voedselproductie van de 2 miljard mensen die kampen met voedselonzekerheid.
Dit artikel afdrukken
Je moet er niet aan denken dat een cyberaanval een agrarisch bedrijf plat legt door de data uit de geautomatiseerde systemen te corrumperen en zo sproeisystemen, drones of oogstrobots stilzet. In één klap kan de voedselzekerheid van miljoenen mensen op het spel komen te staan. Toch komt dat al voor. Vorig jaar legde een cyberattack JBS, 's werelds grootste vleesverwerker, plat. Verschillende slachterijen in de VS, Canada en Australië moesten dagenlang de deuren sluiten. Ook wisten Russische cybercriminelen veevoerbedrijf NEW Cooperation te hacken, waardoor de voedselvoorziening van 11 miljoen dieren in gevaar kwam.
Een cyberaanval kan een agrarisch bedrijf volledig platleggen door sproeisystemen, drones of oogstrobots stil te zetten. In één klap kan de voedselzekerheid van miljoenen mensen op het spel komen te staan"AI wordt bejubeld als de manier om een revolutie in de landbouw teweeg te brengen," zegt Seán Ó héigeartaigh, uitvoerend directeur van CSER. "Als we deze technologie op grote schaal inzetten, moeten we goed nadenken over mogelijke risico's en ernaar streven die al in een vroeg stadium van het technologieontwerp te beperken."
'Ethische hackers' en ecologen
Dat betekent bijvoorbeeld dat ethische hackers al tijdens de ontwikkeling bedrijven helpen zwakke plekken in de beveiliging in kaart te brengen, zodat echte hackers geen kans maken. Maar het gaat niet alleen om de (computer)technische kant. Een AI-programma dat bedoeld is om op korte termijn de grootste opbrengsten te genereren, zou ongunstige lange termijneffecten kunnen hebben door overbemesting, bodemerosie en overmatig gebruik van pesticiden. Om dat te voorkomen is het onontbeerlijk dat bijvoorbeeld een ecoloog meekijkt tijdens de ontwikkeling.
Er is nog een risico aan het grootschalig gebruik van AI in de landbouw: de blinde vlek die juist kleine boeren vormen. Het merendeel van de boeren wereldwijd zijn 'smallholders' die genoeg verbouwen om hun eigen familie te voeden en misschien nog wat extra naar de markt kunnen brengen. Door de lage penetratiegraad van internet kunnen kleine boeren geen gebruik maken van geavanceerde technologieën en voor de geautomatiseerde nieuwste snufjes en machines hebben ze geen geld. AI dreigt de kloof tussen commerciële en zelfvoorzienende boeren dan ook nog verder te verwijden.
Voedselonzekerheid
AI is ontwikkeld met het oog op het optimaliseren van gewassen voor stapelvoedsel zoals tarwe, rijst en mais. Voor de gewassen die van cruciaal belang zijn voor arme zelfvoorzienende boeren (denk aan quinoa, cassave of sorghum) is veel minder aandacht. En dat heeft tot gevolg dat allerlei kleinschalige vormen van het boerenbestaan die voldoende voedsel opleveren en tegelijk de bodemvruchtbaarheid verbeteren, plagen in toom houden en de agrobiodiversiteit op peil houden, ondervertegenwoordigd zijn in de AI-datasets. Met het oog op de groeiende wereldbevolking én de klimaatverandering dreigt een verkeken kans op verbetering van de voedselproductie van de 2 miljard mensen die kampen met voedselonzekerheid.
Nog 3
Je hebt 0 van de 3 kado-artikelen gelezen.
Op 5 mei krijg je nieuwe kado-artikelen.
Op 5 mei krijg je nieuwe kado-artikelen.
Als betalend lid lees je zoveel artikelen als je wilt, én je steunt Foodlog
Lees ook
Waarom zouden we ons hier druk om maken? Misschien zouden we ons beter druk kunnen maken in het voorkomen van geopolitieke conflicten i.p.v. landen in het harnas jagen.
Het legt eigenlijk precies de pathologie bloot van het Westen: ontkennen van het echte probleem en doorgaan met het bestrijden van de symptomen. Ziekelijk. Zeer kostbaar ook, levensgevaarlijk in dit geval en bovenal oliedom!
Ik ben wel blij met deze aandacht voor de risico's van AI en Big Data. Veel te vaak hoor/lees ik alleen maar hoeraverhalen hierover.
#1 Waarom we ons hier zorgen om moeten maken?
We zijn kwetsbaar en afhankelijk van internet en AI is een zwakke plek in ons systeem. Daarnaast zijn we ook afhankelijk van energie (elektriciteit en diesel). Als die niet beschikbaar zijn heb je echt een probleem.
Je zal je stal met koeien maar niet kunnen melken en de diergezondheid achteruit zien hollen…
Het is: risico x kans
De kans is nu groter maar het risico was er al.
We zijn kwetsbaar en afhankelijk.
Een deel van de kwetsbaarheden voor hacking ligt - heb ik begrepen van mensen uit de data-integratie die er echt verstand van hebben - aan de eerste generatie (Turkse) software. Dat was bijvoorbeeld de reden dat de hack bij JBS zo makkelijk was. Dergelijke kwetsbaarheden schijnen nog bij de nodige bedrijven voor te komen, al mag ik aannemen dat die ‘nodige bedrijven’ juist maatregelen hebben genomen. Hoeveel? Dat staat niet in de krant.
De discussie is wellicht geholpen bij de constatering dat er volgens mij 3 elementen zitten in het nuttige stukje van Cecile:
* het aspect van cybersecurity (dat staat los van AI en groot/klein). Dat komt door centralisatie van software en bestanden met data (ín de cloud), door het feit dat van alles aan elkaar is geknopt. Niet heel veel anders dat dat er ook (te) veel vertrouwd wordt op energie-zekerheid omdat we in Nederland nauwelijks black-outs in de energievoorziening kennen. En vaak is er dan geen snelle oplossing door weer met de hand te melken omdat daarvoor te weinig mensen aanwezig zijn die het überhaupt kunnen. Of cases zoals JBS en nu de magnetrons van AEG die verkeerde software-upgrade hebben gehad en zich gedragen als een stoomoven zodat er een monteur langs de deuren moet. Met Software as a Service (het Tesla-model waarin je centraal diensten in de machine upgrade) neemt dit effect toe. Overigens hebben bedrijven hier wel steeds meer aandacht voor, in Nederland organiseert de standaardorganisatie AgroConnect lezingen voor professionals.
* iets anders is AI waarbij de mens niet altijd meer kan achterhalen waarom de camera's kiemplantje A een onkruid vinden en B niet. Of een dier laten afvoeren om onduidelijke reden. Als het om mensen gaat is dat snel verbonden met gebrek aan inclusiviteit, impliciet racisme, biases in de software bij bepaalde typen mensen omdat die te weinig in het trainingsmateriaal zitten etc. Vaak ontstaan dit soort problemen door techno-optimisme, teveel vertrouwen in technologie en een ontbreken van ethische discussies bij het ontwerp van de software. Terwijl elke innovatie onverwachte gevolgen (unintended consequences) heeft.
Ik zou niet snel met een voorbeeld kunnen komen waar dit op dit moment binnen een bedrijfstoepassing mis zou kunnen gaan. Als het gaat om inzet bij controleren van boeren (of snelweg-gebruikers) kan ik me er wel wat bij voorstellen, maar binnen puur technische toepassingen zoals predictive maintenance? (tja, als de voorspelling van onderhoudsbehoefte van de machine fout gaat, kan er iemand een ongeluk krijgen) ?
* een derde punt in het stuk is dat nieuwe technologie wordt ingezet op grote gewassen en problemen omdat daar een business model ligt. Kleine problemen en gewassen kunnen de vaste kosten van de forse investering niet dragen. Dit kan tot verschraling leidden. Dat is overigens verre van uniek voor ICT. Het geldt ook voor bv. gewasbeschermingsmiddelen of zelfs klassieke mechanisatie.
Evenzo leidt ICT tot schaalvergroting (het zijn vaste kosten) en tot concentratie: het is aantrekkelijker daar te produceren waar er 5G is en ICT experts in de buurt (bv. Nederland) dan waar dat ontbreekt (bv. delen van Frankrijk).