Uit de grootste enquête tot nu toe onder AI-onderzoekers blijkt dat meer dan de helft van hen de kans dat de mens uitsterft door de mogelijke ontwikkeling van bovenmenselijke Artificial Intelligence (AI) op 5% schat.
AI-experts "hebben geen goede staat van dienst" als het gaat om het voorspellen van toekomstige AI-ontwikkelingen
"Het is een belangrijk signaal dat de meeste AI-onderzoekers het niet sterk ongeloofwaardig vinden dat geavanceerde AI de mensheid vernietigt," zegt Katja Grace van het Machine Intelligence Research Institute in New Scientist. "Ik denk dat dit algemene geloof in een niet-minuscuul risico veelzeggender is dan het exacte percentage risico."
Grace ondervroeg met een enquête 2.700 AI-onderzoekers die het afgelopen jaar resultaten hebben gepubliceerd tijdens een zestal top-AI-conferenties. De vragen betroffen onder meer de mogelijke tijdpaden voor toekomstige technologische mijlpalen op het gebied van AI en de goede of slechte maatschappelijke gevolgen van die prestaties. Bijna 58% van de onderzoekers gaf aan dat er volgens hen een kans van 5% is dat de mens uitsterft door de mogelijke ontwikkeling van bovenmenselijke AI.
Dat is overigens geen reden tot paniek, zegt Emile Torres van de Case Western Reserve University in Ohio. AI-experts "hebben geen goede staat van dienst" als het gaat om het voorspellen van toekomstige AI-ontwikkelingen. Dat erkent Grace ook ruimhartig. Wel wijst Grace erop dat vergeleken met de antwoorden uit de 2022-versie van dezelfde enquête er een fikse versnelling in het bereiken van bepaalde mijlpalen te zien is. Dat zou goed te verklaren zijn uit de lancering van ChatGPT in november 2022 en de haast van techbedrijven om hun eigen AI-taalmodellen te lanceren (zoals Bard van Google).
De versnelling blijkt bijvoorbeeld uit de inschatting dat de 50%-kans dat AI de mens in elke taak gaat overtreffen bereikt zou worden in 2047, en de 50%-kans dat alle menselijke banen volledig automatiseerbaar zouden worden op 2116. Dat is respectievelijk 13 jaar en 48 jaar eerder dan in het onderzoek van vorig jaar.
Maar ook zonder de zorg dat de mens zou kunnen uitsterven door bovenmenselijke AI-risico's, zijn er andere directe AI-risico's. Zo noemde ruim 70% van de ondervraagde AI-onderzoekers AI-scenario's met "deepfakes, manipulatie van de publieke opinie, gemanipuleerde wapens, autoritaire controle over bevolkingen en verergering van de economische ongelijkheid als zeer zorgwekkend of extreem zorgwekkend", aldus New Scientist.
Ook het gevaar dat AI bijdraagt aan desinformatie rond belangrijke kwesties zoals klimaatverandering of het democratisch proces is reëel. "We hebben hier en nu al de technologie die de [Amerikaanse] democratie ernstig zou kunnen ondermijnen," waarschuwt Torres. "We zullen zien wat er gebeurt bij de verkiezingen van 2024." En bij de vele andere verkiezingen die komend jaar op stapel staan: bijna de helft van de wereldbevolking gaat naar de stembus.
Grace ondervroeg met een enquête 2.700 AI-onderzoekers die het afgelopen jaar resultaten hebben gepubliceerd tijdens een zestal top-AI-conferenties. De vragen betroffen onder meer de mogelijke tijdpaden voor toekomstige technologische mijlpalen op het gebied van AI en de goede of slechte maatschappelijke gevolgen van die prestaties. Bijna 58% van de onderzoekers gaf aan dat er volgens hen een kans van 5% is dat de mens uitsterft door de mogelijke ontwikkeling van bovenmenselijke AI.
Dat is overigens geen reden tot paniek, zegt Emile Torres van de Case Western Reserve University in Ohio. AI-experts "hebben geen goede staat van dienst" als het gaat om het voorspellen van toekomstige AI-ontwikkelingen. Dat erkent Grace ook ruimhartig. Wel wijst Grace erop dat vergeleken met de antwoorden uit de 2022-versie van dezelfde enquête er een fikse versnelling in het bereiken van bepaalde mijlpalen te zien is. Dat zou goed te verklaren zijn uit de lancering van ChatGPT in november 2022 en de haast van techbedrijven om hun eigen AI-taalmodellen te lanceren (zoals Bard van Google).
De versnelling blijkt bijvoorbeeld uit de inschatting dat de 50%-kans dat AI de mens in elke taak gaat overtreffen bereikt zou worden in 2047, en de 50%-kans dat alle menselijke banen volledig automatiseerbaar zouden worden op 2116. Dat is respectievelijk 13 jaar en 48 jaar eerder dan in het onderzoek van vorig jaar.
Maar ook zonder de zorg dat de mens zou kunnen uitsterven door bovenmenselijke AI-risico's, zijn er andere directe AI-risico's. Zo noemde ruim 70% van de ondervraagde AI-onderzoekers AI-scenario's met "deepfakes, manipulatie van de publieke opinie, gemanipuleerde wapens, autoritaire controle over bevolkingen en verergering van de economische ongelijkheid als zeer zorgwekkend of extreem zorgwekkend", aldus New Scientist.
Ook het gevaar dat AI bijdraagt aan desinformatie rond belangrijke kwesties zoals klimaatverandering of het democratisch proces is reëel. "We hebben hier en nu al de technologie die de [Amerikaanse] democratie ernstig zou kunnen ondermijnen," waarschuwt Torres. "We zullen zien wat er gebeurt bij de verkiezingen van 2024." En bij de vele andere verkiezingen die komend jaar op stapel staan: bijna de helft van de wereldbevolking gaat naar de stembus.
