Het Amerikaanse marktonderzoeksbureau Gartner voorspelt in een rapport dat kunstmatige intelligentie (AI) in eerste instantie veel voordelen biedt voor bedrijfsprocessen. In tweede instantie heeft de wijdverbreide inzet van AI echter ingrijpende sociale en maatschappelijke gevolgen. Op een dag kunnen we letterlijk onze ogen niet meer geloven.
Gartner publiceerde een reeks onderzoeksrapporten, Predicts 2021 genaamd. Een daarvan beschrijft de ernstige en verregaande ethische en sociale problemen die AI naar verwachting de komen jaren veroorzaakt in het bedrijfsleven en de maatschappij. In dit rapport, “Predicts 2021: Artificial Intelligence and Its Impact on People and Society” onderbouwen vijf analisten van Gartner verschillende voorspellingen die volgens hen tegen 2025 uit zullen komen. Daarbij gaat het vooral om wat men de “gevolgen van AI in tweede instantie” noemt. Dit zijn de onbedoelde of onverwachte gevolgen van nieuwe technologieën.
Als voorbeeld noemen de analisten “generatieve AI”. Daarmee is het nu al mogelijk om uitermate realistische afbeeldingen te creëren van mensen en objecten die niet echt bestaan. De analisten van Gartner voorspellen dat tegen 2023 een vijfde van de malafide overname van gebruikersaccounts gebruik maakt van deepfakes die gegenereerd zijn met dergelijke AI. “Door AI-functies die hyperrealistische content genereren kunnen mensen letterlijk hun ogen niet meer geloven”, aldus de analisten.
Het rapport behandelt vijf verschillende voorspellingen voor de AI-markt en geeft aanbevelingen voor hoe bedrijven deze uitdagingen kunnen aanpakken:
- Tegen 2025 zijn vooraf getrainde AI-modellen geconcentreerd bij 1% van de leveranciers. Dat maakt het verantwoordelijke gebruik van AI tot een maatschappelijke zorg.
- In 2023 maakt 20% van de pogingen om gebruikersaccounts over te nemen gebruik van deepfakes als social engineering-aanval.
- Tegen 2024 voorziet 60% van de AI-leveranciers hun software van functies voor het voorkomen van schade of misbruik.
- Tegen 2025 gebruikt 10% van alle overheden een “synthetische bevolking” om AI te trainen om zodoende zorgen over privacy en beveiliging weg te nemen.
- Tegen 2025 nemen werkgevers 75% van alle gesprekken op de werkvoer op en analyseert men deze om processen te verbeteren en risico’s in te schatten.
Elk van deze voorspellen is op zich al voldoende om de oren te spitsen van mensen die AI kritisch in de gaten houden. De combinatie ervan schept echter een bijzonder grimmig beeld van een toekomst vol ethische problemen, potentieel misbruik van AI en het verlies van privacy voor werknemers.
Hoe bedrijven kunnen reageren
Als de analisten van Gartner gelijk krijgen met hun voorspellingen komen zorgen over de impact van AI op de privacy en de waarheid de komende jaren ongetwijfeld hoog op de agenda te staan. Bedrijven moeten zich voorbereiden om deze zorgen het hoofd te kunnen bieden.
Een thema dat steeds terugkeert in het rapport is het opzetten van een “Raad van Ethiek”. Deze moet toezicht houden op het ethisch gebruik van AI binnen een organisatie, of dit voor een dienst of een product is. Deze maatregel wordt vooral geadviseerd voor bedrijven die van plan zijn werknemersgesprekken op te nemen en te analyseren. De ondernemingsraad moet ook kunnen controleren of deze gespreksgegevens op de juist manier gebruikt worden, stelt Gartner.
De analisten van Gartner adviseren daarnaast dat bedrijven criteria opstellen voor verantwoordelijk gebruik van AI. Hiertoe behoort ook de beleidsregel dat men alleen gebruik maakt van AI-leveranciers die “AI op een aantoonbaar verantwoordelijke manier ontwikkelen en duidelijk zijn over de aanpak van de daaraan gerelateerde maatschappelijke zorgen”.
Wat de zorgen over beveiliging rond deepfakes en generatieve AI betreft adviseert Gartner dat organisaties hun werknemers trainingen geven over deepfakes. “We betreden een zero-trust world”, stellen de onderzoekers van Gartner. “Niets kan nog vertrouwd worden tenzij het gecertificeerd is als authentiek door middel van versleutelde digitale handtekeningen.”
Het rapport geeft veel stof tot nadenken. Zo zijn er cijfers die aangeven dat zelfs de beste software om deepfakes te detecteren op de lange termijn maar een identificatiegraad haalt van 50%. Andere cijfers tonen aan dat het aannemelijk is dat een of andere grote Amerikaanse onderneming al in 2023 gespreksopnames en -analyses gaat gebruiken voor de beoordelingen en beloningen van het personeel. De analyses bieden een zorgelijk vooruitzicht, maar ook adviezen om je hier tegen te wapenen. Het volledige rapport is tegen betaling beschikbaar bij Gartner.
Bron: TechRepublic