In wiens handen rust ICT-verantwoordelijkheid in het AI-tijdperk?
Waar ter wereld je ook bent, de term ‘ChatGPT’ vliegt je om de oren. Waarom dit hét nieuwsitem is? Niet alleen omdat ChatGPT ontzettend veel mogelijkheden biedt. De coryfeeën in het veld (waaronder Steve Wozniak en Elon Musk) hebben hun zorgen geuit in een Open Letter, waarin ze een duidelijke oproep doen om de AI-ontwikkeling voor zes maanden te pauzeren.
Begrijpelijk. Want nu we het niveau bereiken waarop AI zélf betere AI kan maken, hoort het onderwerp absoluut thuis op de internationale agenda. Unesco heeft de ethiek van AI in 2021 op de agenda gezet.
Dé vraag waar velen mee zitten: heeft de mensheid nog wel controle over deze technologie?
Van sciencefiction naar realiteit
De makers van sciencefiction zijn met vele doemscenario’s aan de haal gegaan. Maar een potentiële tweede oerknal daargelaten heeft de ICT-techniek toch veel moois bereikt.
Inmiddels hebben ICT-systemen veel handelingen — en soms zelfs hele beroepen — overbodig gemaakt. Dit vinden we over het algemeen normaal, omdat we de race naar efficiëntie collectief omarmd hebben. Repetitieve handelingen hebben geen toegevoegde waarde en daarom willen we die zoveel mogelijk elimineren. Want zo houden wij mensen tijd over voor belangrijke zaken.
Om die reden besteden bedrijven steeds meer verantwoordelijkheden uit aan ICT-leveranciers. Maar wat als AI de betekenisvolle banen overneemt of ervoor zorgt dat je het verschil tussen informatie en desinformatie niet meer kan maken? Hoe zit het met ethische verantwoordelijkheid? Die kun je niet zomaar outsourcen. In de ICT werken mensen en zij maken soms menselijke fouten. De impact daarvan wordt echter steeds groter naarmate de verantwoordelijkheid groeit.
Om het nog complexer te maken: AI kan nu zelf software schrijven (en zichzelf daarmee eigenlijk uitbesteden aan ICT). Maar wat als daarbij een AI-fout wordt gemaakt? Wie is dan verantwoordelijk?
Ethiek in disruptieve tijden
“Fouten maken mag!” Bij bedrijven hoor je dit vaak. Maar geldt dat óók voor menselijke fouten in de ICT? En hoe zit het met AI-fouten?
Van oudsher ligt de verhouding als volgt: ICT doet waar zij goed in is en de verantwoordelijkheid ligt bij de klant. Maar de zaken worden steeds complexer. Volstaat een juridisch artikel omtrent ICT-verantwoordelijkheid binnen een SLA of contract dan nog?
Ongemerkt speelt dit ethische vraagstuk al lang, maar het wordt nu een stuk relevanter. Een ethisch antwoord is niet makkelijk te geven. We weten dat ICT zich exponentieel ontwikkelt en daarom disruptief is. Vooruitgang en wetenschap zijn nauwelijks tegen te houden. Bij Visma Solidbricks zien wij ICT-verantwoordelijkheid vooral als menselijk — en daarom als onderdeel van ons partnerschap.
Meer weten over menselijke ICT-verantwoordelijkheid? Neem gerust contact met ons op.