De schaduwzijde van algoritmisering /reageer

De schaduwzijde van algoritmisering

Met welke data mag je experimenteren en met welke doeleinden? Die vraag over de keerzijde van algoritmisering, een term van tech-ondernemer Jim Stolze stond centraal tijdens het Smart Humanity event van de Koninklijke Nederlandse Vereniging van Informatieprofessionals (KNVI) op 13 december in het EYE Filmmuseum in Amsterdam. Het garanderen van privacy en security van persoonlijke data komt zowel vrijwillig als opgelegd, steeds hoger te staan op de agenda van bedrijven.

Data is niet langer een bijproduct, maar een product of service op zichzelf. De bulk data die dagelijks bij organisaties binnenkomt, moet real time verwerkt worden om waarde toe te voegen en het is zaak dat dit veilig gebeurd. Tijdens het Smart Humanity event van de KNVI werden er ethische vraagstukken voorgelegd aan een publiek dat dagelijks met persoonlijke data bezig is.

Slimmer, slimmer, slimmer
De stroom aan nieuwsberichten over Facebook, Spotify en Netflix is inmiddels ellenlang. Inmiddels is alom bekend dat deze bedrijven het niet zo nauw nemen met persoonlijke data. Het businessmodel is erop gericht om steeds betere diensten aan te bieden bij gebruikers om nog meer kennis te vergaren die zij vervolgens weer inzetten of zelfs verkopen. Netflix maakt tegenwoordig zelf series en films op basis van het kijk- en klikgedrag van haar gebruikers. Netflix is niet de enige partij die gebruik maakt van dit idee. Slimme dingen doen met data neemt steeds nieuwere, innovatievere vormen aan. Tijdens de presentatie kregen twee studenten van de Universiteit van Amsterdam de kans om hun project te laten zien, een robot die een Rubiks Kubus op kan lossen. Het menselijk wereldrecord staat op drieënhalve seconde. Het studieproject heeft er iets minder tijd voor nodig: anderhalve seconde. En het kan nóg sneller volgens de studenten. De benodigdheden: data, wiskunde en een beetje computerkracht.

Vergemakkelijken van het leven
Waarom zijn we steeds aan het optimaliseren? Stolze haalt aan dat de technologie nu ingezet moet worden om het leven van mensen daadwerkelijk te verbeteren. Zo’n verbetering van het (dagelijks) leven vindt bijvoorbeeld plaats in de sociale context. Onlangs werd er een robot op de markt gebracht – in de vorm van een zeehond - die eenzaamheid tegen gaat en daarbij (deels) fungeert als mantelzorger. Maar in hoeverre mogen deze robots inkomende data gebruiken om hun eigen prestaties te verbeteren en wat mogen de organisaties die hierachter zitten met de informatie doen? Dat is het grote ethische dilemma waar de wereld nu voor staat. Een oplossing? Die ontstaat volgens Stolze langzaam door het vallen en opstaan van bedrijven.

Data governance
Bedrijven maken steeds sneller de beslissing om te investeren in data governance. Data governance ondersteunt het kwaliteits- en risicomanagement van de data binnen organisaties. Hier zit ook een ethische kwestie aan, waarbij moraliteit centraal staat in de discussie. Hoe moeten we persoonlijke data wel en hoe moeten we persoonlijke data niet gebruiken. De schaduwzijde die Stolze bespreekt gaat onder meer over de ongelijkheid die kan ontstaan door gebruik te maken van data. Mensen nemen nog steeds besluiten met alle bewuste of onbewuste vooroordelen van dien en algoritmen selecteren ze alleen. Een alomvattend algoritme dat rekening houdt met alle mogelijke factoren, is een utopie. Daardoor ligt bevooroordeling op de loer. Van de wet mag het tot nu toe, maar willen we dit wel? Stolze heeft er grote twijfels bij.

Reageren via Facebook

Reacties

Over Redactie Sync

Sync.nl publiceert artikelen en nieuwsberichten over de toenemende invloed van wetenschap en technologie op de business. Ideeën voor artikelen? Meeschrijven? Laat het ons weten via redactie@sync.nl.