De eerste opdracht die we kregen ging over algoritmes en ethische dilemma’s. Daarnaast kregen we ook een toets tijdens de les.

Opdracht algoritmes met Michelle

De opdracht over de algoritmes deed ik samen met Michelle. We hadden eerst de volgende vraag gekregen:

“Bedenk een algoritme dat mij vertelt wie van jullie de prijs moet krijgen voor beste student”

Daarbij kwamen we met name erop uit dat het gebaseerd moet worden op feiten en patronen van gedrag, bijvoorbeeld iemand die elke maandag te laat komt of niet. Daarnaast is ook de absentielijst van Hans nodig, de cijfers die behaald worden en het gemaakte huiswerk. Door al die dingen te combineren kom je uiteindelijk op de beste student.

Het volgende algoritme was: “Bedenk een algoritme dat voor mij voorspelt welk eindcijfer elke student gaat behalen voor deze minor”. Ons leek het eerlijk door iedereen gelijk te behandelen en geen vooroordelen te hebben, maar echt alleen kijken naar de data. Daarnaast ook niet kijken naar één onderdeel, maar naar het geheel. Dus een gemiddelde berekenen van oudere eindcijfers en kijken naar de groei b.v. door een grafiek bij te houden van elk leerjaar.

Ethische dilemma’s met Belle en Safae

Voor deze opdracht hebben we twee dilemma’s bedacht, namelijk:

Dilemma 1:
Voor een schoolproject zit je samen met je beste vrienden in een groep. Op de dag van de deadline moet er nog veel gebeuren en niemand doet wat. Je herinnert je vrienden dat de deadline vandaag is, maar ze reageren niet op je appjes. Dus jij maakt het project alleen af en levert het in. Leg je de docent uit dat je alles alleen hebt gedaan, waardoor je je beste vrienden misschien verliest en zij een slechter cijfer krijgen of zeg je niets en hou je je beste vrienden?

Dilemma 2:
Een zelfrijdende auto moet geprogrammeerd worden voor noodsituaties. Moet hij bij een ongeluk de inzittenden beschermen, ook als dat betekent dat er meer voetgangers gewond raken? Of beschermt hij juist de voetgangers en is de inzittende minder veilig?

Daarna hebben we de volgende gekozen om verder uit te werken:

“Mag een middelbare school spyware installeren op de laptops van hun leerlingen?”

De belangrijkste feiten die we niet weten zijn dat we niet weten of het de laptops van de leerlingen zelf zijn of van de school en we niet weten of de leerlingen ze ook gebruiken voor privézaken thuis.

We hebben meerdere opties als uitkomsten:

1. Ja, ze mogen spyware installeren maar er moet transparantie zijn over wat school
   kan zien en wanneer ze het checken.
2. Ja, ze mogen spyware installeren, omdat iedereen vertrouwen moet hebben in het
   schoolsysteem.
3. Ja, ze mogen spyware installeren, als het een laptop is van school en het niet wordt
   gebruikt voor persoonlijke redenen.
4. Ja, ze mogen spyware installeren, als er toestemming is van de ouders om het te
   installeren.
5. Nee, ze mogen geen spyware installeren, omdat de laptop van de leerling zelf is en
   zij daar misschien nog privé dingen op doen.
6. Nee, ze mogen geen spyware installeren, omdat de school vertrouwen moet hebben
   in de leerlingen en de privacy van de leerling.
   

Vervolgens hebben we door verschillende lenzen gekeken welke opties het beste waren. We kwamen uit bij optie 1, want deze optie houdt het beste rekening met de privacy van de leerlingen, de zorgen van de ouders en de school. De school kan de leerlingen controleren, maar daar is wel duidelijkheid over, waardoor de leerlingen en ouders weten waar ze aan toe zijn.

Voor mijn gekozen technologie heb ik gekeken naar spyware op laptops van leerlingen. Als ik mij voorstel dat ik zelf leerling zou zijn, zou ik het misschien vervelend vinden als de school kan meekijken wat ik op mijn laptop doe. Vooral als ik de laptop ook thuis gebruik. Ik zou mij daarom wat minder vrij voelen. Maar ik snap wel dat de docenten me ook willen controleren, maar bij privézaken hoeft dat wat mij betreft niet. Als ik me juist voorstel dat ik een ouder ben, wil ik weten wat er allemaal gecontroleerd wordt en dat daar duidelijkheid over is. En wat er met die gegevens gedaan wordt.

Daarom vind ik dat er duidelijke afspraken / regels over moeten zijn en dat helder gecommuniceerd moet worden. Daardoor weten de leerlingen en ouders beter wat ze kunnen verwachten en wat ermee gedaan wordt. Ook vind ik dat de school niet zomaar privé
dingen moet kunnen controleren van leerlingen wat ze buiten schooltijd bekijken.

Aanvulling

In de les hadden we een toetsje gemaakt, daarvoor moest ik de volgende begrippen nog even uitleggen.

Chilling effect: mensen durven bepaalde dingen niet meer te zeggen of doen uit angst voor controle, kritiek of straf.

The medium is the message: betekent dat de vorm/het medium waarmee een boodschap wordt overgebracht zelf invloed heeft op wat de boodschap betekent en hoe mensen het ervaren.

Provocatype: een geloofwaardig prototype dat niet bedoeld is als perfecte oplossing, maar om gesprekken en morele verbeelding uit te lokken.

Reflectie

Deze week heb ik geleerd dat bij algoritmes en ethische dilemma’s niet één eerlijke uitkomst bestaat. Bij de opdracht van de algoritmes dachten we eerst dat alleen naar data kijken eerlijk zou zijn. Maar als je alleen kijkt naar de cijfers en aanwezigheid, weet je niet alles over iemands inzet of omstandigheden.

Het dilemma over spyware zette mij aan het denken over de spanning tussen controle en privacy. Duidelijkheid over wat de school bekijkt is belangrijk, maar maakt elke manier van controle goed.