Tot nu toe ben ik bij één externe activiteit geweest, namelijk Algoritmische Besluitvorming in Pakhuis de Zwijger. Ik ga woensdag 4 november naar het Society Festival.

Het evenement ging over algoritmes en hoe computersystemen beslissingen nemen die invloed hebben op mensen. Hierbij werd duidelijk dat algoritmes niet altijd eerlijk of neutraal zijn en dat ze fouten kunnen maken. Het is daarom belangrijk dat mensen kritisch blijven kijken naar hoe deze systemen worden ontworpen en gebruikt.

Het ging met name over het scannen van auto’s met parkeren dat dat met een algoritme wordt gedaan wat grotendeels goed gaat maar bij 2% niet. Dat is op zich niet veel, maar bij miljarden scans gaat het om heel veel auto’s.

Ik hoorde dat de menselijke controle na het scannen door AI puur is voor de AVG zonder dat het echt wat toevoegt. Daarnaast houd het geen rekening met bijvoorbeeld parkeerstoring. Ook ging het over de Chinese systemen dat als je door rood rijdt je gelijk een boete krijgt.

Ik wist nog niet zo goed hoeveel invloed algoritmes kunnen hebben op keuzes die voor mensen worden gemaakt. Een algoritme kan bijvoorbeeld mensen anders beoordelen op basis van gegevens die niet altijd een eerlijk beeld geven. Dit is relevant voor CMD, omdat je als designer digitale producten maakt die door verschillende mensen worden gebruikt. Je moet daarom nadenken over toegankelijkheid, eerlijkheid en de gevolgen van je ontwerp.

Ik ga bij het ontwerpen van digitale producten beter nadenken over hoe technologie beslissingen beïnvloedt. Ik wil kritischer kijken naar het gebruik van AI en testen of een ontwerp voor verschillende soorten gebruikers goed werkt. Ook wil ik duidelijker maken wanneer gebruikers met AI of automatische beslissingen te maken hebben.

Welke twee mensen heb je gezien of ontmoet die je interessant vond? Waar kunnen we meer over deze mensen lezen? En waarom vond je ze interessant?
Ik vond Sven Stevenson wel interessant. Hij is Directeur Directie Coördinatie Algoritmes van de AP. Hij wist erg veel en als er vragen gesteld werden kon hij daar goed en gemakkelijk over vertellen. Hier is meer te lezen over de AP en hier over Sven.

Ik ben het ermee eens dat algoritmes niet zomaar vertrouwd moeten worden en dat mensen verantwoordelijk moeten blijven voor de keuzes die met behulp van technologie worden gemaakt. Daarom vind ik het belangrijk om kritisch te kijken naar de manier waarop AI en algoritmes worden ingezet, maar het wel te gebruiken.

En het ging over de belasting dat je ook al wegenbelasting betaalt en waarom dan ook nog parkeerkosten.

Wat is er gezegd waar je het grotendeels mee oneens bent? Waarom ben je het hier mee oneens?

Er werd gezegd dat je eerst moet betalen voordat je een klacht in kan dienen. En stel je hebt 5 opeenvolgende boetes moet je honderden euro’s betalen maar dat lukt niet iedereen.

Ik ben het er niet mee eens als algoritmes vooral als een probleem worden gezien en er te weinig aandacht is voor de voordelen. Algoritmes en AI kunnen mensen juist helpen om informatie sneller te verwerken en digitale producten gebruiksvriendelijker te maken. Ik vind daarom dat technologie niet helemaal moet worden afgewezen, maar op een verantwoorde manier moet worden gebruikt, met voldoende controle door mensen en niet alleen voor de AVG.