We weten allemaal wat er gebeurde toe de HAL 9000-computer in de film “2001: A Space Odyssey” werd gevraagd om te liegen.
We leven in een tijdperk waarin steeds meer zaken worden voorzien van software. Software gemaakt door menselijke programmeurs. Omdat software zo sterk ingrijpt in ons dagelijk leven is het tijd een ethische basis te leggen om rampen in de toekomst te voorkomen.
Als product van kapitalisme wordt bij het ontwikkelen van software vaak uitgegaan van de stelling “Als het geld oplevert is het goed”. Programmeurs zijn vanaf het allereerste begin verleid met het vooruitzich rijkdom te kunnen vergaren, een kernbeginsel van de moderne startup-cultuur. Dit streven naar rijkdom brengt ethiek in gevaar. Het aantal programmeurs neemt alleen maar toe en de meeste programmeurs werken simpelweg “om de rekeningen te betalen”. Wanneer men afhankelijk is van werk dat door anderen wordt opgelegd om rekeningen te betalen, kan niet worden aangenomen dat ethische grenzen niet worden overschreden.
Want wie durft zijn carriere te riskeren of een baan op te zeggen gewoon omdat ze willen dat je het niet zo nauw neemt en een paar kleine compromisen sluit? Het is maar een klein beetje, echt waar. Niemand hoeft er achter te komen. We plaatsen het gewoon in een binaire blob…
Hebben programmeurs een ethisch geweten nodig of leveren we gewoon op bestelling? Hoe bepalen we waar de lijn is die we niet kunnen oversteken? Wanneer moeten we zeggen: “Nee, ik kan en wil dat niet doen”. Als Cambridge Analytica ons iets heeft geleerd, is het dat er een grens is die we niet moeten oversteken. Sommige dingen zijn belangrijker dan geld. Het is tijd om uit te zoeken welke dingen dat ze zijn.
(Abstract van de presentatie van Dr. Morgan Leigh tijdens de Australische Linux conferentie, vrij vertaald naar het Nederlands)