Door dit te doen kunnen er softwaresystemen worden ontworpen waarbij het welzijn van individuen en de samenleving beter meegenomen worden. Zo zijn privacyschendingen en discriminatie twee pijlers waar goed naar gekeken wordt. Een socialmediaplatform dat onbedoeld gebruikersgegevens openbaar maakt, kan bijvoorbeeld leiden tot identiteitsdiefstal, financiële fraude of reputatieschade voor individuen. Maar ook algoritmen die gebruikt worden voor besluitvorming, kunnen vooroordelen in stand houden die aanwezig zijn in de data die wordt gebruikt om ze te trainen. Hierdoor worden bijvoorbeeld demografische groepen gediscrimineerd, wat leidt tot oneerlijke werkgelegenheidskansen en het in stand houden van maatschappelijke ongelijkheid.
Veiligheidsovertredingen met dodelijke afloop
Vanuit de maatschappij is er een verwachting dat medische hulpmiddelen prioriteit geven aan patiëntveiligheid. Er bestaat ook een norm van vertrouwen in medische professionals en technologie om een veilige en effectieve behandeling te bieden voor ernstige ziekten zoals kanker. Een goed voorbeeld hiervan is Therac-25, een computergestuurd bestralingstherapiesysteem. Therac-25 is gemaakt om patiënten radiotherapie te bieden, een essentiële behandeling van kanker. Het mislukte echter vanwege veiligheidsovertredingen. Het systeem zorgde eind jaren ’80 voor een enorme overdosis aan zes mensen en leidde tot verschillende doden en ernstig gewonden.
Complexiteit
Het illustreert de complexiteit van ethische kwesties bij technologieontwikkeling, vooral op gebieden waar mensenlevens op het spel staan. De ontwerpers en fabrikanten van de Therac-25 waren vooral geïnteresseerd in het voldoen aan de behoeften van systeemgebruikers, zoals machinebedieners en medisch fysici. Ze gaven waarschijnlijk prioriteit aan bruikbaarheid om ervoor te zorgen dat het systeem efficiënt en effectief kon worden gebruikt.
Trainen toekomstige professionals
Met behulp van ethische ontwerpkaders en richtlijnen worden toekomstige professionals beter geholpen om ethische overwegingen in de ontwerpfase als te integreren. Door bij softwareontwikkeling vanaf het begin rekening te houden met ethische waarden, ontstaat uiteindelijk meer verantwoorde én impactvolle technologie. Ook kunnen toekomstige softwareprofessionals hierdoor beter onderwezen worden in ethisch bewustzijn, en zijn zij hierdoor beter in staat om effectief met dilemma’s om te gaan.