opgave 1Opgave 1 Digitale gremlins
Volgens techniekfilosoof Rens van der Vorst heeft digitale technologie het
leven weliswaar gemakkelijker gemaakt, maar dreigen we er ook onze
greep op het leven door te verliezen. We moeten volgens hem de controle
proberen terug te pakken. Een manier waarop we dat kunnen doen, is
door een digitale gremlin te worden.
Gremlins komen als fictieve wezens voor in films en volksverhalen waarin
ze vooral veel stukmaken, bij voorkeur machines. Van der Vorst verzon
een hedendaagse variant van de gremlin, die digitale systemen saboteert,
zoals algoritmes, om de wereld minder afhankelijk te maken van digitale
techniek. Door een digitale gremlin te worden kun je meer controle krijgen
over wanneer en wat je kijkt op digitale media.
Van der Vorst geeft het voorbeeld van de streamingdienst Netflix. Als je
Netflix kijkt, krijg je door een algoritme aanbevelingen voor films of series
op basis van je kijkgedrag. Daardoor lijkt het alsof Netflix je goed kent en
weet wat je volgende film of serie moet zijn. Als je naar Netflix gaat en
weerstand voelt tegen wat het algoritme je voorschotelt, dan komt
misschien de digitale gremlin in je op.
Karen Barad maakt onderscheid tussen interactie en intra-actie.
12pLeg het onderscheid uit tussen de begrippen interactie en intra-actie.
Leg vervolgens uit dat Barad het voorbeeld van de aanbevelingen en de
digitale gremlin zou beschrijven als intra-actie.
Om aanbevelingen te kunnen doen, maakt Netflix een match tussen films
in het aanbod en eerder kijkgedrag. Van der Vorst is kritisch over deze
aanbevelingen, omdat er een verschil kan zijn tussen wat Netflix
aanbeveelt op basis van kijkgedrag (bijvoorbeeld komedies en
romantische films) en wat je eigenlijk zou willen kijken of sterker nog: wie
je eigenlijk zou willen zijn (bijvoorbeeld een intelligente documentaire-
kijker).
Een digitale gremlin lost dit op door een Netflixprofiel met een grote groep
mensen te delen die verschillend kijkgedrag hebben. Als je dan
aanbevelingen krijgt, zijn dat geen herhalingen van je eigen kijkgedrag. In
plaats van dat je je laat leiden door een algoritme, kun je gemakkelijker
bewust kiezen waar je naar kijkt.
Volgens Helmuth Plessner zijn mensen excentrisch gepositioneerd.
22pLeg dit uit.
Geef vervolgens een argument dat het voor Plessners excentrische
positionaliteit niet nodig is om een digitale gremlin te zijn.
Hoewel allerlei apps, zoals mindfulness-apps, vertaal-apps, weer-apps en
sociale-media-apps het leven gemakkelijker en aangenamer lijken te
maken, zijn er volgens Van der Vorst vooral nadelen. Zo kun je een
avontuurlijke wandeling missen door een buienalarm, kun je gestrest
raken door de timer van een mindfulness-app, en kun je door een vertaal-
app moeilijke woorden minder goed onthouden.
Andy Clark maakt met betrekking tot ons gebruik van techniek een
onderscheid tussen interface en cyborg.
32pBeargumenteer dat digitale gremlins zich willen verhouden tot apps als
interface. Geef in je argumentatie een uitleg van:
− het begrip interface, en
− het begrip cyborg.
Petran Kockelkoren laat met het voorbeeld van treinziekte zien dat
technologie onze waarneming verandert. Hij spreekt daarbij van
decentreren en recentreren.
43pLeg met een ander voorbeeld dan treinziekte de betekenis uit van:
− decentreren, en
− recentreren.
Geef vervolgens een argument dat digitale gremlins kritisch staan
tegenover recentreren.
Digitale gremlins zullen volgens Van der Vorst liever geen boodschappen
bestellen bij een flitsbezorgdienst. In een app voor flitsbezorging zet je
met een paar swipes een systeem van bezorging in werking.
Bruno Latour spreekt van actor-netwerktheorie (ANT). Het systeem van
de flitsbezorgdienst – de bestellers, de app, de bezorgers – kan
beschouwd worden als een actor-netwerk.
53pLeg uit dat de flitsbezorgdienst volgens Latour een actor-netwerk zou zijn.
Beargumenteer vervolgens met het voorbeeld van de flitsbezorgdienst of
je het eens bent met de ANT van Latour. Ga daarbij in op de begrippen
vrijheid en determinisme.
Van de Vorst vergelijkt bestellen bij een flitsbezorgdienst met cockroach
mind control: je verdooft een kakkerlak, prikt een elektrode op de
kakkerlak en verbindt deze elektrode met je telefoon waarop je een
speciale cockroachmindcontrol-app hebt geïnstalleerd. Vanaf dat moment
kun je de kakkerlak besturen en volgen met deze app.
Mensen die bij een flitsbezorgdienst bestellen, spelen volgens Van der
Vorst cockroach mind control met de bezorgers. De bestellers hebben een
gevoel van macht en de flitsbezorgers zijn niet meer dan een verlengstuk
van de app. Je kunt cockroach mind control vanuit verschillende ethische
theorieën evalueren, bijvoorbeeld vanuit de plichtethiek, die gericht is op
plichten of principes.
61pGeef een argument dat je geen cockroach mind control met flitsbezorgers
mag spelen waarbij je uitgaat van de plichtethiek.
Bij sommige websites moet je bewijzen dat je een mens bent en geen
robot. Van der Vorst vindt dit vernederend. Hij stelt voor om via humor te
bewijzen dat je een mens bent. Volgens Van de Vorst is humor een
typisch menselijke eigenschap.
Plessner onderzoekt ook typisch menselijke eigenschappen, zoals het
lachen.
71pLeg uit dat lachen volgens Plessner een typisch menselijke eigenschap is.
opgave 2Opgave 2 Robots en lichamelijkheid in de zorg
In de ouderenzorg wordt steeds vaker gebruikgemaakt van technologie,
zoals een sociale zorgrobot die simpele gesprekken voert en zorgtaken
doet. Onderzoeker Bart van der Sloot stelt hierover ethische vragen:
tekst 1
Wat als opa seks wil met zijn zorgrobot? Of oma vier keer per dag wil
douchen, of weigert te eten omdat ze dood wil? Wat doet zo’n robot dan?
Laat die dat allemaal toe? Of wordt er een signaal gegeven aan een
zorgverlener? En wie bepaalt dat? Oma? De familie?
bron: vn.nl, Menselijke robots zullen ingezet worden in liefdesrelaties en
ouderenzorg, 2024
Donna Haraway gaat in haar filosofische benadering van de vraag naar
de mens in op de onbepaaldheid van de mens.
82pLeg uit dat de onbepaaldheid van de mens volgens Haraway een ethische
dimensie heeft.
Beargumenteer vervolgens met deze opvatting van Haraway wie volgens
jou moet bepalen of de robot een signaal aan een zorgverlener moet
geven: opa/oma of de familie uit tekst 1.
Van der Sloot is bang dat zorgrobots de familieleden van een oudere
zullen vervangen. Het leven wordt dan minder zinvol, omdat er volgens
hem minder frictie is:
tekst 2
Die frictie, dat is ook het leven. Dat het niet altijd lekker gaat. Persoonlijk
contact is soms lastig, je hebt iets gezegd en dat valt niet goed bij die ander.
Het is intuïtief heel makkelijk om daarvan weg te blijven, maar de menselijke
ontwikkeling schuilt ook in juist die hobbels nemen. Als alle frictie verdwijnt,
worden we wel heel eendimensionaal.
bron: vn.nl, Menselijke robots zullen ingezet worden in liefdesrelaties en
ouderenzorg, 2024
Volgens Plessner wordt de bestaanservaring van mensen onder andere
bepaald door de medewereld. In hoeverre een zorgrobot – een computer
geprogrammeerd voor gesprekken – deze medewereld kan helpen
vormen, hangt af van je opvatting over het denkvermogen van robots en
mensen.
93pBeargumenteer of jij denkt dat deze zorgrobots de rol van een mens als
gesprekspartner kunnen overnemen. Ga daarbij in op:
− de functionalistische opvatting over symboolmanipulatie,
− Plessners begrip medewereld, en
− tekst 2.
Volgens Hubert Dreyfus heeft het lichaam drie functies die een computer
niet kan nabootsen. Hij zou het waarschijnlijk eens zijn met de opvatting
dat het leven van een oudere zinvoller is als die oudere met een familielid
praat in plaats van met een zorgrobot die voor gesprekken is
geprogrammeerd (zwakke AI).
103pGeef een argumentatie voor deze opvatting. Ga daarbij in op:
− een van de drie functies van het lichaam die een computer volgens
Dreyfus niet heeft,
− een weerlegging van Dreyfus’ opvatting over deze functie, en
− Dreyfus’ opvatting over de mogelijkheid om ervaringskennis te
verwerken.
Van der Sloot is bang dat AI ons vermogen zal aantasten om te
onderscheiden wat realiteit is en wat niet. Hij geeft als voorbeeld
videobeldiensten waarbij AI de huid van een beller in beeld automatisch
egaler maakt, zonder dat de bellers dit weten. Dat kan onhandig zijn als je
videobelt met een arts over je huidproblemen.
Volgens Yuval Noah Harari is de grens tussen fysiek en niet-fysiek
vervaagd. Hij spreekt van dataïsme. Van der Sloots opvatting dat AI ons
vermogen zal aantasten om te onderscheiden wat realiteit is en wat niet,
is een voorbeeld van een kanttekening vanuit kentheoretisch perspectief
bij Harari’s dataïsme.
112pGeef weer wat Harari bedoelt met dataïsme.
Leg vervolgens uit dat Van der Sloots opvatting een voorbeeld is van een
kanttekening vanuit kentheoretisch perspectief bij Harari’s dataïsme.
Filosoof Jenny Slatman vindt dat het huidige zorgsysteem is gebaseerd
op het idee dat ziekte een probleem is van een individueel lichaam dat
niet in de wereld past van gemiddelde, normale standaardindividuen. Zij
vindt dat deze benadering niet voldoende recht doet aan wie de mens is.
Ze pleit voor een benadering waarbij een mens wordt opgevat als een
wezen in relatie tot zijn omgeving:
tekst 3
Te dik, te klein, […] te weinig mobiel – op allerlei manieren kan het voelen
alsof je lichaam tekortschiet. [Dat zijn] geen problemen van het individuele
lichaam alleen. Ze komen tot stand wanneer je lichaam of de wijze waarop je
je lichaam gewend bent te gebruiken niet goed in de wereld past. […] Onze
reactie is dan vaak om het lichaam aan te passen, bijvoorbeeld door een
medische ingreep. We stimuleren zwaarlijvige mensen om af te vallen of we
sturen chronisch vermoeide mensen naar een psycholoog. [Maar we kunnen
ook] verschillende maten stoelen of andere werktijden aanbieden.
bron: Femke van Hout, Jenny Slatman: ‘De wereld sluit veel lichamen buiten’,
Filosofie Magazine 2024
Slatmans analyse van het huidige zorgsysteem waarin lichamen worden
genezen of aangepast naar de standaard die de wereld stelt aan een
normaal, gemiddeld lichaam, kan begrepen worden als een vorm van
structuralisme.
122pLeg uit dat je het huidige zorgsysteem vanuit Slatmans analyse als een
vorm van structuralisme kunt begrijpen.
Beargumenteer vervolgens met tekst 3 of jij het eens bent met Slatmans
relationele opvatting over zorg als alternatief voor het huidige
zorgsysteem.
Slatman stelt de mens voor als een ‘ik kan’: wie je bent, wordt bepaald
door wat je lichamelijk kunt doen en in hoeverre je daarin belemmerd
wordt. Ze geeft het voorbeeld van een groot lichaam dat niet in een stoel
past. Als je je tussen de armleuningen moet wurmen, dan denk je meer
over je lichaam na dan wanneer de stoel goed aansluit bij je lichaam.
Maxine Sheets-Johnstone gebruikt het begrip lichaamsschema.
131pLeg met Slatmans voorbeeld van de stoel Sheets-Johnstones begrip
lichaamsschema uit.
Slatmans opvatting van de mens als ‘ik kan’ is kritiek op de opvatting van
de mens van René Descartes.
141pLeg dit uit.
Slatman vindt dat het ‘ik kan’ in de zorg regelmatig wordt belemmerd door
de omgeving. Ze geeft als voorbeeld dat hartproblemen bij vrouwen
minder snel worden herkend, omdat bijna al het hartonderzoek bij mannen
wordt gedaan. Vrouwen krijgen hierdoor vaker geen goede diagnose. Ze
horen vaker dan mannen dat 'het tussen hun oren zit'. Door dit soort
uitspraken denken vrouwen sneller dat ze zich aanstellen.
Simone de Beauvoir stelt dat bestaanservaringen van vrouwen worden
bepaald door culturele opvattingen over hoe een vrouw zou moeten zijn.
152pLeg uit dat deze stelling van De Beauvoir gebaseerd is op haar idee over
verschillen in het opvoeden van meisjes en jongens.
Geef vervolgens een argument dat het voorbeeld van vrouwen die denken
dat ze zich aanstellen door verkeerde diagnoses aansluit bij De Beauvoirs
stelling dat de bestaanservaringen van vrouwen worden bepaald door
culturele opvattingen.
opgave 3Opgave 3 Kan AI kunst maken?
Toen in 2023 het liedje Heart on My Sleeve van de artiesten Drake en The
Weeknd uitkwam, reageerden veel fans en journalisten enthousiast. Niet
veel later bleek dat het nummer was gemaakt met kunstmatige
intelligentie. Een anonieme persoon had een AI-muziekgenerator gebruikt
om een lied te maken, door de AI opdracht te geven Drakes stem en
muziekstijl te gebruiken. Het verschil met de muziek van de menselijke
Drake bleek moeilijk te horen. Velen waren onder de indruk van de
kwaliteit van de muziek die de AI had gegenereerd.
Er bestaat discussie over de vraag of AI-muziekgeneratoren beter kunnen
worden vergeleken met muzikanten of met een muziekinstrument zoals
een akoestische gitaar.
Katherine Hayles verdiept zich in niet-menselijke cognitie. Volgens haar
heeft iets cognitie als het in staat is om via informatieverwerking tot een
uitkomst te komen. Daarom heeft een orkaan volgens haar geen cognitie
en drones wel. Menselijke en technische cognities zijn verschillend, maar
ook niet-menselijke cognitie kan autonoom zijn.
163pLeg uit dat een AI-muziekgenerator zowel verschilt van een akoestische
gitaar als van een menselijke muzikant. Ga hierbij in op Hayles’
opvattingen over:
− cognitieve assemblages,
− de verschillende cognitieve capaciteiten van menselijke en technische
cognities, en
− de voorwaarde voor het kunnen nemen van verantwoordelijkheid voor
het handelen.
Streamingdiensten voor muziek maken steeds meer gebruik van AI, onder
andere om profielen van luisteraars te maken. Door bij te houden naar
welke muziek iemand luistert, leert AI welke afspeellijsten bij die persoon
passen en kan AI zo’n afspeellijst genereren. De luisteraar kan zo via de
streamingsdienst nieuwe muziek ontdekken die goed aansluit bij diens
smaak.
Miriam Rasch gebruikt in haar filosofie het begrip else.
171pBeargumenteer met het begrip else of een luisteraar van een
muziekstreamingdienst volgens jou in een profiel te vatten is.
Een nieuwe generatie neurale netwerken is de GAN (Generative
Adversarial Networks). GAN-systemen bevatten zowel een generator als
een discriminator. De generator maakt bijvoorbeeld muziek, afbeeldingen
of video’s. De discriminator is geprogrammeerd om onderscheid te maken
tussen menselijke producten en producten die door AI gegenereerd zijn.
Tussen de generator en de discriminator vindt een competitief samenspel
plaats, totdat de generator beelden produceert die de discriminator
kunnen misleiden. Zo kunnen GAN-systemen nieuwe kunstwerken maken
die vrijwel niet te onderscheiden zijn van kunstwerken die door mensen
zijn gemaakt. Een aantal van deze kunstwerken is inmiddels bij
gerenommeerde veilinghuizen geveild.
Er kan een onderscheid worden gemaakt tussen AI als productsimulatie
en AI als processimulatie.
Vanuit het connectionisme zou een GAN-systeem kunnen worden gezien
als een simulatie van menselijke cognitie.
183pGeef met een kenmerk van een neuraal netwerk een argument voor dit
standpunt van het connectionisme.
Geef vervolgens met een ander kenmerk van een neuraal netwerk nog
een argument voor dit standpunt van het connectionisme.
Geef tot slot met het verschil tussen processimulatie en productsimulatie
een argument dat een GAN-systeem niet moet worden gezien als een
simulatie van menselijke cognitie.
GAN-systemen worden gebruikt voor het genereren van afbeeldingen,
video’s, animaties en muziek. De meningen verschillen over de vraag of
GAN-systemen creatief kunnen zijn in het maken van kunst.
192pBeargumenteer of een GAN-systeem volgens jou creatief kan zijn. Ga
hierbij in op:
− een definitie van het wezen van de mens met betrekking tot creativiteit
in kunst, en
− een vooronderstelling bij deze definitie.
Bij het kunstwerk Appropriate Response (‘passend antwoord’) knielt een
museumbezoeker neer op een bidstoeltje en krijgt een uitspraak te lezen
die gegenereerd is door AI. De AI is ontwikkeld op basis van teksten op
internet en toont elke bezoeker een andere uitspraak, bijvoorbeeld:
tekst 4
‘Er zijn mensen die de waarheid op zo’n voetstuk zetten dat ze kunstenaars
worden.’
‘Religie bevat, zonder twijfel, het meeste van de wereld in zijn verschillende
vormen.’
‘Het beste wat ik kan doen, is elk jaar uit bed komen.’
bron: Mario Klingemann, Appopriate Response, 2020
George Lakoff en Mark Johnson stellen dat lichamelijkheid een rol speelt
in de taal.
201pLeg dit uit met een van de uitspraken uit tekst 4.
Sommigen stellen dat de AI van Appropriate Response bij het genereren
van een uitspraak niet denkt zoals een mens.
212pGeef vanuit het enactivisme een argument voor deze stelling over de AI
van Appropriate Response. Ga hierbij in op een voorbeeld van menselijk
denken dat aansluit bij het enactivisme.
Muziekproducer en zangeres Holly Herndon creëerde een AI-zangeres,
genaamd Spawn. Spawn heeft de stem van Herndon, maar met nieuwe
technische mogelijkheden, zoals een groter bereik en het vermogen te
zingen zonder adem te halen.
Spawn werd getraind door diverse zangers en koren die composities van
Herndon inzongen. Na verloop van tijd begon Spawn muziek te genereren
die Herndon verrassend en interessant vond. Ze heeft een nieuw album
uitgebracht met muziek van haarzelf en Spawn.
Andy Clark en David Chalmers schrijven over de grenzen van menselijke
cognitie en gebruiken daarbij het begrip cognitieve extensie.
221pBeargumenteer met het voorbeeld van Herndon en Spawn en het begrip
cognitieve extensie waar volgens jou de menselijke cognitie eindigt en de
rest van de wereld begint.
Herndon koos bewust voor koorzang als deel van de training van Spawn.
Herndon zegt hierover:
tekst 5
‘Het koor verbeeldt bovendien de kracht van samenwerking: het vermogen
van mensen om samen iets te creëren dat groter is dan de som der delen.’
Anderzijds ziet ze het koor als symbool voor AI. ‘Want AI is, anders dan
mensen soms denken, geen alien die zomaar op onze planeet geland is.
‘Machine learning’ is een vorm van collectieve intelligentie. Iedere data-set is
het gevolg van de inspanningen van grote groepen mensen.’
bron: NRC, Deze popmuzikanten zijn wél positief over AI: ‘De toepassingen
zullen steeds maffer worden’, 2024
Spawn kan online worden gebruikt om muziek mee te genereren.
Jos de Mul beschrijft drie toekomstscenario’s voor de mens, waaronder
het zwermgeestscenario (extrahumanisme) en het zombiescenario
(posthumanisme).
232pLeg het verschil uit tussen deze twee toekomstscenario's.
Leg vervolgens met tekst 5 uit welk scenario waarschijnlijker is gezien het
feit dat Spawn bestaat. Ga hierbij in op beide scenario’s.
Bronvermelding
Een opsomming van de in dit examen gebruikte bronnen, zoals teksten en afbeeldingen, is te vinden in het bij dit examen
behorende correctievoorschrift.