Computers kunnen alleen functioneren op basis van jouw input wat gevoelig is voor fouten.
Feedbackloops, die bestaande vooroordelen en gedragspatronen versterken of doordat algoritmische geproduceerde resultaten opnieuw in modellen worden geïntroduceerd, kunnen problematisch zijn.
Computermodellen richten zich op wiskundige inzichten, deze probabalistische benadering (het idee dat uitkomsten gebaseerd zijn op waarschijnlijkheid of kans, in plaats van op absolute zekerheid) van het oplossen van problemen heeft zijn voordelen maar ook zijn valkuilen.
Computers kunnen niet redeneren zoals mensen dat doen (op basis van hoe mensen de wereld waarnemen en de theorie van de geest), noch subjectieve regels toepassen.
Onderzoeksvragen hebben niet alleen betrekking op welke inputs correleren met welke outputs en hoe de processen om het resultaat te bereiken worden bepaald.
Motivatie, doel en transparantie van de makers van de modellen waarmee de computer werkt kunnen niet rijmen met die van de gebruiker.
Veel van deze kwesties zijn niet noodzakelijkerwijs nieuw, noch specifiek voor de discussie van het afgelopen jaar over op kunstmatige intelligentie gebaseerde hulpmiddelen. Sommige van deze problemen werden bijvoorbeeld voor het eerst geïdentificeerd en vormden een punt van zorg toen zoekmachines voor het eerst aanzienlijke aandacht wonnen in de gemeenschap. Zie PageRank discussie. Meer dan twintig jaar geleden begon er op het gebied van de digitale geesteswetenschappen een discussie rond het concept van Distant Reading, dat het idee weergeeft van hoe onderzoekers waren begonnen met het bestuderen van machine-outputs (statistieken, steekproeven en connectiviteit van termen onder andere) over teksten in plaats van de teksten zelf.
De belangrijkste misvatting hier is dat de belangrijkste dingen inherent niet kwantificeerbaar zijn. Hoe graag we ook kwantitatieve maatstaven aan dingen toekennen, een groot deel van het leven, vooral de belangrijkste dingen, is subjectief en niet kwantificeerbaar. Op dezelfde manier waarop we voorzichtig moeten zijn bij het vertrouwen op het aantal citaties bij beslissingen over promotie en ambtstermijn, moeten we er allemaal aan worden herinnerd dat de beste manier om kwaliteit of toepasbaarheid te beoordelen is door de inhoud te lezen.
Let’s Be Cautious As We Cede Reading to Machines
#kunstmatige intelligentie
Mijn notes:
Problemen die gepaard gaan met het vertrouwen op machines om het denkwerk voor ons te doen:
Veel van deze kwesties zijn niet noodzakelijkerwijs nieuw, noch specifiek voor de discussie van het afgelopen jaar over op kunstmatige intelligentie gebaseerde hulpmiddelen. Sommige van deze problemen werden bijvoorbeeld voor het eerst geïdentificeerd en vormden een punt van zorg toen zoekmachines voor het eerst aanzienlijke aandacht wonnen in de gemeenschap. Zie PageRank discussie. Meer dan twintig jaar geleden begon er op het gebied van de digitale geesteswetenschappen een discussie rond het concept van Distant Reading, dat het idee weergeeft van hoe onderzoekers waren begonnen met het bestuderen van machine-outputs (statistieken, steekproeven en connectiviteit van termen onder andere) over teksten in plaats van de teksten zelf.
De belangrijkste misvatting hier is dat de belangrijkste dingen inherent niet kwantificeerbaar zijn. Hoe graag we ook kwantitatieve maatstaven aan dingen toekennen, een groot deel van het leven, vooral de belangrijkste dingen, is subjectief en niet kwantificeerbaar. Op dezelfde manier waarop we voorzichtig moeten zijn bij het vertrouwen op het aantal citaties bij beslissingen over promotie en ambtstermijn, moeten we er allemaal aan worden herinnerd dat de beste manier om kwaliteit of toepasbaarheid te beoordelen is door de inhoud te lezen.