Performing Bias : Conceptions of Machine Vision Bias in Digital Art

Gjennom tidene har produksjon og reproduksjon av bilder gradvis blitt mekanisert, digitalisert og automatisert, men persepsjon styrt av kunstig intelligens (AI) har hatt stor innvirkning på moderne maskinsyn-teknologier. Med AI blir maskinsyn-teknologier mer enn optiske og sensoriske apparater: disse teknologiene kan nå utføre kognitive prosesser som å gjenkjenne, analysere, klassifisere, tolke og å forutsi. Dype nevrale nettverk og underliggende datasett muliggjør visuell produksjon i større grad og fart enn før. Disse tilsynelatende objektive og autonome teknologiene for visuell persepsjon er effektive for spesifikke oppgaver. Effektiviteten gjør at teknologiene er integrerte i hvordan vi produserer visuell kultur, men også at de brukes til å styre hverdagen vår. Denne artikkelbaserte avhandlingen adresserer hvordan digital kunst konseptualiserer forholdet mellom maskinsyn, AI og bias. Med utgangspunkt i tverrfaglig kritisk teori presentert i “Glossary of Machine Vision Gazes” etablerer jeg at maskinsyn alltid har et “bias” (som forstås som en partiskhet/skjevhet), og tillegges perspektiver fra fortida og fra de som designer og bruker det. Kunst og kunstnerisk forskning har spilt en viktig rolle i å adressere bias og urettferdighet, og er en rik kilde til å utforske hva bias i maskinsyn er og gjør. Ved å kombinere digital humaniora-metoder for kvantitativ analyse av kunstverk med kvalitativ analyse, så vel som kritisk praksis og kunstnerisk forskning, demonstrerer denne avhandlingen at den lovte objektiviteten og magiske autonomien til maskinsyn er en fasade som maskerer virkeligheten. Digital kunst klargjør at å leve med AI-teknologier oppleves forskjellig på tvers av status, kjønn, rase og etnisitet. Kunst viser hvordan AI-styrt persepsjon feilklassifiserer og feilrepresenterer verden. Disse kunstverkene synliggjør skadene som kommer av at maskinsyn brukes på urettferdige måter. Gjennom egen kunstnerisk forskning, hvor jeg har utviklet verket Suspicious Behavior, viser jeg at datasettene for maskinlæringsmodeller inneholder problematiske taksonomier som samles inn uten samtykke og blir datamerket/annotert ved å utnytte behovsbetinget arbeidskraft. I denne avhandlingens tre artikler utvikler jeg to konseptuelle bidrag: konseptet teknisk intuisjon for å utforske måter bias uttrykkes av maskinsyn, og konseptet indirekte reversert operativitet for å spore hvordan bias introduseres i sammenstillinger (“assemblages”) av AI-styrt persepsjon. Rammeverket tar h