Slide from How To Fight Fascism, en tale jeg holdt for et par år siden. Foto af Esther Brunner.

Politik er vores designproblem i vores tid.

For et par år siden talte jeg med en konferencearrangør om at tale. Ligegyldigt hvem det var. Det er ikke pointen. Alt gik godt, indtil de spurgte mig navnet på foredraget.

”Sådan bekæmpes fascisme,” svarede jeg.

”Kunne du gøre noget mindre politisk?” Svarede de.

Jeg endte med at ikke lave den konference, og den historie gentog sig selv et par gange siden. Folk vil gerne høre om design, og de er enige om, at vi måske har designet os til en ”smule problemer”, og vi kommer måske endda rundt på tanken om, at der måske er nogle mennesker i Silicon Valley, der ikke har vores bedste interesser i sind. Men for Guds kærlighed, kan vi takle det uden at blive politiske? (Når alt kommer til alt, forstyrrer det sponsorerne.)

Hvis vi skal tale om designansvar, etik eller hvad du end vil kalde det, bliver vi nødt til at blive politiske. Lad mig vise dig hvorfor. Lad os gå gennem et par scenarier - navnene er falske, situationerne er ikke:

Tom arbejder hos et meget stort socialt mediefirma. Han er god til det, han gør. Sådan fik han jobbet. Han er ikke ansvarlig for projekter eller administrerer nogen, men han er et værdifuldt medlem af sit team, der designer systemet til at købe annoncer. Det er et vigtigt system for virksomheden, det er sådan, de tjener deres penge. Det skal arbejde. Det er også kompliceret. Der er mange knotter og håndtag, der skal administreres. Alle disse håndtag kontrollerer, hvem køberen kan målrette mod annoncen. Målrettet annoncering er vigtig for virksomheden, jo mere målrettet annoncen er, jo bedre konverteres den. Toms job er at sørge for, at alle håndtagene fungerer, samt at tilføje og trække håndtag, som ledelsesanmodninger. Han får en anmodning om at tilføje en håndtag til religion. Han læser spec. Den siger, at købere skal være i stand til at vælge fra en liste over religioner, så kun mennesker, der selv identificeres som en del af denne religion, modtager annoncen. Fordi Tom er god til, hvad han gør, løber han gennem de mulige scenarier, denne nye håndtag introducerer. Et af de scenarier, Tom kommer med, er muligheden for, at nogen måske tjekker alle religioner undtagen jødiske for at sende antisemitiske annoncer. Han hæver dette som et rødt flag til ledelsen. Ledelsen bølger det af. Tom overvejer at skubbe emnet, men husker derefter, at hele hans familie regner med ham for det sundhedsydelser, han får gennem sin arbejdsgiver. Herunder hans datter, der havde en medicinsk skræk sidste år. Tom kan ikke sætte deres pleje i fare. Funktionen bliver bygget.

Agnes arbejder hos et ride-delingsfirma. Hun er god til det, hun gør. Sådan fik hun jobbet. Hun er også den eneste kvinde på sit hold, der i øjeblikket arbejder på et værktøj til at spore ryttere. Produktspecifikationen siger, at virksomheden hele tiden ønsker at spore rytterens placering, uanset om de lige er færdig med en tur eller ej. Agnes er ikke enig i dette, så hun tager det til ledelsen. De vinker hende væk. Agnes overvejer at skubbe ideen, men så husker hun, at hun betaler $ 100.000 i studerendes gæld. $ 350 om måneden. Beløbet forekommer uovervindeligt. Agnes støtter sig og hjælper med at opbygge funktionen. Måske vil offentlig forargelse få funktionen slettet.

Nigel arbejder også hos et socialt mediefirma. Han er med i Trust & Safety-teamet, der er ansvarlig for at sikre, at platformen er fri for misbrug og chikane. Han bruger sin dag på at gennemgå indhold, som brugerne har markeret som skadeligt. Han bemærker et stort antal klager over den samme bruger, og når han først undersøger, indser han, at brugeren har en historie med at chikanere andre brugere. Han tager dette til ledelsen. Ledelse anser ikke chikane for dårlig til at suspendere brugeren. De overskrider Nigel. Nigel er uenig og overvejer at skubbe emnet, men husker derefter, at han er i landet på et H1-B-visa, sponsoreret af virksomheden. Hvis han mister sit job, bliver han deporteret. Nigel suspenderer ikke brugeren.

At være klar, at gøre det rigtige betyder at gøre det rigtige. Ligegyldigt omkostningerne. Men fuck, kan vi gøre det lidt lettere for folk? Jeg kan ikke forkaste nogen for at have valgt deres families helbred frem for et etisk dilemma, men vi kan arbejde på at fjerne det dilemma. Ingen skulle nogensinde skulle vælge mellem deres families velvære og arbejde etisk.

Så fortæl mig igen ... hvordan skal vi tale om designetik uden at blive politiske? Vi beskæftiger os med sundhedsydelser. Vi har at gøre med studielånegæld. Vi beskæftiger os med indvandringsreform. Det er lort, vi er nødt til at ordne ved afstemningerne.

Det er politisk. At tro på andet er ikke bare tåbeligt, det er uansvarligt.