Cambridge Analytica-skandalen var det seneste hit i en lang række kontroverser, der involverede førende Silicon Valley-teknologiselskaber. Facebook, Google, Apple, Twitter og Uber, for at navngive en håndfuld markør-spillere, dukker fortsat op som mål for vores store digitale ambivalens. Mange af os elsker aspekter af deres produkter og tjenester, mens de også hader den pris, vi betaler for at bruge dem: tilknytning, afhængighed, sårbarhed, lock-in og en følelse af at blive udnyttet og at denne udnyttelse valideres.

Blandede følelser findes, fordi big tech-virksomheder ikke grundlæggende er som store tobaksselskaber, på trods af hvor populær metaforen er blevet. Ja, teknisk afhængighed er reel. Men tech-virksomheder skubber ikke giftige engangsprodukter. Selvfølgelig har de hjulpet med at udvise privatlivets fred, forstærke fordomme, udnytte psykologiske svagheder, incitamere chikane, intensivere distraktion og forværre politiske spændinger. Men vi har endnu ikke samlet disse virksomheder på forkant, da proprietære digitale værktøjer også øger det personlige, sociale, økonomiske og borgerlige velvære, og de frie og open source bevægelser har ikke fået den opmærksomhed, de fortjener.

Og på trods af alle fordelene ved teknologi har tech-virksomheder skandaliseret offentlighedens tillid.

Troværdighed går hånd i hånd med etik, og hvis tillid skal genvindes, skal der gøres en masse arbejde for at lukke gapende etiske huller. Her vil jeg tale om tre områder, der skal forbedres: etik i design, etikuddannelse og procedurer på arbejdet, og etikundervisning og politik i skolen. Gennem samtalen vil jeg forklare, hvorfor det er så forbandet for tech-virksomheder at leve op til høje etiske forventninger, og jeg vil give forslag til forbedring af status quo.

Men først skal jeg konfrontere elefanten i rummet. Skal realister tro, at etik faktisk kan gøre noget - i stedet for at vende sig tilbage til den overbevisning, at tech-virksomheder vil fortsætte med at spille os for amme, indtil der er drakoniske skift i politik?

Er etik ikke bare ineffektiv moralisering?

Den mest skræmmende tanke er måske, at der ikke er nogen mening i endda at identificere de grundlæggende etiske spørgsmål og spørgsmål, som de store teknologivirksomheder bør diskutere indbyrdes for at tage et større ansvar for de magtfulde måder, de former vores individuelle og kollektive liv. Frank Pasquale, forfatter af The Black Box Society: The Secret Algorithms That Control Money and Information og en af ​​de skarpeste tænkere, jeg kender, fortalte spøgende mig, at dagene med at være optimistiske med hensyn til selvregulering er forbi, selvom udsigterne ikke er godt for dristige regeringsmetoder i enten De Forenede Stater eller Europa for at beskytte borgerne mod at blive manipuleret, bedraget og udnyttet af tech-virksomheder.

”Jeg tror ikke, at teknologivirksomheder kan have disse diskussioner, indtil et lovgivningsgrundlag tvinger dem til at gøre det. De blev advaret om farerne ved slap anvendelse af deres egne retningslinjer, og de har ignoreret eller marginaliseret deres kritikere, ”sagde Pasquale.

Facebook overvurderer systematisk AI, engineering og automatisering og devaluerer compliance, juridisk ekspertise og etik.

”I USA,” fortsatte han, ”politikerne er nødt til at styrke den føderale handelskommission (nu en Potemkin-beskyttelse af personlige oplysninger) og øge staben hos statsadvokater generelt. (Massachusetts Attorney General undersøger for eksempel aggressivt netop dette spørgsmål). I Europa skal databeskyttelsesmyndigheder håndhæve privatlivets lovgivning med ekstra kraft og for at sikre, at den generelle databeskyttelsesforordning ikke bliver kvalt i holderen af ​​crabbed fortolkninger af dens bestemmelser for algoritmisk gennemsigtighed, såsom retten til forklaring. ”

Pasquale gør et godt punkt. Hvis folk som Sandy Parakilas, ”platformoperationslederen på Facebook, der er ansvarlig for overvågning af dataovertrædelser af tredjeparts softwareudviklere mellem 2011 og 2012,” fik ikke den myndighed, han fortjente, efter at have advaret ”seniorledere i virksomheden om, at dens slappe tilgang til databeskyttelse risikerede et stort brud, ”hvorfor skulle vi tro, at virksomheder nu er klar til at lytte til etisk bekymrede medarbejdere og give dem magt til at være agenter for forandring?

Nogle gange ser det ud til, at de store tech-virksomheder er berusede af magt, idet de tror, ​​at de er for store til at mislykkes, og så forstyrrende at være uden for rammerne af at blive disciplineret af mekanismer fra den gamle verdensorden og kun kynisk villige vende sig til høj- sindede idealer, som "etik" og "virksomhedernes sociale ansvar", når der køres interferensspil fra PR-manualer. Undskyldninger og løfter om forandring kan være gode krisestyringsstrategier, fyldt med tilsløring og værre, snarere end oprigtige udtryk for at stræbe efter at være værdige for offentlighedens tillid.

Og lad os indse det, tech-virksomheder er i en strukturel binding, fordi de samtidig tjener mange mestre, der kan have konkurrerende prioriteter: aktionærer, tilsynsmyndigheder og forbrugere. Selvom "samvittighedsfuld kapitalisme" lyder rart, ved enhver, der tager den politiske økonomi alvorligt, at vi skal være på vagt over for at borgerne er i konflikt med at holde markederne i gang og virksomheder, der appellerer til etik som en slutkørestrategi for at undgå robust regulering.

Men hvad nu hvis der er grund til at være mere håbefulde - selvom det kun er en smule praktisk optimisme? Hvad hvis svarene på Cambridge Analytica-skandalen allerede har igangsat en beregning i hele den tekniske verden, der bevæger historien til et vippepunkt? Hvad skal det til for teknologivirksomheder at gøre noget rigtigt sjælsøgning og omfavne Spider-Man's maksimale, at store ansvar kommer med stor magt?

Hvorfor design er kritisk for etik

Hvis virksomheder virkelig ønsker at gøre det bedre, er de først og fremmest nødt til at erkende, at det er tid til en etisk revolution inden for design.

På tværs af teknologiselskaber bærer designproblemer offentlighedens tillid. Det er ikke kun de uigennemtrængelige kedelpladsbetingelser for servicekontrakter, der holder os i tilstande med fremstillet uvidenhed. Designvalg af alle slags påvirker, hvordan vi opfatter risici og fordele. Ligesom reklame programmerer designstrategier vores præferencer og ønsker, hvilket påvirker hvilke teknologier vi ønsker at bruge og ejer, og hvordan vi er tilbøjelige til at interagere med os selv og andre gennem deres teknologiske råd.

Ingen gør mere for at få denne revolution til at ske end Woodrow Hartzog, en hyppig samarbejdspartner af mig og forfatter af Privacy's Blueprint: Slaget om at kontrollere design af nye teknologier. ”Design er ikke kun et etisk spørgsmål, fordi det er overalt, og det er magt,” fortalte han mig. ”Design er et stort etisk spørgsmål, fordi denne magt og altid kan bruges til politiske formål. Per definition tildeler den strøm mellem platforme og brugere. Og det er aldrig neutralt. Enhver beslutning om at gøre noget søgbart, at inkludere visse ting i en rullemenu, at inkludere et hængelåsikon for at give en følelse af sikkerhed, at skubbe folk om tilladelse til visse datapraksis fremmer en dagsorden for at gøre visse realiteter om afsløring til virkelighed . Normalt er dagsordenen afsløring. ”

Dagsordenen for våbenføring af designvalg, så maskinen er optimeret til at udtrække maksimale personlige oplysninger fra tech-brugere, blev sat på fuld visning af det nyligt lækkede memo fra Facebook-VP Andrew “Boz” Bosworth. I dette kontroversielle dokument - som på det tidspunkt, hvor det blev skrevet, skulle være en provokation - fremsatte Bosworth temmelig chokerende bemærkninger om, hvorfor Facebook skulle stræbe efter at forbinde flere og flere mennesker. Uhyggeligt beskrev han ikke platformens potentiale for at være medvirkende til, at mennesker mister deres liv for mobbere og terrorister som en afskrækkende virkning.

"Efter at have læst dette memo," sagde Hartzog, "er det lidt lettere at se, hvordan ethvert aspekt af design af Facebook er bøjet mod dens mission for at få dig til aldrig at stoppe med at dele og at føle dig godt til det i processen. Og grunden til design er nu et så vigtigt etisk spørgsmål, ”uddybte Hartzog,“ er, at lov og politik hidtil har haft meget lidt at sige om det. Lovgivere fokuserer på databehandling, men ignorerer alt for ofte regler for design af digitale teknologier. Vi kan gøre det bedre overalt, og det starter med at være mere kritisk over for vores værktøjs opbygning. ”

Med andre ord forekommer designkatastrofer så ofte, fordi der har været en perfekt storm af forsømmelse, der løber fra beslutningstagere gennem både administrerende direktører. For at forbedre situationen hævder Hartzog, at en ny plan for privatlivets fred og beslægtede værdier skal anvendes bredt. Hans idealer er sunde, men desværre accepterer teknologiselskaber dem ikke, før de holder op med at gemme sig bag myten om tunghåndsetik. Tekniske virksomheder kan lide at lyde liberal ved at antyde, at faderskab og demokrati er uforenelige. Historien fortæller, at da mennesker har forskellige værdier - inklusive forskellige personlige præferencer og forestillinger om acceptabel tale - at være følsomme over for mangfoldighed, kræver det at man undgår at fremme stærke standarder, som nogle vil omfavne, og andre vil se som krænkelser på deres frihed.

Dette er lort. Det er som berømthedsatleter, der siger, at de vil være i rampelyset, men ikke ønsker at blive betragtet som forbilder. I det øjeblik techfirmaer skaber objekter, der distribuerer magten ved at påvirke storskala opførsel, bør de tage ansvar for det, de frigiver i verden.

Ansvar har mange dimensioner. Men hvad angår Hartzog - og "værdier i design" -litteraturen understøtter denne påstand - er de tre centrale idealer, som teknologivirksomheder bør prioritere,: at fremme ægte tillid (gennem større gennemsigtighed og mindre manipulation), respektere uklarhed (evnen til mennesker til at være mere selektive, når de deler personlige oplysninger i offentlige og semipubliske rum), og behandler værdighed som sakrosanct (ved at skabe ægte autonomi og ikke behandle illusioner om brugerkontrol som den rigtige handel). Omfavnelse af disse mål betyder i det mindste, at virksomheder bliver nødt til at komme med bedre svar på to grundlæggende spørgsmål: Hvilke signaler sender deres designvalg til brugerne om, hvordan deres produkter skal opfattes og bruges? Hvilke socialt betydningsfulde konsekvenser følger af deres designvalg, der sænker transaktionsomkostningerne og gør det lettere eller sværere at gøre ting, såsom at kommunikere og blive observeret?

Etikundervisning på arbejdet

Det lyder måske som en kliché, men det er umuligt at tale om omfattende etisk reform i tech-industrien uden at diskutere uddannelse.

Til en vis grad er det forståeligt, at tech-virksomheder er havnet i positioner, hvor de ses som etisk mangelfulde og fortjener slots, der er forbeholdt de grådige i Dantes fjerde helvede cirkel. Til at begynde med huskes katastrofer, der skaber vrede og frygt, lettere end rutinemæssige udstillinger med hverdagsdyd, som stort set forbliver urapporterede og dermed går upåvirket. Tilsvarende bliver alt det gode, som videnskabsmænd, ingeniører og ledere gør ved tech-virksomheder - inklusive kampe for borgerrettigheder og privatliv - let overskygget af de negative stereotyper, der fremmes af deres mere myopiske og mindre samvittighedsfulde kolleger.

Ikke desto mindre er techfirmaer nødt til at gøre et bedre stykke arbejde med at tilføre etisk instruktion i deres virksomhedsuddannelse. Problemerne er så nuancerede, komplicerede og tilgængelige for "død ved tusind snit" -dynamik, at sølvkugleløsninger - ligesom ansættelse af Chief Ethics Officer - ikke vil opnå meget.

Irina Raicu, direktør for Internet-etikprogrammet ved Santa Clara Universitets Markkula Center for Anvendt Etik, fanger perfekt, hvad det primære mål for denne praksis skal være. ”En sådan uddannelse ville ikke inokulere teknologer mod at tage uetiske beslutninger - intet kan gøre det, og i nogle situationer kan vi godt nå nogen konsensus om, hvad den etiske handling er,” argumenterer Raicu. ”Sådan uddannelse ville imidlertid forberede dem til at tage mere tankevækkende beslutninger, når de for eksempel konfronteres med etiske dilemmaer, der involverer konflikter mellem konkurrerende varer.”

En af Raicus vigtigste indsigter er, at tech-virksomheder ikke kan tilføre robuste etiske følsomheder og hjælpe medarbejdere med at dyrke moden etisk skøn med sporadiske aktiviteter. Da "etisk beslutningstagning er som en muskel, der skal udøves, for at den ikke kan forringes," skal den integreres i strukturen i de daglige aktiviteter. Med andre ord er etik her og der alt for begrænset af et engagement - meget på samme måde som religiøse praktikere sætter spørgsmålstegn ved engagementet hos folk, der kun deltager i huse til tilbedelse til populære festivaler.

Efter skandalen med følelsesforurening gav Facebook offentligheden et vindue ind i sin undersøgelsesproces. Som det viser sig, rakte firmaet mig til input, mens han udarbejdede dokumentet. Mens jeg fandt, at forfatterne var ganske modtagelige for kritisk dialog, er der rejst spørgsmål om, hvor meget dokumentet virkelig afslører. Men det er den ting. Der er svære spørgsmål at stille om ethvert teknologisk selskabs etiske politik - om hvad de offentliggør såvel som hvad de behandler som virksomhedshemmeligheder.

Og dette bringer os tilbage til et spørgsmål, jeg rejste tidligere. Da teknologiselskaber tjener mange mestre, er der ofte strukturelle spændinger mellem professionel etik, personlig etik og social etik. Fortrolighedsfolk, for eksempel, har ikke engang deres egen særskilte etiske kode. Mange personale inden for privatlivets fred er advokater, og det er et spørgsmål om stor debat, om det at overholde deres ansvar som advokater ville være i konflikt med at blegge troskab til et nyt sæt idealer, der lægger større vægt på at forfølge for almenheden.

Så selvom flere tech-medarbejdere havde hjerter af guld og helgenes beslutsomhed, vil de ikke være i stand til at udrette meget, hvis de ikke er beføjet til at udfordre og ændre normer, der normaliserer banaliteten i det institutionelle onde.

Etikundervisning i skolen

Når datavidenskabsmænd og ingeniører går ind i døren på den allerførste dag af deres allerførste voksenjob, kommer de ind på arbejdspladsen med deres egne synspunkter om, hvad det betyder at være professionel, og hvad professionalisme kræver af dem. For at forberede sig på dette øjeblik kan universiteter ikke videregive pengene og delegere ansvaret for etikuddannelse til virksomheder. De er nødt til at gøre deres retfærdige del af etikundervisning, hvilket som minimum betyder at lægge en høj værdi på at bibringe adfærdskodekser, casestudier, moralsk ræsonnement, politiske briefs og projektbaserede opgaver, der fremhæver etisk vigtige spørgsmål.

Og designetik! Af alle de grunde, som Hartzog understreger, skal der være masser af designetik. Studerende, der skaber online-, virtual reality-, augmented reality-, AI-drevne og maskinlæringsmiljøer, hvor vi alle tænker, lærer, arbejder og socialiserer, skal have en klar fornemmelse af den enorme magt, de har. Erfaringsdesignere er ikke kun ansvarlige for at fremstille intuitive produkter; de bærer også en del af byrden for at forme det, der får oplevet.

Sagen er, at det ikke er nok at kaste flere ressourcer ind i etiske klasser og relaterede, løbende bestræbelser, som integreret etik på tværs af pensum. For at være sikker, ville flere af disse aktiviteter hjælpe, især hvis de involverer filosoffer. Riktignok er jeg som filosofiprofessor partisk. Jeg tror, ​​at konceptuelle værktøjer, ligesom omhyggeligt udformede og smarttolkede tankeeksperimenter, kan hjælpe folk med at tænke på nye og kreative måder, ligesom den mest udfordrende kvalitet fiktion, film og kunst. Der er meget mere kilometertal at hente ved at anvende vognproblemet til selvkørende bilpolitik, for eksempel, selvom kritikere med rette påpeger, at tankeeksperimentet kan aflede opmærksomheden fra presserende problemer, hvis det fortolkes for reduktivt og trækker opmærksomheden væk fra andre værdifulde indsigter.

Da jeg talte om værdien af ​​filosofi med Robin Zebrowski, formand for det kognitive videnskabsprogram ved Beloit College og tilknyttet dens afdelinger for filosofi, psykologi og datalogi, tog hun argumentet videre. Zebrowski hævdede, at filosofer ikke bare skulle tages mere seriøst i akademiske rammer, de skulle også få et mere prominent sæde ved virksomhedsbordet.

”Regeringerne er begyndt at genkende det arbejde, filosofer gør omkring kritisk undersøgelse af algoritmer, autonome køretøjer, drone-krigføring, kunstig intelligens og endda sociale problemer, som teknologivirksomheder forsøger at løse på deres egne måder,” sagde Zebrowski. ”Filosoffer opfordres til at konsultere med De Forenede Nationer; De Forenede Nationers uddannelses-, videnskabelige og kulturelle organisation; forsvarsministeriet - alt sammen på grund af den unikke ekspertise filosofer har i forhold til disse spørgsmål. Så hvorfor ansætter ikke teknologivirksomheder dem og betaler dem for denne specialiserede viden, der lover at tilbyde en konkurrencefordel inden for en knaldhalsbranche? ”

Særlig anmodning om side til filosofi. Grunden til, at universiteterne ikke skal være tilfredse med blot at forbedre etiske læreplaner, er, at det er svært for dem at være gode etiske rollemodeller i informationsalderen. Rollemodeller, der ikke skaber en alarmerende forbindelse mellem, hvad de prædiker, og hvad de praktiserer, hvis de ikke er introspektive og forpligtet til god regeringsførelse.

Kort sagt, universiteterne er nødt til kontinuerligt endnu nøje at reflektere og handle på farerne ved at tildele forretningsinformation i deres egen teknologiske praksis. Når alt kommer til alt omfavner universiteterne overvågningssystemer med store data og forudsigelige analyser for at forbedre, hvordan de forfølger højt prioriterede mål: rekruttering og optagelse af studerende; netværk med succesrige alumner; forbedring af tilbageholdelse; og hjælpe studerende med at studere bedre, lære mere og vælge de rigtige klasser på det rigtige tidspunkt.

Selvom dette alle er prisværdige mål, abstrakt set, er djævelen som altid i detaljerne. Universiteter har de digitale værktøjer til at sætte studerende i lås med alle de kunder og ansatte, der er fængslet i ”jernburet i det kvantificerede selvregime, der sigter mod at spore alle vores data for at maksimere og optimere al vores opførsel.”

Mitch Daniels, præsident for Purdue University, advarede for nylig, at hvis universiteter ikke administrerer deres teknologiske systemer ordentligt, kan deres profilering og nudging ende med at skade de studerende, de er tiltalt for at beskytte. Da skoler erhverver enorme mængder af personoplysninger, der samles for at danne rige portrætter af studerendes vaner, har de potentialet til at overholde alle statslige og føderale uddannelseslove, mens de stadig skaber overdrevent kontrollerende miljøer - muligvis endda strengtrækkende dem, som Kinas alt- omfattende, regeringsdrevet socialt kreditsystem. "Mange af os," skriver Daniels, "bliver nødt til at stoppe op og spørge, om vores gode intentioner fører os forbi grænser, hvor privatlivets fred og individuel autonomi stadig skal sejre."

Med andre ord, hvis universiteter ønsker at uddanne morgendagens ledere, mens de også fører et eksempel, er de nødt til at blive mere engagerede i idealet om "informationsretfærdighed." Jeffrey Alan Johnson, direktør for institutionel effektivitet, planlægning og akkrediteringsstøtte i Utah Valley State Universitet har længe gjort det gældende, at informationsteknologi blandt andet kræver, at universitetsstuderende får retfærdige processer for at udfordre og ændre personlige oplysninger, som en skole mener er nyttige, men som i virkeligheden er unøjagtige eller upassende for dem at besidde eller handle efter. Johnson hævder også, at universiteterne skal gøre et bedre stykke arbejde med at "udnytte ekspertisen fra deres fakultetsmedlemmer, der beskæftiger sig med teknologiske etik og grundlæggende samfundsvidenskabelige og forskningsmetoder, der kan tale om data som en social konstruktion."

Jeg løb disse ideer forbi Pasquale, og han fandt dem alle værd at forfølge. ”Mit hovedproblem er med bestræbelser på at erstatte etisk refleksion for juridiske forpligtelser,” sagde han.

”I et sundt retssystem,” fortsatte han, ”ville Facebook stå over for store bøder for gentagne gange at krænke brugernes tillid og ville være underlagt tilsynsregulering (på samme måde som mange banker er) for at sikre, at det holder sine løfter i fremtid. Men der er mange områder, hvor vores følelse af rigtigt og forkert opstår, eller hvor pligter er mere moralsk end formelle. Det er her etisk uddannelse er vigtig - at kultivere dømmekraft og artikulering af værdier i verdener, hvor besættelsen af ​​algoritmen fører til binær tænkning (hvad der er lovligt er fint at gøre) eller hacker 'etik' (reglerne bliver brudt). '

Tekniske virksomheder bliver nødt til at tage etik meget mere alvorligt, end de i øjeblikket gør, hvis de ønsker at være ægte troværdige. Både offentligheden og politikere er trætte af gentagne, men culpa lydbid, der er skrevet til at resonere som modstridende, men mangler indholdet af engageret lederskab.

Regnestykket ser ud til at være endelig her, og derfor vil løfter om reformer, der forekommer dristige, men kun tænke ved kanterne af institutionel myopi, grådighed og arrogance, blive taget for, hvad de er: løgne, der ikke længere kan tolereres.