8 dec. 2015

Moral och automatisering

I TED-talet nedan argumenterar Andreas Ekström för att vi måste förstå och ta ansvar för våra värderingar, i en tid där mer och mer automatiseras. Vi behöver inse att vi är människor och agera där efter - det är nödvändigt att humaniora och teknik knyts ihop, säger han. Ekströms exempel är från Googles sökmotor.

För några veckor sedan läste jag en artikel om moralen hos självstyrande bilar. Detta är en frågeställning i samma ämne, men med uppenbart dödlig utgång. Hur ska en automatiserad bil agera när den "inser" att den kommer köra på en människa som går över gatan, eftersom den inte hinner bromsa snabbt nog? Ska den väja och köra av vägen, med risk att döda/skada människor på trottoaren eller de som åker i bilen? Ska automatiken räkna utilitaristiskt och skada så få människor som möjligt? Eller ska den i första hand skydda bilens passagerare?

Google använder redan värderingar bakom programmeringen av sin sökmotor. Svar på frågan om moral i automatiserade bilar kommer behövas snart framöver.

3 kommentarer:

Ravn sa...

Visst är detta viktigt, men är det egentligen ett jätteproblem? Vi kommer aldrig att acceptera system som presterar sämre än nuvarande lösning (dvs. när människor opererar), så då är vi ju egentligen klara.

När man sedan ska värdera liv mot liv och skada mot skada så har vi ju redan idag denna typen värderingar, t.ex. av försäkringsbolag och myndigheter. Man kan helt enkelt använda motsvarande och optimera mot när man designar sina autonoma motorer (= program). Klart att dessa kriterier säkert kan behöva justeras, men grunden är lagd redan. Och vi gör redan motsvarande värderingar. Sedan kommer det säkerligen att vara ett jättejobb att validera t.ex. att våra system klarar av att ta dessa beslut i realtid, men det är ett tekniskt problem.

Lennart W sa...

Har egentligen ingen jättestor lust till att göra reklam för Olle Häggströms blogg, men han har nog faktiskt ett och annat vettigt säga om de ev farorna med allt smartare teknologi som styr allt mer över våra liv. Behöver kanske inte bli exakt som i Terminator, men iaf någonstans åt det hållet finns det en risk som måste hanteras. Nu. Det kan bli för sent.

Ulf Gustafsson sa...

Ravn,

"Vi kommer aldrig att acceptera system som presterar sämre än nuvarande lösning"

Håller med. Det är därför att automatiseringen kommer ske - den presterar bättre - och det snart. Men det är därför vi måste diskutera efter vilka värderingsregler de automatiserade systemen handlar. Vad man menar med "presterar bättre" måste klarläggas och detta är delvis en fråga om moral.

 
Religion Blogg listad på Bloggtoppen.se