We are programmed just to do, anything you want us to

Isaac Asimov var ingen programmerare. Jaha, tänker du. Men det är faktiskt en poäng på väg här. Ingen tvekar om att han var en väldigt bra och visionär författare. Men för att vi ska kunna komma till själva poängen måste vi först titta på Isaac Asimovs och John W. Campbells tre lagar för robotik.

• Första lagen. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.

• Andra lagen. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.

• Tredje lagen. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

Först måste vi även presentera ett scenario. Anta att en person med karpaltunnelsyndrom som förvärras vid ledrörelser håller en kniv i höger hand. Han har bestämt sig för att hugga en annan person i ryggen för att sedan stjäla denna personens plånbok. Om en robot ser detta. Hur ska roboten förhålla sig till första lagen? Eftersom roboten inte får tillåta att en människas skadas så måste roboten ingripa för att hindra en av människorna från att bli skadad av kniven. Om vi antar att det inte går att resonera med knivhuggaren så att han avbryter sitt angrepp så måste roboten fysiskt ingripa genom att ta kniven ur personens hand. Eftersom knivhuggaren har karpaltunnelsyndrom så gör personen i fråga illa sig när roboten tar kniven ur högerhanden. Roboten måste alltså värdera två skador: skadan som roboten kommer att åsamka knivhuggare och skadan som knivhuggaren kommer att åsamka den andra personen. Finns det alternativ? Kanske roboten kan spreja någon slags knockoutgas. Men om knivhuggare är astmatiker och drabbas av andnöd då? Problemen staplas helt enkelt på hög.

Redan här fallerar det. Då finns ingen anledning att diskutera andra och tredje lagen. Lagarna ger helt enkelt ingen vägledning när det kommer till att värdera faktorer. För att lagarna ska fungera måste roboten ha full insyn i framtida händelser och i förväg justera sitt tillvägagångssätt så att ingen skada uppstår. Eftersom vi då är inne på några slags tidshopparrobotar så blir allting väldigt konstigt. Det enda roboten kan göra är att låtsas som att den inte ser något och därmed slippa ta itu med frågan. Följden blir att de tre lagarna inte går att implementera i programmeringssammanhang. Ja, vi antar att de aldrig var tänkta att användas i verkligheten. De kommer ju trots allt från skönlitteratur. Så det är nog bättre att se dem som underhållning snarare än teknisk och moralisk vägledning.

När vi ändå var inne på underhållning hittade vi den här ficklampan på Lajbanssons leksaker. Det är väl lika bra att åter igen erkänna att vi är nördar. Men det är något särskilt med en röstförvrängande ficklampa som ser ut som Darth Vader som gör att glädjen spritter. Vad har då detta med robotikens lagar att göra? Egentligen ingenting. Men om du försöker hitta vägledning i de tre lagarna kan du lika gärna utrusta dig med en ficklampa och en talförvrängare för du kommer att misslyckas oavsett.

admin