Robotlesing , fra ShutterstockDenne artikkelen er basert på et Science Friday-intervju og var opprinnelig publisert på PRI.org.
Roboter, som Mark Riedl forklarer, har stort sett alle sosiopatiske tendenser.
'Kommer disse til å være trygge?' spør Riedl, en informatikkprofessor ved Georgia Institute of Technology i Atlanta, 'Kommer de til å være i stand til å skade oss? Og jeg mener ikke bare i form av fysisk skade eller fysisk vold, men i form av forstyrrelse av sosiale harmonier i form av ... kutte på linje med oss eller fornærme oss.'
Ifølge Riedl er det ikke så mye at roboter er frekke med vilje. Det er bare det at de prøver å 'superoptimalisere.' Men hvis roboter begynner å bli en del av hverdagen vår, vil det da være mulig å lære dem å oppføre seg?
'Vi ønsket å prøve å lære agenter de sosiale konvensjonene, de sosiale normene som vi alle har vokst opp med,' sier Riedl. «Historier er en fin måte, et flott medium for å kommunisere sosiale verdier. Mennesker som skriver og forteller historier kan virkelig ikke la være å innpode … verdiene vi verner om, verdiene vi besitter, verdiene vi ønsker å se hos gode, oppegående borgere.»
Riedl og teamet hans har eksperimentert med å fortelle veldig enkle instruksjonshistorier til roboter. For øyeblikket prøver de å lære en robot å gå til butikken og hente et reseptbelagt legemiddel.
'Vi er fortsatt på et enklere stadium,' sier Riedl. 'Naturlig språkbehandling er veldig vanskelig. Historieforståelse er vanskelig når det gjelder å finne ut hva som er moralen og hva som er verdiene og hvordan de manifesterer seg. Historiefortelling er faktisk en veldig komplisert ting.»
Etter hvert håper imidlertid Riedl at det skal være mulig å gi roboter hele bibliotek med historier.
'Vi ser for oss å mate hele sett med historier som kan ha blitt skapt av en hel kultur eller hele samfunnet til en datamaskin og få ham til å reversere verdiene. Så dette kan være alt fra historiene vi ser på TV, i filmene, i bøkene vi leser. Virkelig den populære fiksjonen vi ser, sier Riedl.
Han bekymrer seg ikke for at roboter kan avgjøre hva som er rett eller galt i en historie – om det er bedre å stille seg på side med en helteskikkelse i en historie eller en antihelt.
'Det kunstig intelligens er veldig flink til å gjøre, er å plukke ut de mest utbredte signalene,' sier Riedl. 'Så de tingene den ser om og om igjen og om igjen ... er de tingene som kommer til å stige og boble opp til toppen. Og disse har en tendens til å være verdiene som kulturen og samfunnet verner om. Så selv om vi ser ... antihelter, er det fortsatt et stort mindretall av tingene som hele samfunnet vårt har produksjon.»