Här kommer lite tankar kring ny teknik och forskning samt lite länkar  i ämnet. Detta efter att ha sett mer och mer om självlärande system och börjat plåga mina nära och kära med den här typen av (för många) obekväma frågor. Läs på egen risk!

Här om dagen gick KAK (Kungliga Automobil Klubben) ut i DN och menade att självkörande bilar ställer andra krav på trafiken. Jag tror de missar en viktig poäng – datorer kommer snart att vara bättre än oss på att köra bil – i alla trafiksituationer. Och de behöver inte vara perfekta, bara bättre.

Kanske skulle jag välja att fiska om jag kunde

Världen är full av vackra platser

Teknik – problem eller möjlighet?

Detta är ett exempel på när vi ser problemet med ny teknik, hur vi ser teknik som något i grunden farligt som en människa behöver kontrollera – men teknik är bättre och säkrare än människor och med nya självlärande system så kommer robotarna (datorerna eller vad vi nu kallar dem) att vara bättre än oss på i stort sett allt. Kanske är rädslan för ny teknik inte så mycket rädslan för tekniken självt utan människans rädsla för det som är bättre än oss själva?

Och nu tänker jag dra det till sin spets: en dator kommer inom kort – 10-20 år – vara bättre på att styra ett land än vad vi är. Kruxet ligger i ordet “bättre”. Vad menar vi med det? Hur ska datorn veta det om inte ens vi vet det? Datorer kommer kunna utveckla system som minskar arbetslösheten till noll. Eller så utvecklar de system som gör oss alla arbetslösa för den löser de saker som vi har arbetat med bättre än vi kunnat tänka ut. En dator kanske också ser att exakt 5,78% arbetslöshet är en siffra som är positiv för den mänskliga artens fortlevnad de kommande 1000 åren. Vem av oss kan ens förutse vad som händer om 1000 år – vem av oss bryr sig? Vem av oss bryr sig egentligen?

Hur långt in i framtiden bryr du dig?

Och här kommer en fråga jag ställt mig själv och folk jag träffat på sistone: hur långt in i framtiden bryr du dig om vad som händer? 1 generation, 2 generationer, 200 år, 1000 år, 100 000 år

Om vi sätter en dator att bestämma över oss med mänsklighetens framtida välgång i sikte, vilka obekväma beslut kommer den att fatta som våra politiker inte klarar av? Vi håller på att förstöra vår planet men klarar fortfarande inte att se längre än vår näsa.

Nu tror ni kanske att detta är en utopi, att vi inte kommer att sätta en dator att bestämma över samhället istället för mänskliga politiker. Tänk då på detta: om 5 år tror en del forskare att självlärande system (AI eller vad ni vill kalla det) kommer att vara bättre än oss i de flesta olika områden och till 2050 kommer vi ha kunnat utveckla en robot som klarar av allt som en människa klarar.

AI som styr – en ofrånkomlighet?

Om du nu har resurser som en mindre stat (Facebook, Google) eller har en stat (NordKorea, Syrien, IS, nämn din egen skurkstat), varför skulle du då inte utveckla en AI som gör så att dina mål uppnås, typ världsherravälde eller omåttlig rikedom? Hur ska vi då hantera att fatta långsiktiga beslut med vår begränsade kapacitet som motverkar dessa negativa krafter?

Så vi utvecklar vår egen AI som rådgör det demokratiskt valda styret som sedan fattar beslut utifrån rådet de får.

Tanke 1: det beslut som AI’n föreslår är alltför obekvämt så vi väljer att fatta det näst bästa beslutet eller kanske ett helt annat. Resultat: det skiter sig, skurkarna vinner långsiktigt.

Tanke 2: AI’n vet redan att det beslut den föreslår är obekvämt och kommer röstas ner så den föreslår ett annat beslut som den vet kommer leda åt rätt håll utan att vi förstår att det obekväma beslutet sedan blir en naturlig och ofrånkomlig följd – den manipulerar oss.

Min slutsats är att vi kommer ge bort vår beslutandemakt till datorerna – om de ser att det är gynnsamt för oss, det kan vara så att de/den förstår att det är kontraproduktivt, allt är möjligt – och vem vet vad som då händer.

Nu kanske du opponerar dig och säger att det verkar farligt och otrevligt, men någon kommer att göra det och denne någon kanske inte har de bästa intentionerna, vi är trots allt bara människor.

Positivt tänkande

Känns det dystert och hopplöst? Jag tänker så här: vilket samhälle har vi människor skapat åt oss själva? I en värld som styrs av datorer så kanske jag kan vara ute i naturen (och kanske förstår de hur den kan räddas/bibehållas/utvecklas) och göra roliga saker med människor som inte sitter fast i ekorrhjulet.

Jag väljer att se det positivt, inget ovan är sanning och inget är säkert (även om jag kan låta så ibland) men om det krävs att AI styr över oss för att vi ska få en värld där jag kan jobba med det jag vill, när jag vill, där mina barnbarnsbarnbarnsbarnbarnsbarnbarnsbarn kan springa på gröna ängar och åka skidor och kita och se isbjörnar så hoppas jag att vi klarar av det kommande teknikskiftet!

Lite länkar

Allmänt

Ray Kurzweil: How the World Will Change -http://scienceofsingularity.com/

Självkörande bilar

Volvo – http://www.svd.se/hang-med-pa-ett-ak-med-den-sjalvkorande-bilen_3497906

KAK – http://www.dn.se/debatt/sjalvstyrande-bilar-staller-nya-krav-pa-alla-i-trafiken/

Självlärande system

[ted id=2155 lang=sv]

[ted id=2243]

Övrigt

[ted id=2241]

 

%d bloggare gillar detta: