Artificiell Intelligens: En kapplöpning mot tiden eller om den mest säljande produkten?

Vi har tidigare skrivit flera inlägg på temat Artificiell Intelligens. I nr 6 av tidningen OM skrev Johan artikeln "autonoma maskiner och artificiell intelligens" om för och nackdelarna med den snabba utvecklingen av AI. 

Nyligen intervjuades Elon Musk (VD och grundare för både Tesla Motors och SpaceX) och Bill Gates vid ett event i Kina. Intervjuare var Robin Li, VD för Kinas största sökmotor Baidu vilket är landets motsvarighet till Google. Globalt är Baidu nu på fjärdeplats efter Google, Bing och Yahoo. 

En hel del intressanta frågor ställdes men vi fokuserar i detta inlägg på de som rör Artificiell Intelligens. 

Robin Li citerade Baidus chefsforskare Andrew Ng som sagt "att oroa sig över de mörka sidan av Artificiell Intelligens är som att oroa sig över överbefolkning på Mars" och frågade sedan Elon Musk hur han såg på det. Musk som vid en intervju anordnad av Massachusets Institute of Technology (MIT) i oktober 2014 sa att han ser AI som det största hotet mot mänskligheten. Detta då den har potentialen att ta kontroll över och utrota hela den värld som vi idag känner den.

Musk som har mer insyn än de flesta i hur snabbt utvecklingen av AI går, är alltmer övertygad om att det behövs en nationell och internationell översyn av AI så att "vi inte gör något dumdristigt". Musk har till och med sagt att utvecklingen av AI är som att locka fram djävulen.  

Musk svar på Lis fråga var: 

"Jag tycker det är en radikalt felaktig anologi, jag vet en del om Mars. Riskerna med digital intelligens och jag vill att ni försöker beakta att den skulle inte bara att uppnå mänsklig nivå utan skulle uppnå övermänsklig nivå nästan omedelbart och skulle köra ifrån oss och kunna göra saker bortom vad vi ens kan föreställa oss. Jag tycker att en mer passande jämförelse vore att titta på kärnkraft forskningen och dess potential som ett mycket farligt vapen. Att frigöra energi är enkelt men att hålla kvar energi säkert är mycket svårt. Så jag tycker att rätt fokus vad gäller AI-forskning är AI-säkerhet först. Vi bör lägga betydande mer resurser på att göra AI säkert än vi gör på att bara utveckla AI så fort som möjligt"

Musk sa även att "Artificiell Intelligens kan bli bra eller dåligt men kan bli katastrofalt dåligt som en nukleär härdsmälta". Musk la sedan till att han inte är emot utvecklingen av AI men att om det krävs längre tid att utveckla för att vi prioriterar säkerheten först, är det den väg vi bör ta.

Varför ska man då Musk varningar på allvar?

Musk har investerat många miljoner i ett världsledande företag inom AI i Silicon Valley för att få insyn i utvecklingen och dessutom öronmärkt 80 miljoner kronor av sina egna pengar till Future of Life Institut (FLI). FLI är en frivilligt driven forskningsorganisation som arbetar för att mildra existentiella hot mot mänskligheten och fokuserar just på riskerna med utvecklingen av artificiell intelligens som når mänsklig nivå.

Bill Gates instämde i Elons varningar och påpekade att människan har en väldigt långsam hjärna med begränsat minne och förmåga att skicka data till andra datorer (människor), via våra mun...men så fort dessa egenskaper kan föras över till mjukvara och en självlärande algoritm kommer det gå så snabbt att vi människor inte ens hinner uppfatta vad som skett.

En annan som höjt ett varnande finger för utvecklingen av AI är Steve the Wiz Wozniak som 

nyligen intervjuades i Ny Teknik.  Wozniak är teknikgeniet som tillsammans med Steve Jobs grundade Apple. På frågan om sitt bidrag till teknikutvecklingen är han osäker på om det egentligen lett till något bättre, han ångrar rent av det.   

Ny Teknik skriver:

"Först tänker han på hur hans dröm var att ge människor kontroll över sina liv och mer tid.

-Men i dag behövs det två i familjen som jobbar för att har råd med ett hem. Det är fel väg, säger han.

Sedan tänker han på artificiell intelligens, AI.

-Datorer kommer allt närmare förmågan att tänka. Och tänk om datorer får känslor, om de kan lösa problem i världen, och blir tio eller hundra gånger smartare än människor. Det är skrämmande om det händer."   

Anthony Mayfield har forskat mycket på Artificiell Intelligens och bland annat tittat på hur människan kan visa medlidande för robotar och hur amerikanska militärmakten redan nu skapat algoritmer så att drönare ska kunna ta egna beslut om de ska "bomba/avfyra en robot" eller inte mot människor när tex förlorar kontakten med sin pilot. Mayfield har även skrivit den läsvärda boken
"On The Brink: Resource Depletion, Debt Collapse and Supertechnology".Mer om det i tidigare inlägg.   

Tänker man efter lite är varningarna inte överdrivna. Allting är sammanlänkat idag vilket innebär att att det en dag, förr än vi kanske tror, bara är för en AI-maskin eller mjukvara att utnyttja detta smörgåsbord och på så vis koppla upp sig mot den mänskliga "hjärnan" och ta fullständig kontroll.

Om nu utvecklingen av AI innebär så stora risker varför satsar då jätteföretag som Google, Baidu, och Apple och försvarsmakter och universitet över hela världen så mycket resurser på det kan man undra. Svaret är tyvärr väldigt enkelt, ingen vill stå utan möjligheten att ha maskiner som bygger andra maskiner och utvecklar egen mjukvara som är mer konkurrenskraftig än något annat företag eller land kan frambringa. Det kan ju vara ödesdigert långsiktigt för tex ett företag följer den logiken...

Föreställ er bara denna våta företagsdröm: AI som ser till att minimera den mänskliga personalkostnaderna till ett minimum, produktion kan ske var som helst, vilket innebär minimala transportkostnader och nära till marknader för produkter och tjänster. Ingen personal som ifrågasätter sina arbetsuppgifter eller behöver mat och försäkringar (eller kan strejka!) och när misstag eller olyckor sker kan företagsledningen skylla på AI...genialt!

Låt oss avsluta med en liten tankeställare. Johan lyssnade på en ingenjör härom året som arbetat flera år med att utveckla smartphones. Han sa att inte ens han som jobbat med detta varje dag i flera år förstod helt hur de fungerade. Han menade att dessa smartphones istället borde kallas dumbphones.

De fördummar oss genom att vi inbillar att oss att vi med dem i handen är smartare än tidigare generationer. Bara för att vi kan dra med fingrarna på en skärm och har koll på appar. Manicker som vi dessutom inte kan vara utan, då vi genast känner oss meningslösa och rastlösa ja rent av mindre sociala om de inte är laddade och redo! 

Så kanske dags att fundera på hur mycket tid vi spenderar framför smartphones och andra smarta manicker och börja använda våra egna hjärnor mer. Annars kommer vi upprepa precis samma misstag som tidigare generationer, bara med mycket kraftfullare leksaker och med ännu större konsekvenser för fler människor när något går snett.

Vi kommer må bättre om vi ägnar mer tid åt att faktiskt prata med människor och träffa dem på riktigt, för att inte tala om att gå ut i naturen och förstå hur den faktiskt förser med alla de resurser och den teknik och uppfinningsrikedom som vi inbillar oss är en produkt av det vi vi kallar ekonomin.