Posts Tagged ‘Singulariteten’

Teknikens framtid

23 januari 2011

En av de största framtidsfrågorna är hur vi i längden ska hantera den (informations)tekniska utvecklingen, som idag förändrar samhället extremt fort.

Syftet med den här texten är inte att skriva om hur vi ska hantera det, utan argumentera för varför vi bör hantera det. Detta eftersom nästan ingen offentlig debatt i frågan pågår. I alla fall inte i Sverige.

I jämförelse framstår klimatkrisen som betydligt enklare, för där vet vi ju i stort vad som behöver göras och frågan är vida uppmärksammad.

Utmålat på en logaritmisk skala så visar 15 separata listor med paradigmskiften i mänsklighetens historia en trend av exponentiell ökning. Mer info här.

Det enda som i nuläget ser ut att kunna bromsa teknikens framfart är naturresursbrister, miljöproblem och problem som vi idag inte kan förutse.

Hittills ser dock trenden ut att bara gå snabbare och snabbare. Jag ska belysa några exempel.

Kan vi överblicka konsekvenserna av ett samhälle där nästan vem som helst har råd att placera ut minimal avlyssningsapparatur och övervakningskameror gömda i sovrum, på kläder, på hemliga möten, och så vidare. Redan idag kan du till exempel köpa en penna med dold kamera och mikrofon för några hundralappar lite här och var. Lillebror ser oss allt mer.

Det lär i längden bli allt lättare för enskilda medborgare att kunna skaffa och använda massförstörelsevapen. På sikt även nanorobotar som går in i kroppen på utvalda offer och gör det som de programmerats att göra.

Den här typen av biologisk terrorism rankas av framtidsforskare vid The Future of Humanity Institute vid universitetet i Oxford, som det största hotet mot mänskligheten de kommande 100 åren. Singulariteten – i det scenario där de extremt smarta robotarna blir ”onda” – rankades som det näst största hotet, men de två frågorna hänger ju rätt mycket ihop. Programserien om dessa hot finns att se på UR Play här.

Bara det senaste året har forskarna bland mycket annat upptäckt en ungdomens källa och bakterien som livnär sig på gift – vilket bland annat innebär att liv troligen är mycket vanligare i universum än vi hittills trott.

Nyligen har det också uppfunnits en kamera som kan fota runt hörn, samt en maskin som kan läsa tankar. Med nuvarande utveckling är det bara en tidsfråga tills tankeläsarmaskinerna blir verkligt effektiva. I länder där folk kan dömas till döden för sina åsikter eller sin sexuella läggning, så blir ju den här utvecklingen bokstavligen en fråga om liv eller död.

Makteliten kommer heller inte att kunna ha så mycket hemligheter framöver. Wikileaks är rimligen bara början. Enbart USA:s regering lägger motsvarande 60-100 miljarder kronor årligen på nätsäkerhet.

Jag har tidigare skrivit om vad det kan innebära att stora delar av all information i världen är på väg att samlas hos samma företag: Google. Man kan ju få reda på extremt mycket om en person genom att samköra digital information och analysera. Särskilt i dessa tider när många människor frivilligt krymper sin privata sfär allt mer.

Facebook-konton kan kapas och på twitter har klimatkrisförnekare ovetandes argumenterat mot en robot som sökt upp och svarat på klimatkrisförnekarargument så fort de dykt upp. Vilka identiteter som är äkta i den digitala världen lär bli allt svårare att veta. På längre sikt riskerar vi att även i verkliga livet få svårt att skilja en robot från en människa.

Det låter som science fiction, det är än så länge science fiction, men likväl så är det en konsekvens av att nuvarande trend fortsätter. Vi vet dock inte hur lång tid det kommer att ta.

Vad händer om artificiell intelligens blir intelligentare än människorna? Hur kan vi se till att AI-utvecklingen gynnar mänskligheten? Det är frågor som i högsta grad engagerar extremt mäktiga och intelligenta personer som Stephen Hawking, Bill Gates och Googles forskningschef Peter Norvig. Jag har tidigare skrivit ett utförligt inlägg om det här.

Så vilka handlingsalternativ har vi i längden?

Att övertala hela världen om att gå tillbaka till ett mer primitivt liv, eller att stoppa robotarnas framfart, är knappast möjligt. Om det sker lär det i så fall vara en följd av naturens villkor. Däremot kan vi till viss del påverka hur fort det går.

Det som förespråkas av många som engagerar sig i frågan är att fokusera på att de robotar som utvecklas kommer att vara vänligt inställda till människor även om vi tappar kontrollen över deras utveckling, vilket de räknar med att vi kommer att göra.

Tyvärr gör det politiska debattklimatet att sådana framtidsfrågor mest förlöjligas om de tas upp av de politiska partierna, på samma sätt som människor historiskt skrattat åt framtidsvisioner som sedan till och med överträffats. Men fler individer och föreningar lär lyfta frågan i takt med att den (informations)tekniska utvecklingen fortsätter i allt snabbare takt.

Mer relaterat i media: SvD, DN2, DN3, SVT, DN4, SVT2

Trender till 10-talet.

Singulariteten är nära. Eller?

02 januari 2010

Den informationstekniska utvecklingen går idag rasande fort. Och inte nog med det: Det finns goda belägg för att takten för informationsteknisk utveckling i stort ökar exponentiellt, på samma sätt som datorernas kapacitet har dubblerats vartannat år ända sedan 1960-talet (Moores lag).

Vad kommer det här att innebära på till exempel 30 års sikt? Troligen mycket mer än vi kan föreställa oss.

Det här är ett extremt viktigt ämne som inte uppmärksammas i svenska dagstidningar, men som debatteras en del i mainstream media i USA och engagerar mäktiga män som Bill Gates, Stephen Hawking och Googles forskningschef Peter Norvig.


Utmålad på en logaritmisk skala så visar 15 separata listor med paradigmskiften i mänsklighetens historia en trend av exponentiell ökning. Mer info här. Graphed by Ray Kurzweil, based on lists compiled by Theodore Modis.

Om den informationstekniska utvecklingen fortsätter som hittills, så infaller till slut den teknologiska singulariteten. Det är när en maskin med hjälp av artificiell intelligens blir mer intelligent än den mest intelligenta människan.

Maskinen lär då skapa nya maskiner till sin hjälp. Samtliga dessa kommer då allt snabbare att fortsätta utvecklas så till den grad att människor kommer kunna påverka dessa robotar lika lite som kvalster kan påverka människor. Därmed ligger det bortom vår föreställningsförmåga hur de kommer att agera.

Anledningen är att maskiner, så vitt vi vet, inte har någon övre gräns för hur intelligenta de kan bli. Vår egen intelligens har vi ju däremot svårt att öka. Avgörande blir då om de första robotarna som är smartare än oss är tillräckligt väl programmerade för att de inte ska inverka negativt på människor och djur. Om det lyckas så kan dessa första ”goda” robotar se till att inga smarta robotar med annan agenda får chansen att utvecklas.

Både möjligheterna och riskerna med den här utvecklingen är ofattbart stora.

Men redan innan detta kritiska skede kommer andra omvälvande effekter till följd av den tekniska utvecklingen. Till exempel kommer varje medborgare att kunna skaffa och använda extrema massförstörelsevapen; det kan vara nanorobotar som går in i kroppen på utvalda offer och gör det som de programmerats att göra. Redan om några år kommer extremt små filmkameror och dylikt att kosta en spottstyver – tänk vad det kan innebära för den personliga integriteten…

Vissa analytiker tror att den teknologiska singulariteten kommer att inträffa redan nästa årtionde, andra tror att det kommer dröja över 100 år. Sedan finns ju också de som tror att det aldrig kommer att inträffa. Klimatkrisen kan i alla fall fördröja det hela. Den som lever får se.

Vodpod-video är inte längre tillgängliga.

Talet ovan är från 2005 av Ray Kurzweil. Uppenbarligen överskattar han vad som skulle ha hänt redan i år, men det är intressant ändå. Kurzweil är bland annat rektor för Singularity university och har skrivit den omfattande boken The singularity is near, som snart blir film. I väntan på det finns en dokumentär här.

En av de bästa introtexterna till den teknologiska singulariteten finns annars på Wikipedia här. Se även den här korta texten.

Den enskilda person som kanske har bäst koll och som mest aktivt försöker bättra på oddsen för att det ska gå bra, är Eliezer Yudkowsky. Han är en del av Singularity Institute for Artificial Intelligence i USA.

Framtiden blir väldigt spännande!

Andra om singularitet, singulariteten, teknisk singularitet, teknikutveckling, , , , , , , , , , , , ,


%d bloggare gillar detta: