Archive for the ‘Singulariteten’ Category

Robotarnas framtid

25 mars 2012

Ovan robot från 2005. Moderna robotar i rörelse och konversation:

SVT:s spektakulära dramaserie Äkta människor har onekligen ökat intresset för robotarnas framtid. Passande nog publicerar nya numret av Gröna Studenters tidning Defacto en artikel av mig som grundligt går igenom teknikens framtid med fokus på robotarna. Artikeln och resten av det mycket läsvärda numret kan du beställa här. Jag har också skrivit om frågan tidigare, främst här och här.

Filosofiska rummet har nu också diskuterat Äkta människor, Socialdemokraterna har debatterat robotpolitik mot Moderaterna i radio P1. Även Centerpartiet, Folkpartiet och Vänsterpartiet har uttalat sig i frågan.

Äkta människor handlar om ett samhälle likt vårt, fast där vi även har robotar som är ungefär lika avancerade som människor. Det är osannolikt att det längre än mycket kort tid skulle förbli så, eftersom robotarna utvecklas så snabbt. Det är också mycket mer sannolikt att artificiell intelligens utan robotar blir ett avgörande problem för mänskligheten, men i det här inlägget är fokus på robotarna.

Svenskarna splittras av inställningen till den nya tekniken och många människor försöker hitta sin plats i detta nya samhälle. Äkta människor har nu tio söndagar i rad lyft viktiga politiska och filosofiska frågor rakt in i hundratusentals svenska vardagsrum. När robotar knappt går att skilja från människor längre, så ställs en rad frågor på sin spets. Vad motiverar egentligen människans särställning gentemot andra djur? Kan maskiner till slut få mänskliga rättigheter? Ska vi låta maskinerna ta över, trots osäkerhet om de fulla konsekvenserna?

Från pacemaker och hörapparat till chip i hjärnan. Gränsen mellan människa och maskin riskerar att bli otydlig i framtiden. Forskaren Amber Case pekar också på hur datorer och mobiltelefoner kan fungera som en utvidgning av våra tankar, känslor och mentala status.

Vad händer om robotarna blir överlägsna oss? Enligt framtidsforskare lär vår tillvaro då antingen bli extremt bra eller extremt dålig. Det beror på om robotarna vill oss väl, och inte ens då är vi säkra. Om robotarna tar hänsyn till oss – kommer de då ta likvärdig hänsyn till andra djur? Om robotarna får ett egenvärde – ska det då vara olika för olika robotar?

I Äkta människor så ser vissa hubotarna som likvärdiga människor. En del skiljer sig från sin mänskliga partner och gifter sig med en hubot istället. Den som förlorar både sin partner och sitt jobb till en hubot riskerar att ansluta sig till motståndsrörelsen som vill utrota alla hubotar. Parallellen till rasism är tydlig.

Samtidigt ser många hubotarna som maskiner som man kan slå eller våldta hur som helst. Lagen i Äkta människor ger inte fler rättigheter till en hubot än till en gräsklippare, så frågan väcks rättsligt om huruvida hubotarna ska få mänskliga rättigheter.

Att ”jailbreaka” en hubot för att få den att göra saker den inte var tänkt till känns också som en logisk följd.

Robotar är numera en självklarhet inom industrin, militären och sjukvården. En ny robotdammsugare kan vi idag få för 1000 kr och en ny robotgräsklippare kan vi få för 9000 kr (ändå köper många åkgräsklippare istället). Ändå ryggar många spontant tillbaka när staten nu satsar miljoner på att utreda hur robotar kan bidra i äldreomsorgen, vilket redan sker i Japan.

För att Äkta människor ska fungera så pass bra som dramaserie, så får man bortse från vissa ologiska aspekter. Om vi får hubotar lika avancerade som i serien så kommer ju även samhället runt omkring att ha förändrats en hel del. Robotforskaren Erik Billing jämför Äkta människor med om dagens smarta mobiler hade släppts ner i 50-talets samhälle.

Observera också att framtidens robotar knappast kommer att vara så jämnbra på nästan allting jämfört med människor. Mycket mer specialisering är att vänta. Exempel: Om några månader ska förarlösa bilar provköras bland allmän trafik på svenska vägar, vilket redan fungerat bra utomlands. Så hubotar lär inte behöva kunna köra bil.

Alla avsnitt av Äkta människor finns att se på SVT Play fram till 17 april. Äkta människor kommer även att visas i andra länder och en amerikansk version är på gång. Det kommer eventuellt även att bli en andra säsong nästa år.

Det finns ett antal faktorer som kan göra att vi aldrig uppnår ett samhälle med robotar lika avancerade som i Äkta människor. Men robotpolitik kommer att bli mer aktuellt så länge robotarna fortsätter att utvecklas exponentiellt som nu.

Andra om Robot, Science Fiction, TV, Kultur, Samhälle, Politik, Äkta människor

De tio största hoten mot mänsklighetens existens det här seklet

29 januari 2012

Världsunik och välgjord dokumentär på UR Play där framtidsforskare har valt ut och rankat de tio största hoten mot mänsklighetens existens det här seklet. Hot 10-6 är från naturen och avhandlas på en timme här. Hot 5-1 är från oss själva och visas här.

Det finns också kortversioner av de tio hoten. En minut per hot från 6.10 respektive 37.30 här. Intressanta infallsvinklar och givande att se hur andra än experter kan resonera.

Här finns också en handledning för hur de här dokumentärerna kan användas i skolan, till exempel som introduktion till olika ämnen.

Så här ser UR-topplistan ut:

1. Biologiska vapen blir supereffektiva för enskilda
2. Artificiell intelligens blir överlägsen oss
3. Atomvinter i åratal efter kärnvapenkrig
4. Klimatförändringar
5. Naturvetenskapligt experiment går fel
6. Naturlig pandemi
7. Fientliga utomjordingar
8. Utbrott från supervulkan
9. Jorden krockar med himlakropp
10. Kollapsande stjärna sänder gammastrålning mot jorden

?. Ett idag okänt hot (topplistan ser nästan garanterat annorlunda ut om 20 år)

Naturhoten 10-6 har en sannolikhet på under en procent. De har ju inte dödat mänskligheten förut, så det vore ju osannolikt att det skulle ske just detta sekel. Flera av dessa naturkatastrofer har hänt flera gånger förut, men det var innan människor utvecklades på jorden.

Biologisk terrorism med framtida nanoteknik och genteknik från enstaka personer kan drabba allt från några till alla. Kan hotet helt försvinna med annat än en total civilisationskollaps?

Vi vet ännu inte hur vi bör agera för att minska risken att inte överleva om framtidens artificiella intelligens överträffar mänsklighetens intelligens. Vi vet inte heller när och om AI går om oss, men problem lär uppstå redan innan dess, så mer forskning om AI-säkerhet behövs snarast.

Atomvinter i flera år efter ett kärnvapenkrig känns inte som något stort hot just nu, men det kan räcka med ett regionalt kärnvapenkrig mellan Indien och Pakistan för att det ska bli game over för mänskligheten – och vem vet vilka som styr i framtiden?

Klimathotet kommer först på fjärde plats. Visserligen tror man att klimatförändringarna kommer göra det svårt för många människor att överleva (redan nu är takten cirka 300 000 dödsfall per år), men knappast utrota hela mänskligheten redan det här seklet.

Observera att hoten från kärnvapen, supervulkaner och kometer huvudsakligen handlar om klimatförändringar, men av en typ som ger ett drastiskt ändrat klimat direkt och som sedan börjar gå över efter några år.

Kanske borde kemikaliehotet finnas med på tio-i-topp-listan, eftersom kemikaliesamhället redan orsakat drastiskt minskad fertilitet.

Utanför topplistan finns också många andra sätt som kan innebära slutet för mänskligheten. De andra sätten är mindre akuta och mindre sannolika, men en ambitiös sammanställning finns här.

Robot från 2005. Foto: Gnsin

När kärnvapen första gången testades, så var man inte helt säkra på om det kunde utlösa en kedjereaktion som antände hela atmosfären så att vi alla dog. Ändå gjorde man testet. Dessa tankemönster hos människor väcker oro.

Det enda av UR-listans tio hot som prioriteras politiskt är klimathotet. Ändå är åtgärderna helt otillräckliga även där, så vi får helt enkelt förlita oss på tur.

Enligt kosmologen Max Tegmark går mindre än 0.00001 procent av världens totala BNP idag till att minska existentiell risk, och det finns fler vetenskapliga publikationer kring dyngflugan än det gör kring mänsklig utrotning.

Det som oroar EU-medborgarna mest globalt är fattigdom och i andra hand klimathotet som två av tre anser vara ett mycket allvarligt problem.

Övergripande kan man säga att det som framför allt hotar mänsklighetens existens under det här seklet är följder av den allt snabbare tekniska utvecklingen. Endast hot 7-10 saknar stark koppling till det moderna samhället. Vi kan också se att hot 1, 2, 4 och 5 är ökande hot. AI-hotet är ju väldigt litet idag, men kan bli enormt i framtiden.

Stephen Petrinek har också försökt lista de tio största hoten mot mänskligheten. Han är redaktör för ett gäng vetenskapliga tidsskrifter, men ingen expert av samma dignitet som Future of Humanity Institute vid universitet i Oxford, som ligger bakom UR:s lista ovan. Dessutom gjordes Petrineks lista 2002 och vår kunskap ökar allt snabbare. Se inte hans lista som en rangordning, utan mer som fler perspektiv på samma hot. Stundtals låter det också mer som att han pratar mer om hot mot många amerikaner, än hot mot mot hela mänskligheten.

Petrineks lista med kopplingar till UR:s lista inom parentes:

10. Kollektivt självmord
Hur troligt är det att alla väljer döden?
9. Fientliga utomjordingar (7)
De kanske inte ens behöver vara fientliga, eftersom ”lägre” civilisationer hittills alltid gått under i mötet med ”högre”, även när man försökt motverka det.
8. Ekosystemkollapser (delvis 4)
7. Vi skapar ett svart hål som slukar oss alla (del av 5)
6. Genmodifierade växter sprider sig ohejdat (del av 5)
5. Nordpolen och sydpolen byter plats
De gör så ibland. Oklart om ett djur som människan skulle överleva ett sekel utan skyddande magnetfält mot rymden.
4. Solstormar
3. Pandemi (6)
2. Ett svart hål passerar jorden och ändrar vår omloppsbana så vi kommer bort från solen
1. Gigantisk asteroid träffar jorden (9)
Dock mycket troligare att vi träffas av en komet.

På ett mer vardagsnära plan finns Myndigheten för samhällsskydd och beredskaps lista över 24 hot som kan få allvarliga följder för samhället (utan att hota hela mänsklighetens existens). Innehållet i listan är bra, men de bortser från en rad hot som borde ha en självklar plats på en sådan lista. Inte ens peak oil nämns.

Det är mycket troligare att vår globala civilisation långsamt kommer att kollapsa genom att minskad komplexitet väldigt snart blir ofrånkomligt, än att vi får en domedag likt de som är populära att skildra på film.

Risken är stor att vi vid nästa sekelskifte kommer att vara långt färre än dagens 7 miljarder människor, men mänskligheten som art lär överleva det här seklet, trots alla ökande hot.

Det är dock fortfarande möjligt att människor om ett sekel i snitt kommer att ha det mycket bättre än nu. Men det lär inte bli verklighet om vi inte börjar agera mer långsiktigt.

Kom slutligen ihåg att oro kan vara bra för lyckan, men att handling är ännu bättre :)

Intressant?  Andra om teknikutveckling, , , , , , ,

Teknikens framtid

23 januari 2011

En av de största framtidsfrågorna är hur vi i längden ska hantera den (informations)tekniska utvecklingen, som idag förändrar samhället extremt fort.

Syftet med den här texten är inte att skriva om hur vi ska hantera det, utan argumentera för varför vi bör hantera det. Detta eftersom nästan ingen offentlig debatt i frågan pågår. I alla fall inte i Sverige.

I jämförelse framstår klimatkrisen som betydligt enklare, för där vet vi ju i stort vad som behöver göras och frågan är vida uppmärksammad.

Utmålat på en logaritmisk skala så visar 15 separata listor med paradigmskiften i mänsklighetens historia en trend av exponentiell ökning. Mer info här.

Det enda som i nuläget ser ut att kunna bromsa teknikens framfart är naturresursbrister, miljöproblem och problem som vi idag inte kan förutse.

Hittills ser dock trenden ut att bara gå snabbare och snabbare. Jag ska belysa några exempel.

Kan vi överblicka konsekvenserna av ett samhälle där nästan vem som helst har råd att placera ut minimal avlyssningsapparatur och övervakningskameror gömda i sovrum, på kläder, på hemliga möten, och så vidare. Redan idag kan du till exempel köpa en penna med dold kamera och mikrofon för några hundralappar lite här och var. Lillebror ser oss allt mer.

Det lär i längden bli allt lättare för enskilda medborgare att kunna skaffa och använda massförstörelsevapen. På sikt även nanorobotar som går in i kroppen på utvalda offer och gör det som de programmerats att göra.

Den här typen av biologisk terrorism rankas av framtidsforskare vid The Future of Humanity Institute vid universitetet i Oxford, som det största hotet mot mänskligheten de kommande 100 åren. Singulariteten – i det scenario där de extremt smarta robotarna blir ”onda” – rankades som det näst största hotet, men de två frågorna hänger ju rätt mycket ihop. Programserien om dessa hot finns att se på UR Play här.

Bara det senaste året har forskarna bland mycket annat upptäckt en ungdomens källa och bakterien som livnär sig på gift – vilket bland annat innebär att liv troligen är mycket vanligare i universum än vi hittills trott.

Nyligen har det också uppfunnits en kamera som kan fota runt hörn, samt en maskin som kan läsa tankar. Med nuvarande utveckling är det bara en tidsfråga tills tankeläsarmaskinerna blir verkligt effektiva. I länder där folk kan dömas till döden för sina åsikter eller sin sexuella läggning, så blir ju den här utvecklingen bokstavligen en fråga om liv eller död.

Makteliten kommer heller inte att kunna ha så mycket hemligheter framöver. Wikileaks är rimligen bara början. Enbart USA:s regering lägger motsvarande 60-100 miljarder kronor årligen på nätsäkerhet.

Jag har tidigare skrivit om vad det kan innebära att stora delar av all information i världen är på väg att samlas hos samma företag: Google. Man kan ju få reda på extremt mycket om en person genom att samköra digital information och analysera. Särskilt i dessa tider när många människor frivilligt krymper sin privata sfär allt mer.

Facebook-konton kan kapas och på twitter har klimatkrisförnekare ovetandes argumenterat mot en robot som sökt upp och svarat på klimatkrisförnekarargument så fort de dykt upp. Vilka identiteter som är äkta i den digitala världen lär bli allt svårare att veta. På längre sikt riskerar vi att även i verkliga livet få svårt att skilja en robot från en människa.

Det låter som science fiction, det är än så länge science fiction, men likväl så är det en konsekvens av att nuvarande trend fortsätter. Vi vet dock inte hur lång tid det kommer att ta.

Vad händer om artificiell intelligens blir intelligentare än människorna? Hur kan vi se till att AI-utvecklingen gynnar mänskligheten? Det är frågor som i högsta grad engagerar extremt mäktiga och intelligenta personer som Stephen Hawking, Bill Gates och Googles forskningschef Peter Norvig. Jag har tidigare skrivit ett utförligt inlägg om det här.

Så vilka handlingsalternativ har vi i längden?

Att övertala hela världen om att gå tillbaka till ett mer primitivt liv, eller att stoppa robotarnas framfart, är knappast möjligt. Om det sker lär det i så fall vara en följd av naturens villkor. Däremot kan vi till viss del påverka hur fort det går.

Det som förespråkas av många som engagerar sig i frågan är att fokusera på att de robotar som utvecklas kommer att vara vänligt inställda till människor även om vi tappar kontrollen över deras utveckling, vilket de räknar med att vi kommer att göra.

Tyvärr gör det politiska debattklimatet att sådana framtidsfrågor mest förlöjligas om de tas upp av de politiska partierna, på samma sätt som människor historiskt skrattat åt framtidsvisioner som sedan till och med överträffats. Men fler individer och föreningar lär lyfta frågan i takt med att den (informations)tekniska utvecklingen fortsätter i allt snabbare takt.

Mer relaterat i media: SvD, DN2, DN3, SVT, DN4, SVT2

Trender till 10-talet.

Singulariteten är nära. Eller?

02 januari 2010

Den informationstekniska utvecklingen går idag rasande fort. Och inte nog med det: Det finns goda belägg för att takten för informationsteknisk utveckling i stort ökar exponentiellt, på samma sätt som datorernas kapacitet har dubblerats vartannat år ända sedan 1960-talet (Moores lag).

Vad kommer det här att innebära på till exempel 30 års sikt? Troligen mycket mer än vi kan föreställa oss.

Det här är ett extremt viktigt ämne som inte uppmärksammas i svenska dagstidningar, men som debatteras en del i mainstream media i USA och engagerar mäktiga män som Bill Gates, Stephen Hawking och Googles forskningschef Peter Norvig.


Utmålad på en logaritmisk skala så visar 15 separata listor med paradigmskiften i mänsklighetens historia en trend av exponentiell ökning. Mer info här. Graphed by Ray Kurzweil, based on lists compiled by Theodore Modis.

Om den informationstekniska utvecklingen fortsätter som hittills, så infaller till slut den teknologiska singulariteten. Det är när en maskin med hjälp av artificiell intelligens blir mer intelligent än den mest intelligenta människan.

Maskinen lär då skapa nya maskiner till sin hjälp. Samtliga dessa kommer då allt snabbare att fortsätta utvecklas så till den grad att människor kommer kunna påverka dessa robotar lika lite som kvalster kan påverka människor. Därmed ligger det bortom vår föreställningsförmåga hur de kommer att agera.

Anledningen är att maskiner, så vitt vi vet, inte har någon övre gräns för hur intelligenta de kan bli. Vår egen intelligens har vi ju däremot svårt att öka. Avgörande blir då om de första robotarna som är smartare än oss är tillräckligt väl programmerade för att de inte ska inverka negativt på människor och djur. Om det lyckas så kan dessa första ”goda” robotar se till att inga smarta robotar med annan agenda får chansen att utvecklas.

Både möjligheterna och riskerna med den här utvecklingen är ofattbart stora.

Men redan innan detta kritiska skede kommer andra omvälvande effekter till följd av den tekniska utvecklingen. Till exempel kommer varje medborgare att kunna skaffa och använda extrema massförstörelsevapen; det kan vara nanorobotar som går in i kroppen på utvalda offer och gör det som de programmerats att göra. Redan om några år kommer extremt små filmkameror och dylikt att kosta en spottstyver – tänk vad det kan innebära för den personliga integriteten…

Vissa analytiker tror att den teknologiska singulariteten kommer att inträffa redan nästa årtionde, andra tror att det kommer dröja över 100 år. Sedan finns ju också de som tror att det aldrig kommer att inträffa. Klimatkrisen kan i alla fall fördröja det hela. Den som lever får se.

Vodpod videos no longer available.

Talet ovan är från 2005 av Ray Kurzweil. Uppenbarligen överskattar han vad som skulle ha hänt redan i år, men det är intressant ändå. Kurzweil är bland annat rektor för Singularity university och har skrivit den omfattande boken The singularity is near, som snart blir film. I väntan på det finns en dokumentär här.

En av de bästa introtexterna till den teknologiska singulariteten finns annars på Wikipedia här. Se även den här korta texten.

Den enskilda person som kanske har bäst koll och som mest aktivt försöker bättra på oddsen för att det ska gå bra, är Eliezer Yudkowsky. Han är en del av Singularity Institute for Artificial Intelligence i USA.

Framtiden blir väldigt spännande!

Andra om singularitet, singulariteten, teknisk singularitet, teknikutveckling, , , , , , , , , , , , ,


%d bloggare gillar detta: