Inslaget om artificiell intelligens i MfÅA nummer 13/2013 gav redaktionen respons. Reaktionerna handlade främst om den skeptiska inställningen till det som kallas generell artificiell intelligens.
Text: Marcus Prest
I inslaget om artificiell intelligens i MfÅA nummer 13/13 intervjuades Martin Gustafsson, professor i filosofi vid Åbo Akademi, och Christer Carlsson, professor i beslutsplanering vid Åbo Akademi.
Invändningarna kom främst mot Gustafssons påstående att inga seriösa AI-forskare kommer med några utfästelser om att kunna förverkliga det som kallas AGI (generell artificiell intelligens), i motsats till det som är specialiserade system, som till exempel drönare, självstyrande bilar och schackdatorer.
Invändningen mot Gustafsson löd att det är omöjligt att både EU och USA just nu satsar miljarder på att utveckla digitala modeller på den mänskliga hjärnan om man inte tror att det går att simulera den mänskliga intelligensen. Vidare menade de som invände att skapandet av en sådan simulation är det samma som att skapa en generell artificiell intelligens.
MfÅA bad därför de båda professorerna kort reflektera kring ett redan klassiskt filosofiskt AI-problem och kommentera EU:s och USA:s stora hjärnkartläggningsprojekt.
1. Kan man komma runt filosofen John Searles exempel med det kinesiska rummet? Exemplet går så här:
Instängd i ett rum finns en person som inte förstår ett ord kinesiska. Rummet har två luckor, en genom vilken personen kan ta emot meddelanden skrivna på kinesiska och en annan som används för att lämna ut sådana meddelanden. Till sin hjälp har personen i rummet en detaljerad instruktion och en uppsättning regler för hur ut-meddelandena ska utformas utgående från de meddelanden som fås genom in-luckan (ett ”program”). Dessa instruktioner förutsätts vara så finurligt och intelligent utformade att det är möjligt för personer utanför rummet att skriva godtyckliga frågor på kinesiska och lämna in dem genom in-luckan och få svaren på frågorna tillbaka genom ut-luckan.
Searles argument är då att även om det kinesiska rummet eventuellt skulle kunna klara Turingtestet och uppfylla alla krav som där ställs på intelligens, så visar tankeexperimentet tydligt att det aldrig kan uppstå medvetande och intelligens bara genom att programmera en dator på ett finurligt sätt. Personen i rummet kommer aldrig att verkligen förstå kinesiska även om det utifrån ser ut så. Personen följer bara slaviskt instruktionerna och har ingen verklig insikt och förståelse för det den utför.
Källa: Wikipedia.
Martin Gustafsson: Utrymmet här är alldeles för litet för att kunna behandla detta enormt omdiskuterade exempel på något vettigt sätt. Helt kort skulle jag vilja säga att jag tycker att Searles exempel lätt leder tankarna fel, så att man förleds att tro att ”intelligens” och ”mening” måste vara någonting helt annat än en förmåga att använda språk. Som om språkanvändning bara vore ett blint manipulerande av tomma tecken om det inte bakom denna användning också ligger ”tankar” som på något mystiskt sätt ”blåser liv” i tecknen.
Vad jag tror saknas i Searles exempel är inte en sådan bakomliggande och av teckenhanteringen oberoende tankeverksamhet, utan ett mycket vidare sammanhang där språket används: ett sammanhang bestående av sociala, biologiska, kulturella, historiska, och andra meningsfulla, mellanmänskliga element, som inte kan beskrivas och avgränsas på något bestämt strikt-formellt sätt.
Inte så att Searle själv skulle stå helt främmande inför denna poäng (han har själv en idé om språk och tänkande som något som kräver en ”bakgrund”). Men det tycks mig ändå som om det kinesiska rummet inte träffar det som är djupast problematiskt med AI, nämligen strävan att nagla fast intelligensen utan att tillräckligt uppmärksamma hur tänkande hänger samman med sådana meningsfulla, öppna och oöverblickbara kontexter.
Christer Carlsson: Turingtestet användes på 1980-talet för att pröva om de så kallade expertsystemen kunde komma med så konsistenta och riktiga svar på frågor som gjordes successivt mera krävande, att mänskliga experter kunde duperas. Det lyckades inte, expertsystemen klarade inte av de mer innovativa slutledningsprocesserna och avslöjades. Svaret är alltså att tekniken som användes för expertsystemen inte klarade av att reproducera mänsklig intelligens.
2. BRAIN Initiative som USA:s president Barack Obama gav klartecken för år 2013 och det av EU finansierade Human Brain Project i Genève är båda tio års projekt som kostar miljarder. Avsikten är att modellera den mänskliga hjärnaktiviteten på olika sätt. Har den här sortens projekt någon relevans för skapandet av AGI eller är tanken på AGI en science fiction-chimär oberoende av hur projekten utfaller?
Martin Gustafsson: Såvitt jag förstår har varken det amerikanska The Brain Initiative eller det EU-sponsrade The Human Brain Project som centralt syfte att skapa artificiell generell intelligens. Ambitionen tycks i första rummet vara att skaffa sig en fördjupad förståelse av hur den mänskliga hjärnan fungerar, och att därigenom utveckla medicinska behandlingsmetoder.
Visionen bakom EU-projektet sägs vara ”to build a completely new information computing technology infrastructure for neuroscience and for brain-related research in medicine and computing, catalysing a global collaborative effort to understand the human brain and its diseases and ultimately to emulate its computational capabilities” (hämtat från projektets egen hemsida). (Fritt översatt blir det: Att bygga en helt ny informationsbehandlingsinfrastruktur för neurovetenskaperna och hjärnrelaterad forskning i medicin och datateknik, samt att sammanföra ett globalt samarbetsprojekt i att försöka förstå den mänskliga hjärnan och dess sjukdomar och slutligen försöka efterlikna dess förmåga att behandla data. /Red.).
Syftet med det amerikanska initiativet sägs vara ”to produce a revolutionary new dynamic picture of the brain that, for the first time, shows how individual cells and complex neural circuits interact in both time and space. Long desired by researchers seeking new ways to treat, cure, and even prevent brain disorders, this picture will fill major gaps in our current knowledge and provide unprecedented opportunities for exploring exactly how the brain enables the human body to record, process, utilize, store, and retrieve vast quantities of information, all at the speed of thought”.
(Citat från projektets hemsida. Fritt översatt: Att skapa en revolutionär ny dynamisk bild av hjärnan som för första gången visar hur individuella celler och komplexa nervcentra samverkar i både tid och rum. En sådan är länge eftertraktad av forskare som söker nya sätt att behandla, bota och förebygga hjärnsjukdomar. Bilden kommer att fylla stora hål i vår nuvarande kunskap och ge oss aldrig tidigare skådade möjligheter att utforska exakt hur hjärnan möjliggör att den mänskliga kroppen kan samla, behandla, använda, spara och återkalla enorma mängder information, allt med tankens hastighet. /Red.)
Visst kan talet om att ”emulate its computational capabilities” tolkas i linje med AGI, men bara om man tar för givet att intelligens i generell mening i grund och botten handlar om computation – en idé som förefaller bankrutt sedan länge.
Christer Carlsson: Nej, det har projekten inte i och för sig. Man kan satsa resurser på att skapa modeller av mänsklig hjärnaktivitet utan att det ger några garantier för att man lyckas reproducera mänsklig intelligens.