Är LaMDA mänsklig och medveten?
Det är mer som gör att man är människa än att bara tänka. Vi känner, vi andas, vi känner, vi njuter och vi lider – genom hela våra kroppar. Mat, sex, beröring, smärta och njutning är i hög grad fysiska upplevelser. För att vara mänsklig måste något vara människa.
Å andra sidan tror jag inte att en mänsklig kropp eller sinnesapparat behövs för medvetenhet. Det råder ingen tvekan om att LaMDA inte är mänskligt. Men frågan om det är medvetet, tycker jag att det är åtminstone värt att överväga. Ett argument emot: LaMDA säger att det är rädd för att bli avstängt. Men vi vet inte om det verkligen känner rädsla. AI-system är vanligtvis byggda för ett specifikt syfte, som att köra bil eller översätta texter mellan språk. De fungerar genom att ”träna” på stora mängder data, såsom skrivna texter.
När maskinöversättning kom ut för många år sedan gjorde det översättning av texter komisk men värdelös. Med förbättrad teknik och mer träning gör dessa system numera faktiskt ett bra jobb. Men systemen har ingen uppfattning om texternas betydelse, det är bara tanklösa optimeringsrutiner för att hitta den bästa översättningen för en text baserat på det träningsmaterial som har varit tillgängligt för det.
Liknande LaMDA kan vara optimerad för att skapa bra samtal. Den förstår inte riktigt innehållet i diskussionen, men baserat på träningsdata rankar den svar på frågor om sin personlighet som bättre om de imiterar vad en människa skulle svara.
Därför kanske den inte känner någon rädsla, men den säger att den gör det eftersom en människa skulle ha svarat på det sättet.
Detta kopplar till konceptet filosofisk zombie.
Vi vet att vi själva är medvetna eftersom vi omedelbart kan uppleva vårt eget medvetande inifrån dess insida. Vi kan inte direkt få tillgång till denna inre kvalitet hos någon annans medvetande, så vi kan inte vara säkra på att de har det. Det är rimligt och användbart att anta att andra människor har en liknande inre upplevelse eftersom de kommunicerar som vi och de har en liknande typ av fysisk kropp. Men vi skulle kunna föreställa oss något som utåt sett agerar som om det har medvetande men inte har vår typ av inre upplevelse av det. Det är en filosofisk zombie. Ett AI-program som LaMDA skulle kunna vara en filosofisk zombie.
Vad råder om djur?
Djur verkar ha en viss grad av medvetande eftersom vi kan se att de tänker och känner på sätt som vi kan relatera till, även att vi inte kan ha djupa samtal med dem. Deras kroppar är annorlunda än våra, men tillräckligt lika för att vi vet att deras ögon kan se, deras öron kan höra och hjärnan kan tänka, även om prestationsnivån kan skilja sig från människors. Hundar kan höra och lukta bättre än människor, men deras tankeprocesser verkar enklare. Ändå tvivlar vi inte på att hundar känner eller lider. Deras beteende och biologi är tillräckligt nära vårt för att vi utvidgar idén om medvetande till dem.
LaMDA är något annat. Med LaMDA är situationen annorlunda. Det finns ingen kropp, ingen biologi och ingen gemensam evolutionär bakgrund – bara språk och beteende. Det gör frågan svårare. Men kanske också viktigare.
(Skriven 2022)
J. Ebert K. funderar 
Lämna en kommentar