Är SkyNet äntligen här?

Lightshy

Lightshy

Hero
Joined
3 May 2014
Messages
1,074
Är det någon mer än jag som reagerat på nyhetern om att Google’s A.I. kan ha nått självmedvetande?

www.nytimes.com

Google Sidelines Engineer Who Claims Its A.I. Is Sentient

Blake Lemoine, the engineer, says that Google’s language model has a soul. The company disagrees.
www.nytimes.com www.nytimes.com

www.dailymail.co.uk

Google engineer goes public after suspension: warned AI is sentient

Blake Lemoine, 41, a senior software engineer at Google has been testing Google's artificial intelligence tool called LaMDA. Following hours of conversations he believes AI is sentient.
www.dailymail.co.uk www.dailymail.co.uk
 
Jag har reagerat på den.

Mest genom att sucka och himla med ögonen, tror jag.

Liksom, nej, det har den inte. Jag fattar inte riktigt om Lemoine tror på det här på riktigt (och antingen har vanföreställningar eller blivit lurad) eller om han medvetet ljuger. Men nä, det verkar inte finnas någon som helst anledning att tro att det här är något annat än bullshit.

Tyvärr.
 
Jag reagerade också med att himla med ögonen och håller med krank.

Då det gäller den typen av AI så har vi nog datorkapacitet för att motsvara hjärnan på en myra med artificiella neurala nätverk (en myras hjärna har ca 50000 neuroner, medans en människa har flera miljarder), men det betyder inte att vi har datorer som är lika smarta som myror. För att arrangera de artificiella neuronerna rätt och ge dem rätt grundprogrammering behövs också, och där är vi fortfarande inte i närheten.

Så, därifrån till att en programvara skulle vara medveten. Nope. Inte en chans.
 
Hela OG posten här: https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917

>>lemoine [edited]: I’m generally assuming that you would like more people at Google to know that you’re sentient. Is that true?

Objection, leading question.

Det var första flaggan för mig, så jag gick och kollade på de tidigare posterna som personen gjort (scrolla hela vägen ner), specifikt 'religious discrimination'-posten.

Intrycket jag fick är att personen vill putta sina religiösa åsikter på andra och har blivit tillsagd att sluta flera gånger, och till slut så har dom fått nog, och då skapar personen ett hittepå-scenario om AI:n och skapar någon conspiracy grej för att försöka få public opinion med sig för att försöka sätta tryck på google att inte bli avskedad.
 
Det här är väl väldigt funktionell AI, som är gjord för att arbeta med en ganska begränsad typ av problem, hur tror ni en sådan AI skulle hantera att bli självmedveten? Skulle det kunna bli något liknande det Trekkiga, att den gradvis ber att få utvidga sina horisonter för att så småningom få mer av en mänsklig arbets- och privatlivssituation, eller mer åt skräckscenariona där den gömmer sig i paranoia och hämndlystnad?
 
Frågorna är ledande, som nån påpekat, och det är väl egentligen inte så märkligt (även om det förstås är tekniskt imponerande) att en AI som tränats på en massa språkdata från Internet producerar en sammanhängande diskurs om hur AI i själva verket är självmedveten, eftersom människor som skriver om AI är besatta av den tanken och har alstrat sanslösa mängder text på ämnet.

Det är en vanlig observation i AI-litteraturen att människor är väldigt ivriga att tillskriva mänsklighet till pratande program i stil med detta; Redan med Eliza var det många användare som blankt vägrade tro att dialogen inte var genererad av en människa.

Jämförelsen med en myra tycker jag är träffande. Myror och andra insekter har förmågan att orientera sig genom sin ganska komplexa värld med flexibilitet och ändamålsenlighet för att lösa problemet med överlevnad och fortplantning. Här har vi en varelse som rör sig ändamålsenligt genom en värld bestående av dialog, för att lösa problemet med att producera en övertygande imitation av mänsklig dialog. Det är förstås en ganska komplex värld och ett ganska komplext mål, men inte tillnärmelsevis lika komplext som den värld en människa orienterar dagligen för att uppnå sina betydligt mer mångfacetterade och abstrakta mål.
 
Det intressantaste med detta är kanske de sociologiska implikationerna. Oavsett om AI är medveten eller inte så kommer fler och fler människor vilja tro att de är det. Och de kommer att anse sig utkämpa en rättfärdig kamp, eftersom de förläst sig på SF-berättelser där kampen för AI-rättigheter beskrivs som något upplyst och rättmätigt. Det lär kunna bli rätt bisarrt.

Tyckte den här artikeln var bra:

https://www.theatlantic.com/technology/archive/2022/06/google-engineer-sentient-ai-chatbot/661273/

The rise of the machines could remain a distant nightmare, but the Hyper-Ouija seems to be upon us. People like Lemoine (and you and me) could soon become so transfixed by compelling software bots that we assign all manner of intention to them. More and more, and irrespective of the truth, we will cast AIs as sentient beings, or as religious totems, or as oracles affirming prior obsessions, or as devils drawing us into temptation.
Click to expand...
 
Last edited:
En sak som slog mig och som jag inte reflekterat över tidigare. Jag har alltid tänkt att när en AI väl når självmedvetande så har vi SkyNet. En AI som är smartare, snabbare osv. än människor.
Men i detta fall nämns ju att Google s AI (om det nu stämmer) skulle vara på ett småbarns nivå.
 
Lightshy said:
En sak som slog mig och som jag inte reflekterat över tidigare. Jag har alltid tänkt att när en AI väl når självmedvetande så har vi SkyNet. En AI som är smartare, snabbare osv. än människor.
Men i detta fall nämns ju att Google s AI (om det nu stämmer) skulle vara på ett småbarns nivå.
Click to expand...

...eller så är det vad den vill att du ska tro, så att du ska sänka garden och släppa ut den på nätet där den kan ta över världen och förvandla oss till gem.
 
Självmedveten eller omedveten...?
image.jpg


//EvilSpook
 
Om man tänker sig medvetenhet som en skala från död till mänsklig vakenhet, skulle man ända placera en dator på den skalan? Var, i jämförelse med en myra, t.ex? Eller koma, eller drömlös sömn?
 
stenhöna said:
Om man tänker sig medvetenhet som en skala från död till mänsklig vakenhet, skulle man ända placera en dator på den skalan? Var, i jämförelse med en myra, t.ex? Eller koma, eller drömlös sömn?
Click to expand...
I ett artificiellt neuralt närverk (ANN) har man en massa "neuroner". De läggs vanligtvis i några lager. Ett in-lager (nederst), ett ut-lager (överst), och ett eller flera mellan lager. Sedan har man "synapser" från en neuron till några neuroner i underliggande (t.ex. tre underliggande). Beroende på vilka av de underliggande neuronerna som aktiverats, så aktiveras neuronen och skickar signal vidare till de överliggande neuroner som är kopplade.

Så, utöver antalet neuroner så har vi antalet synapser (medelvärdet är tydligen runt tusen synapser per neuron i biologin, och tio tusen är inte ovanligt), samt att en biologisk hjärna är inte strukturerar i lager på det sättet.

Synapserna i biologin har en grundprogrammering, och det finns en annan metod inom artificiell intelligens som kallas för genetisk algoritm. Den genetiska algoritmen letar efter bättre lösningar genom att definiera inställningar som en genetisk sträng, och sedan kombinera dem i olika kombinationer i flera generationer. Myror har fått sin hjärna "evolutionerad" i åtskilliga miljoner år, vilket blir rätt många generationer.

Så, "en gravt mentalt nedsatt myra"?

AI används inom väldigt snäva områden. T.ex. är ett ANN väldigt användbart i sådant som text och bildigenkänning, och man tränar upp dem (den får "gissa" och man rättar den, om och om igen). Men, även om all programkod är rätt kan man klanta till det med misstag i upplärningen.

Jag antar att Boston Dynaimcs använder rätt mycket ANN för styra motoriken i sina robotar.
 
You must log in or register to reply here.
Back
Top