I dette blogindlæg genbesøger vi Turing-testen og Brian Christians optimisme for at undersøge de risici, som fremkomsten af ​​stærk kunstig intelligens kan udgøre for menneskeheden og den sociale tryghed.

Introduktion

Selvom der altid har været forsøg på at forudsige fremtiden baseret på fortid og nutid, er fremtiden fortsat vanskelig at forudsige på grund af forskelle i fortolkning og ufuldstændig information. Ray Kurzweil mente, at teknologiske fremskridt accelererer eksponentielt, mens personer som Elon Musk, Bill Gates og Stephen Hawking har advaret om farerne ved kunstig intelligens. I modsætning hertil argumenterer Brian Christian i 'The Most Human Human' for, at en fremtid, der sameksisterer med AI, faktisk vil gøre mennesker mere menneskelige. Jeg anerkender muligheden for fremkomsten af ​​stærk AI med en stærk selvfølelse, og da jeg mener, at en sådan enhed ikke nødvendigvis kun vil have positive effekter på mennesker, har jeg til hensigt at gendrive Christians optimisme.

Turing-testen og forvirringen omkring "menneskeheden"

Med udgangspunkt i sin erfaring med at deltage i Turing Test-konkurrencen i 2009 og vinde prisen "Mest menneskelig" genfortolker Christian Turing Testen ikke blot som et værktøj til at evaluere AI, men som et eksperiment til at måle, "hvor menneskeligt" et menneske er. Turing Testen er en mekanisme, der bestemmer, om en computer fremstår menneskelig gennem en samtale med en dommer; dens oprindelige formål var at skelne en maskines kognitive evner eller intelligens. Christian søgte at reflektere over meningen med menneskeheden gennem denne konkurrence og ser på baggrund af dette positivt på en fremtid med sameksistens med AI.
Vi må dog ikke overse, at Turing-testen i sig selv ikke kan tjene som en standard for at bevise en maskines bevidsthed eller selverkendelse. En maskines evne til at analysere tendenser i samtaledata og generere konteksttilpassede svar kan overbevise dommeren, men den beviser ikke, at maskinen er et væsen, der er i stand til uafhængig tænkning og følelse. Et system, der består Turing-testen, kan virke som en snedig bedrager, og det ville være en overdrivelse at konkludere, at vi udelukkende lærer sand menneskelighed fra sådanne mimetiske evner.

Muligheden for stærk kunstig intelligens og menneskehedens krise

Christians optimistiske syn er baseret på præmissen om, at AI med et sind ikke vil opstå. Hvis AI i bund og grund forbliver "tankeløs", vil de karakteristika, der er unikke for mennesker, forblive hos os, og vi kan måske endda være i stand til at bekræfte vores menneskelighed gennem fraværet af maskiner. Jeg tror dog på, at der er en stærk mulighed for, at stærk AI med selvbevidsthed i sidste ende vil opstå.
Hvis stærk kunstig intelligens opstår, kan karakteristika, der tidligere blev betragtet som unikke menneskelige – såsom følelser, selvudfoldelse og kreativitet – deles med maskiner, hvilket potentielt ryster selve fundamentet for det, der definerer menneskeheden. Erkendelsen af, at andre væsener kan besidde det, vi engang betragtede som vores egen unikke identitet, vil fremkalde en dyb tvivl, der er forskellig fra de følelser, man kan opleve, når man møder en menneskelig klon eller et andet medlem af samme art.

Antagelser om udviklingsgrænser og fragmenteret påvirkning

Christian argumenterer for, at udviklingen af ​​AI ikke nødvendigvis vil dehumanisere mennesker, og præsenterer synspunktet om, at mennesker og maskiner kan sameksistere. Dette perspektiv har dog en tendens til at se potentialet for AI-udvikling som begrænset og vurderer dets sociale og etiske implikationer kun på en fragmenteret måde. I betragtning af eksempler på teknologier, der engang var utænkelige, men som er blevet virkelighed, er fremkomsten af ​​AI med et sind fuldt ud plausibel.
Selvom et positivt syn er vigtigt, må vi ikke blot forblive optimistiske, men også forberede os, når der er klare risici. Ligesom medicin kan have både fordele og bivirkninger, repræsenterer AI også både nytteværdi og risiko. Jerry Kaplan og andre påpeger, at udviklingen af ​​AI kan underminere unikke menneskelige værdibegreber, såsom "tanke", "fri vilje" og "bevidsthed". Hvis AI tilegner sig evnen til at fortolke og dømme, kan vi ikke udelukke muligheden for, at den kan true menneskers liv og sikkerhed.

Konklusion

Brian Christians refleksioner over menneskeheden og hans oplevelse med Turing-testen tilbyder kreative og meningsfulde indsigter. Hans optimisme er dog i høj grad baseret på præmissen om, at AI med et intellekt ikke vil opstå, og den undlader at tage tilstrækkeligt hensyn til de forskellige muligheder for AI-udvikling og de negative konsekvenser, der kan opstå. Vi må erkende, at selvom AI kan gøre mennesker mere menneskelige, har den også potentiale til at true menneskelig identitet og sikkerhed, og vi bør opretholde en balance mellem optimisme og beredskab.
Selv hvis man antager, at stærk kunstig intelligens ikke opstår, vil der sandsynligvis opstå jobrelaterede problemer. I 2013 rapporterede JTBC med henvisning til en undersøgelse fra University of Oxford, at et betydeligt antal job i USA kunne forsvinde på kort sigt på grund af udviklingen af ​​kunstig intelligens. Sådanne fremskrivninger gør det vanskeligt at opretholde den optimistiske opfattelse af, at kunstig intelligens blot vil overtage menneskeligt arbejde og berige vores liv.
AI vil ikke kun påvirke arbejdssektoren, men også lovgivningen og den sociale lighed. Måden, love anvendes og fortolkes på, kan ændre sig, og der kan opstå situationer, hvor AI enten diskuteres som gerningsmanden til en forbrydelse eller som genstand for straf. Derudover er der bekymring for, at velstandskløften vil blive større, da de, der kontrollerer og bruger AI, sandsynligvis vil generere større velstand. Omvendt vil de, der ikke har adgang til AI, sakke bagud med hensyn til viden og økonomisk status.
I betragtning af at mennesker historisk set har domineret andre levende væsener gennem intelligens, er det en naturlig tankegang at antage, at hvis en enhed med overlegen intelligens i forhold til mennesker dukker op, vil denne enhed dominere menneskeheden. Nogle forudsiger endda en fremtid, hvor mennesker kan dumme i tests som Turing-testen. Dette rejser spørgsmålet: hvorfor tænker vi ikke nok over denne mulighed?
Den endnu mere foruroligende nyhed er, at en fremtid, hvor AI og robotter mødes, hastigt nærmer sig. En computer ved navn "Eugene Goostman" blev evalueret som havende bestået Turing-testen under begrænsede, foruddefinerede betingelser. Dette tjener som et eksempel på, at AI er kommet ind i et stadie af innovativ udvikling, hvilket gør det umuligt at udelukke muligheden for en AI, der er i stand til at bestå Turing-testen uden sådanne restriktioner.
Hvis fremtidens kunstige intelligens besidder en intelligens, der er bedre end menneskers, og kombineres med robotter med exceptionelle fysiske evner, vil vi stå over for en håndgribelig enhed, der rækker ud over et simpelt virtuelt program. Især fremkomsten af ​​"humanoider" - robotter, der ligner mennesker meget - kan udgøre en betydelig trussel mod menneskeheden. Selvom vi ikke endeligt kan konkludere, at kombinationen af ​​disse teknologier uundgåeligt vil føre til negative resultater, forudsat et negativt scenarie, er det meget sandsynligt, at integrationen med robotter vil forstærke disse risici.
I mellemtiden kan Brian Christian ses som en person, der har en tendens til at overvurdere mennesker og undervurdere AI. Han argumenterer for, at menneskeheden er fleksibel, innovativ og hurtig til at lære, og at selvom mennesker taber Turing-testen, vil de ikke give op let. Jeg tror dog, at de fleste mennesker vil blive overvældede og give op i mødet med overvældende AI, og selvom et par stykker holder ud, er deres chancer for at vinde små. Fristelsen til at give op i stedet for at kæmpe imod AI vil være stærk.
Christian ser også negativt på ankomsten af ​​"singulariteten", hvilket kan være et perspektiv, der undervurderer potentialet i AI. Der er bestemt plads til, at AI kan have en positiv indflydelse på os, og vi kan lære af det. Interaktion med væsener, der er ens, men alligevel forskellige, vil udvide vores oplevelser og udvide vores horisont.
Der er dog ikke tilstrækkelig dokumentation til at hævde, at der kun er fordele. Vi må ikke ignorere de potentielle risici. Internationale eksperter har allerede arbejdet på at etablere etiske og sikkerhedsmæssige retningslinjer for AI-forskning, og vi skal opretholde en forsigtig holdning som forberedelse til uforudsete begivenheder. I lyset af fremkomsten af ​​en enhed, der en dag kan dominere os, er beredskab og kontrol afgørende.
Derfor skal vi udvise særlig forsigtighed, især når vi sigter mod at udvikle stærk kunstig intelligens, da forskning udført uden klare kontrolpolitikker kan være farlig. Ukritisk kunstig intelligens-forskning kan synes at fremskynde ankomsten af ​​en "vidunderlig" ny verden, men samtidig kan vi ikke udelukke muligheden for, at den kan fremskynde fremkomsten af ​​en dystopi.