В тази публикация в блога ще разгледаме отново теста на Тюринг и оптимизма на Брайън Крисчън, за да разгледаме рисковете, които появата на силен изкуствен интелект може да представлява за човечеството и социалната безопасност.
Въведение
Въпреки че опитите за предсказване на бъдещето въз основа на миналото и настоящето винаги са съществували, бъдещето остава трудно за предвиждане поради различия в интерпретацията и непълна информация. Рей Кърцвейл вярвал, че технологичният прогрес се ускорява експоненциално, докато личности като Илон Мъск, Бил Гейтс и Стивън Хокинг предупреждават за опасностите от изкуствения интелект. За разлика от това, Брайън Крисчън твърди в „Най-човешкият човек“, че бъдеще, съжителстващо с ИИ, всъщност ще направи хората по-човечни. Признавам възможността за появата на силен ИИ със силно чувство за себе си и тъй като вярвам, че подобно същество не е задължително да има само положителни ефекти върху хората, възнамерявам да опровергая оптимизма на Крисчън.
Тестът на Тюринг и объркването около „човечеството“
Въз основа на опита си от участието си в състезанието „Тест на Тюринг“ през 2009 г. и спечелването на наградата „Най-човечен човек“, Крисчън преосмисля теста на Тюринг не просто като инструмент за оценка на изкуствения интелект, а като експеримент за измерване на „колко човешки“ е един човек. Тестът на Тюринг е механизъм, който определя дали един компютър изглежда човешки чрез разговор със съдия; първоначалната му цел е била да разпознае когнитивните способности или интелигентност на машината. Крисчън се стреми да разсъждава върху смисъла на човечеството чрез това състезание и въз основа на това гледа позитивно на бъдещето на съвместното съществуване с изкуствения интелект.
Не бива обаче да пренебрегваме факта, че самият тест на Тюринг не може да служи като стандарт за доказване на съзнанието или самосъзнанието на машината. Способността на машината да анализира тенденции в разговорните данни и да генерира подходящи за контекста отговори може да убеди съдията, но не доказва, че машината е същество, способно на самостоятелно мислене и чувстване. Система, която преминава теста на Тюринг, може да изглежда като умен измамник и би било преувеличено да се заключи, че ние научаваме истинска човечност единствено от подобни миметични способности.
Възможността за силен изкуствен интелект и кризата на човечеството
Оптимистичният поглед на Крисчън се основава на предпоставката, че изкуствен интелект с разум няма да се появи. Ако изкуственият интелект остане по същество „безмозъчен“, характеристиките, уникални за хората, ще останат с нас и дори може би ще можем да потвърдим отново своята човечност чрез отсъствието на машини. Въпреки това, аз вярвам, че има голяма вероятност в крайна сметка да се появи силен изкуствен интелект със самосъзнание.
Ако се появи силен изкуствен интелект, характеристики, считани преди за уникално човешки – като емоции, себеизразяване и креативност – биха могли да бъдат споделени с машините, което потенциално би разклатило самите основи на това, което определя човечеството. Осъзнаването, че други същества могат да притежават това, което някога сме смятали за своя уникална идентичност, ще предизвика дълбоко чувство на съмнение, различно от чувствата, които човек може да изпита при среща с човешки клонинг или друг член на същия вид.
Предположения за границите на развитието и фрагментираното въздействие
Крисчън твърди, че развитието на изкуствения интелект не е задължително да дехуманизира хората и представя гледната точка, че хората и машините могат да съществуват едновременно. Тази перспектива обаче е склонна да разглежда потенциала за развитие на изкуствения интелект като ограничен и оценява неговите социални и етични последици само фрагментарно. Като се имат предвид примери за технологии, които някога са били невъобразими, но са се превърнали в реалност, появата на изкуствен интелект с разум е напълно правдоподобна.
Въпреки че позитивната перспектива е важна, когато съществуват ясни рискове, не трябва да оставаме просто оптимисти, а трябва да се подготвим. Точно както лекарствата могат да имат както ползи, така и странични ефекти, изкуственият интелект въплъщава както полезност, така и риск. Джери Каплан и други посочват, че развитието на изкуствения интелект може да подкопае уникално човешки понятия за ценности, като „мисъл“, „свободна воля“ и „съзнание“. Ако изкуственият интелект придобие способността да интерпретира и да прави преценки, не можем да изключим възможността той да застраши човешкия живот и безопасност.
Заключение
Размислите на Брайън Крисчън върху човечеството и опитът му с теста на Тюринг предлагат креативни и смислени прозрения. Оптимизмът му обаче се основава до голяма степен на предпоставката, че изкуствен интелект с разум няма да се появи, и не успява да вземе предвид достатъчно различните възможности за развитие на изкуствения интелект и негативните последици, които биха могли да произтекат. Трябва да признаем, че макар изкуственият интелект да може да направи хората по-човечни, той също така има потенциал да застраши човешката идентичност и безопасност и трябва да поддържаме баланс между оптимизъм и готовност.
Дори да се предположи, че не се появи силен изкуствен интелект, е вероятно да възникнат проблеми, свързани с работните места. През 2013 г. JTBC съобщи, позовавайки се на проучване на Оксфордския университет, че значителен брой работни места в Съединените щати биха могли да изчезнат в краткосрочен план поради развитието на изкуствения интелект. Подобни прогнози затрудняват поддържането на оптимистичната гледна точка, че изкуственият интелект просто ще поеме човешкия труд и ще обогати живота ни.
Изкуственият интелект ще окаже влияние не само върху трудовия сектор, но и върху правото и социалното равенство. Начинът, по който се прилагат и тълкуват законите, може да се промени и могат да възникнат ситуации, в които ИИ се разглежда или като извършител на престъпление, или като обект на наказание. Освен това съществува опасение, че разликата в богатството ще се увеличи, тъй като тези, които контролират и използват ИИ, е вероятно да генерират по-голямо богатство. И обратно, тези, които нямат достъп до ИИ, ще изостанат по отношение на знания и икономическо положение.
Като се има предвид, че хората исторически са доминирали над други живи същества чрез интелигентност, естествено е да се предположи, че ако се появи същество с превъзхождащ хората интелект, това същество ще доминира човечеството. Някои дори предсказват бъдеще, в което хората биха могли да се провалят на тестове като теста на Тюринг. Това повдига въпроса: защо не обмисляме достатъчно тази възможност?
Още по-тревожната новина е, че бъдеще, в което изкуственият интелект и роботите се сливат, бързо наближава. Компютър на име „Юджийн Густман“ беше оценен като преминал теста на Тюринг при ограничени, предварително дефинирани условия. Това служи като пример, демонстриращ, че изкуственият интелект е навлязъл в етап на иновативно развитие, което прави невъзможно изключването на възможността за изкуствен интелект, способен да премине теста на Тюринг без такива ограничения.
Ако бъдещият изкуствен интелект притежава интелект, превъзхождащ човешкия, и бъде комбиниран с роботи, притежаващи изключителни физически способности, ще се сблъскаме с осезаема същност, която надхвърля обикновена виртуална програма. По-специално, появата на „хуманоиди“ – роботи, много подобни на хората – би могла да представлява сериозна заплаха за човечеството. Макар че не можем категорично да заключим, че комбинацията от тези технологии неизбежно ще доведе до негативни резултати, ако приемем негативен сценарий, интеграцията с роботи е много вероятно да увеличи тези рискове.
Междувременно, Брайън Крисчън може да се разглежда като склонен да надценява хората и да подценява изкуствения интелект. Той твърди, че човечеството е гъвкаво, иновативно и бързо се учи и че дори ако хората загубят теста на Тюринг, те няма да се откажат лесно. Вярвам обаче, че повечето хора ще бъдат претоварени и ще се откажат пред лицето на преобладаващия изкуствен интелект и дори ако малцина издържат, шансовете им за победа са малки. Изкушението да се откажат, вместо да се борят срещу изкуствения интелект, ще бъде силно.
Кристиан също гледа негативно на появата на „Сингуларността“, което може да е перспектива, която подценява потенциала на изкуствения интелект. Със сигурност има възможност изкуственият интелект да ни окаже положително влияние и можем да се поучим от него. Взаимодействието със същества, които са подобни, но различни, ще разшири нашия опит и хоризонтите ни.
Въпреки това, няма достатъчно доказателства, за да се твърди, че съществуват само ползи. Не бива да пренебрегваме потенциалните рискове. Международни експерти вече работят за установяване на етични и безопасни насоки за изследвания в областта на изкуствения интелект и ние трябва да поддържаме предпазлива позиция в подготовка за всякакви непредвидени обстоятелства. В лицето на появата на субект, който един ден може да ни доминира, готовността и контролът са от съществено значение.
Следователно, трябва да бъдем особено внимателни, особено когато се стремим да разработим силен изкуствен интелект, тъй като изследванията, провеждани без ясни политики за контрол, могат да бъдат опасни. Безразборните изследвания в областта на изкуствения интелект може да изглеждат като ускоряване на появата на един „прекрасен“ нов свят, но в същото време не можем да изключим възможността те да ускорят появата на дистопия.
