Хората ще станем втора цигулка в еволюцията, дано не сме в менюто
Изкуственият интелект не е просто поредната технологична революция – той е сила, която ще преобрази света така, както никоя друга преди него. Често чуваме сравнения с парната машина, електричеството, компютрите. Но това сравнение е погрешно. Тази революция няма нищо общо с предходните. Защото изкуственият интелект няма просто да оптимизира или автоматизира. Той ще промени самата ни представа за времето и пространството. Ще промени физиката. Ще промени целия ни свят.
Трябва да признаем, че последствията от неговото развитие все още изглеждат неясни. Не знаем крайния мащаб, не знаем интензивността, не знаем параметрите. Повечето неща не ги знаем. Но знаем, че те идват. И че това, което идва, най-вероятно ще бъде неизмеримо с познатата ни математика. Всъщност, ако 20-ти век принадлежеше на физиката, то 21-ви век ще бъде векът на изкуствения интелект. Най-вероятно ще обори дори най-утвърдените ни разбирания за света – теориите на Айнщайн, на Стивън Хокинг.
Въпрос на време е да имаме технологията, която да позволи създаването на свръхчовешки изкуствен интелект. Малко след това,
човешката ера ще приключи -
моментът, в който достигне „точката на сингулярност". Това е момент, след който технологичния прогрес ще стане толкова бърз и сложен, че ще бъде извън разбирането на човешкия ум.
Всъщност, може ли да се избегне такъв прогрес? Според мен, не. Най-доброто, което можем да направим, е да се борим да ръководим събитията по начин, при който
поне да оцелеем
Ускоряването на технологичния прогрес и развитието на изкуствения интелект е централно място в характеристика на този век. Най-вероятно се намираме на ръба на промяна, сравнима по мащаб само с възхода на човешкия живот на Земята. Това е така, защото са налице всички теоретични и емпирични предпоставки за предстоящото създаване на същества с по-висок от човешкия интелект.
Какви ще са последствията?
Когато на планетата Земя има по-голяма от човека интелигентност, която да движи прогреса, този прогрес ще бъде много по-бърз. Всъщност, от философска гледна точка изглежда логично самият прогрес да включва в себе си създаването на още по-интелигентни същества от нас самите. Идеята че сме уникални и единствени сама по себе си е контрапункт на идеята за еволюцията, прогреса и естествения подбор.
Най-добрата аналогия, която виждам, е с еволюционното минало. Животните могат да се адаптират към проблемите и да оцеляват по някакъв начин на база инстинкти, но често не по-бързо отколкото естественият подбор може да си свърши работата. Ние, хората, имаме способността да прогнозираме света и да си задаваме въпроси тип „какво би станало, ако..." в главите си. Ние можем да решаваме проблемите хиляди пъти по-бързо, отколкото „естествения подбор" може да направи. И това ни различава от животните.
Сега нещата вече са много различни, защото за първи път в историята на човечеството, хората са поставени в по-нисша ситуация. Защото, ако хората решават проблемите по-бързо от „естествения подбор", то изкуственият интелект ще решава проблемите по-бързо от хората. От човешка гледна точка тази промяна
ще представлява зачеркване на всички предишни правила,
на цялото човешко минало като теория и практика, защото малко по-малко, всяка надежда за контрол над нещата, става все по-малка.
Сингулярността ще настъпи тогава, когато нашите модели на поведение и развитие бъдат отхвърлени, а реалността започне да се управлява по нов начин. И сякаш всяка следваща година усещаме, че се приближаваме все по-близо към този момент. Въпреки това, когато се случи, пак ще има милиарди хора по света, които ще бъдат изненадани. Сякаш не виждаме накъде сме се запътили през последните няколко десетилетия. Сякаш не виждаме, че непрекъснато ускоряващия се напредък на технологиите и промените в начина на човешкия живот, водят все повече до приближаване до някаква съществена особеност в история на нашата раса, отвъд която човешките дела, каквито ги познаваме от хилядолетия, не да могат да продължат.
След време ХХI век ще остане в историята на планетата „Земя" като века в който бяха създадени същества, по-умни от човека. Като века в който бе достигната и премината „точката на сингулярност". Като векът в който човекът направи своето последно изобретение. Трябва да бъдем благодарни на тези, които от 60-70 години пишат научна фантастика. В крайна сметка, тези хора единствени се опитаха да напишат конкретни истории за всичко, което технологията може да направи за нас, вместо нас... и с нас.
Антропологът Дейвид Гребер (2013) твърди, че мнозинството от хората на планетата работят на
"глупави работни места"
Той пише, че „ хората прекарват целия си трудов живот изпълнявайки задачи, които те тайно вярват, че всъщност не е необходимо да бъдат изпълнявани. Моралното и духовно увреждане, което идва от тази ситуация, е дълбоко. Това е белег в колективната ни душа.". Нещата са много по-дълбоки, затова става въпрос за идеологическа промяна, не толкова за икономическа. Последната е проекция на човешката еволюция.
Един от основните белези на приближаването към сингулярността е, когато идеите започнат да се разпространяват все по-бързо, дори най-радикалните. Представете си, ако човешката еволюция по отношение на ИИ и технологиите беше подранила с един век и успоредно с нея, доминиращите идеологически доктрини в Европа бяха националсоциализмът, фашизмът и комунизмът? Тогава вероятно днес щяхме да живеем в някаква антиутопия тип „1984" на Оруел.
А какво ще се случи, когато достигнем сингулярността? Тъй като става въпрос за интелектуална еволюция, а не материална, вероятно това ще се случи много по-бързо от всяка техническа революция видяно досега. Предизвикващото събитие вероятно ще бъде неочаквано и както казах, разбира се, всички ще бъдем изненадани една Неделя сутрин с новината. Така
както бяхме изненадани с COVID-19
Човеците ще влезем в постчовешката ера много скоро. И въпреки целия ни необуздан технологичен оптимизъм, понякога си мисля, че бих се чувствал по-удобно, ако нещата не се случваха толкова експоненциално, а говорехме все още за „далечно бъдеще". Но ситуацията не е такава.
Може ли сингулярността да бъде избегната? Категорично не. Науката отдавна е доказала, че умовете могат да съществуват извън биологични носители и че алгоритмите са от централно значение за съществуването на тези умове. Даже ако всички правителства по света разберат "заплахата" и да изпитвате смъртоносен страх от това, напредъкът към целта ще продължи.
В художествената литература има истории за приети закони, забраняващи конструиране на „машина под формата на ума на човека". Но това е конкурентно предимство в условията на пазарна капиталистическа икономика, където индивидуалният интерес надделява над колективното благосъстояние. Конкурентно предимство - икономическо, военно, дори артистично. Всеки напредък в технологиите е толкова завладяващ, че приемането на закони или обичаите, които забраняват подобни неща, ти гарантират единствено, че някой ще ги получи и създаде преди теб и ще има достъп до нови технологии много по-рано.
Ако сингулярността не може да бъде предотвратена или ограничена,
колко лоша може да бъде постчовешката ера? Ами, доста зле
Физическото изчезване на човешката раса е една от възможностите. Като се има предвид всичко, което такава технология може да направи, може би някой някъде просто би решил, че вече не се нуждае от 8, 9 или 10 милиарда души на планетата Земя?
И все пак, физическото изчезване може да не е най-страшното възможност. Помислете как третираме понякога ние, хората, по-нисшите биологични форми на живот – животните, растенията и т.н. В крайна сметка, да живее конкурентоспособността и прогресът. И все пак, ние сме инициаторите на всичко това. Дори най-голямата лавина се задейства от малките неща.
Всъщност, проблемът е още по-сериозен. Сингулярността представлява просто
преминаване на човечеството от центъра в периферията
на прогреса. Истинският проблем е, че това противоречи на някои от най-дълбоките ни представи за битието и устройството на света. Това е колкото технологичен и еволюционен, толкова и философски проблем за осъзнаване и дефиниране. Дори да успеем да оцелеем като човешки същества, да се приспособим и да приемем ролята си на „втора цигулка" в еволюцията на планетата Земя, то философските проблеми стават наистина плашещи.
Когато умът ни и възможностите ни остават на същия капацитет, докато всичко около нас се развива, то този ум не може да живее вечно. След няколкостотин години ще изглежда по-скоро като повтаряща се лента, отколкото като човек. За да живеем неопределено дълго, самият ум трябва да расте. Но това възможно ли е? Нима нашият мозък няма лимит и горна граница на възможностите? Нима и той като ИИ и всичко останало, което предстои, може да се развива експоненциално? По-скоро не. Така рано или късно нас няма да ни има на масата на човешката еволюция като сериозен играч, а
като част от менюто за вечеря
Не иска да плаша. Искам да кажа, че с изкуствения интелект трябва да се внимава, както с ядрените оръжия. Всъщност това може да се разглежда като нова надпревара във въоръжаването. Технологиите с ИИ имат потенциала да трансформират обществата ни, но без подходящи регулации и етични стандарти те могат да доведат до непредвидими и дори опасни последствия. Дано не съм прав.
