Доц. Мариана Тодорова: Във Ватикана ще обсъдим заплахата с водещи фигури в AI
Разчитаме на вицепрезидента на САЩ Джей Ди Ванс, който е католик, да убеди Доналд Тръмп в ползите от плана "Барух", казва футурологът
Мариана Тодорова е представител на България в ЮНЕСКО в междуправителствената среща за изработване на етична рамка за AI. Тя е член на експертната група на високо равнище по етика на AGI (Artificial General Intelligence) към ООН. Член е на коалиция “Барух” и оглавява българския клон на Millennium Project.
Негов главен изпълнителен директор е световноизвестният футуролог проф. Джером Глен, на когото ЕК възложи да разработи анализ за бъдещия мислещ изкуствен интелект и възможностите му. Той също е в групата на ООН за защита на планетата от изкуствения интелект. В нея е и основният докладчик по тези въпроси пред американския Сенат - проф. Стюарт Ръсел от Университета на Бъркли, който работи по програми както на ОИСР, така и Световния икономически форум.
В групата на ООН е и Йошуа Бенгио, носител на Тюрингова награда (аналог на Нобеловата в областта на математиката). Там е и естонският милиардер Яан Талин, създал Skype, а по-късно и съосновател на DeepMind заедно с Питър Тийл и Илон Мъск - компания, която неотдавна бе продадена на Google за около 500 млн. долара. Името му нашумя и когато започнаха сътресенията в OpenAI.
Тогава част от служителите напуснаха в знак на протест срещу Сам Алтман, обвинявайки го, че в името на комерсиализацията прекрачва всички червени линии. Яан Талин подкрепи техния стартъп Anthropic, с който те от самото начало искат да създадат безопасен изкуствен интелект, В групата, селектирана от ООН, е и Лан Шуе от Китайския национален експертен комитет по управление на AI, както и редица други изявени учени.
- Доц. Тодорова, вие сте в група със сериозни специалисти по генерален изкуствен интелект в рамките на ООН, защо ви е необходима подкрепата на Ватикана?
- Голямата идея зад всичко това е да се търсят различни направления, за да бъде подписан договор между Китай и САЩ за взаимно разкриване на постиженията и отказ да се създаде т.нар. съзнателен AI (Artificial General Intellegence). На този етап те не желаят това общозначимо за човечеството постижение, макар че в Пекин твърдят, че са съгласни, но по-скоро там разчитат на факта, че Америка не е. Това е геостратегически и геополитически въпрос и проблемът е високата степен на недоверие между двете суперсили.
Освен че този съзнателен или имитиращ съзнателност интелект би представлявал екзистенциална заплаха и може да унищожи човечеството, той би променял до неузнаваемост нашата действителност във всяко ключово събитие за човешкия живот – раждане, образование, кариера, семейство и дори смърт. Генералният изкуствен интелект, или суперинтелект, би преизобретил жалоните на живота. Човешките бебета биха могли да са написани от AGI в код на синтетична биология, родени от множествена преселекция инвитро или дори в изкуствени утроби, свързани от ранна възраст инвазивно или неинвазивно с AI или AGI, тоест обучавани от нечовешки познавателен субект. Хората от близкото бъдеще ще работят с “колеги” AI или AGI. При това все по-малко по традиционния от индустриалната революция начин. А смъртта ще бъде опция или проект…
Обърнахме се към папа Лъв XIV, защото предшественикът му - Лъв XIII, през 1891 г. пръв издава подобна енциклика и се ангажира със социални доктрини. Сега на свой ред новият папа иска да преведе света през ерата на изкуствения интелект. В Библията е казано: “В началото бе словото”. До голяма степен ние творим реалността си чрез слово. Дори Ювал Харари акцентира върху факта, че разказите, наративите, които произвеждаме за всяко събитие, са много по-важни от реалното събитие. Затова е много важно кой притежава така наречения монопол върху истината, кой лансира разказите, защото, ако голяма част от обществото им се доверява, то това е неговият мобилизационен ресурс за действие или картбланш за управление. В тази религиозна традиция се възприема, че Бог твори чрез словото, но сега алгоритмите са тези, които го правят. Те придобиват почти еднолична власт върху този наратив, върху разказите. Интернет пространството е наводнено от съдържание, генерирано от чатботове, доказано е, че не можем да разберем кога е писано от хора, кога не. На някакво подсъзнателно ниво се усеща, че в текстовете се прокрадва някаква нехуманност. Това се случва всеки път, когато се описва нещо, което не е преживяно, в което няма емоция. AI не съзерцава, не може да свидетелства, не усеща топлината, състоянието на влюбеност или дълбочината на тъгата. Проблемът е, че в един момент тази дехуманизация ще възпитава децата. Виждаме огромна потребност да рационализираме емоционалната интелигентност. Колко хора отдават значение освен на фундаменталните знания, на критичното мислене, на умението да управляваме емоциите си? Това е необятно ново поле, защото от зората на човешкото съществуване ние не знаем как по осъзнат начин да ги наблюдаваме и контролираме. Може да сме гениални, но ако сме стресирани, тревожни и ядосани, най-вероятно няма да постигнем нещо кой знае какво.
- Това ли ще е новият бич?
- Да, на следващите десетилетия - увреденото ментално здраве заради алгоритмите. Хората не знаят на какво да вярват, сякаш за нищо вече не сме сигурни. Очакването е по всяко важно събитие да има поляризация на две взаимно отричащи се тълкувания. Това създава нестабилност и несигурност, загуба на устои и този процес все по-често ще засяга психическото, менталното здраве. Затова ще е много важно в този период не само да мислим критично, но и да се научим да управляваме емоциите си.
Тъй като AGI иззема функциите на словото, на Библията, на разказите за света, интерпретациите, църквата не може да остане безучастна. Не може да е само наблюдател, който макар и човеколюбиво, само коментара. Ватиканът трябва да се произнесе и да подпомогне този процес за договор между САЩ и Китай, към който да се присъединят останалите членки на ООН.
- Какви биха могли да са мотивите на папата да преведе света през това предизвикателство?
- Както някога е било постигнато с много усилия споразумение за ядреното оръжие и за тази кауза е бил привлечен първо папата, сега е същото. Наистина сме изправени пред заплаха за съществуването ни. Но първият голям проблем е, че расте поколение, което общува повече с изкуствения интелект, отколкото с хора.
- Как ще се отрази това на съзнанието, на нагласите им, в какви личности ще се превърнат те, ще общуват ли пълноценно?
Чрез словото вече не се предава онова усещане за света, към емоцията. Строим свят, който не е отражение на нашите чувства и преживявания. Леонардо е рисувал с години Джокондата, за да постигне тайнствената й усмивка. Сега никакви алгоритми не могат да помогнат на изкуствения интелект да я долови. Именно затова се опасяваме, че с него нашето мислене се променя, защото намира инструмент заместител и постепенно може да ни трансформира. Какви реакции ще имаме тогава? Това ли ще е последното ни изобретение, за което ще съществуваме, за да обслужваме алгоритмите с ресурс?
- Дали този страх не е преувеличен – в крайна сметка с AI се опитваме да обхванем натрупаните от човечеството знания, което без него ще е невъзможно в рамките на един човешки живот?
-AI наистина разполага с цялото налично дигитализирано човешко знание. Той може да бъде огледало за всеки потребител - отразява нивото на познание, надгражда го и така става множител или пък когнитивно го затваря, ако той или тя не търси разширение на знание и възможности. AI действа и като резонансна структура – резонира на всяка отделна многомилионна честота на всеки един от милионите ползватели – чрез персонализация и профилиране, което също може да бъде път за себепознание, но и разкриване на всички вътрешно присъщи черти.
Променя се и човешката природа, сякаш вече нямаме търпение, не се учим по същия начин – упорито и задълбочено. Вече заместваме мисленето с бързо подреждане на информация. От друга страна, ако не възпитаваме изрично подрастващите в критично мислене, ще действаме като биологични алгоритми. Без изобщо да осъзнаваме, ние ще се подравним към алгоритмите, а не те към нас.
- Защо договор между САЩ и Китай е от ключово значение точно сега?
- Това са двете водещи сили. Нашият опит в ООН, където една страна като Камерун може да има тежест като Китай, сочи, че дори 100 държави да се обединят около дадена кауза, ако сред тях не са Китай и САЩ, този договор в реалната политика нищо не означава.
- Кои ще участват в новия план “Барух”?
- В предстоящата конференция през юни във Ватикана, чрез която се цели идеите да катализират, сме поканили съветника на папата монсеньор Пауло Бенати, експерта към Ватикана по трансхуманизъм и AI Майкъл Багот, представители на OpenAI като Грек Брокман, Джак Кларк от Anrthropic, основателя му Дарио Амодей, колеги от Google Deep Mind, Microsoft. Поканихме и представител на вицепрезидента Джей Ди Ванс, който е приел католицизма и папата го е покръстил. Голямата надежда е Светият отец да убеди Ванс, а той президента Доналд Тръмп.
Сред другите, към които сме се обърнали, са Пол Шерц, председател на Северноамериканската изследователска асоциация на AI към Ватикана, монсеньор Пегураро, председател на фондация “Ренесанс” по въпросите на изкуствения интелект, сенатора от Флорида Рон Де Сантис и др. Това ще е неправителствена организация. Разчитаме на личностен подход. Привлечени са и хора, изповядващи будизма. Целта е чрез мостове към всички религии да убедим политиците, че оттук нататък AI все повече ще се представя като Бог. В Античността стихиите и боговете предоставяли решенията за човешкия живот, след това към монотеистичните богове – Исус, Аллах, след което се появява рационализмът, науката, силата на аза. Сега ние хем търсим готови, изработени от AI решения, хем искаме да надминем Бог, сътворявайки нещо, което не бихме могли да контролираме, хем да не носим отговорност...