Ще създадем една нова същност, това няма да е механично разширение, а умножение, каза още футурологът
Още акценти от интервюто:
- Станислав Петров, мислейки критично и "извън матрицата", спасява света от ядрен холокост
- Съюзниците побеждават Хитлер, защото са импровизирали, а той е бил причинно-следствен персонаж
- Бъдещият AI ще е като кентавър, който ще ни отразява
- В групата в ООН обсъждахме напълно свободни зони за изкуствения интелект, подобни на някогашните военни градове в СССР, за да бъдат защитени останалите от непредвидени събития
- Доц. Тодорова, вие сте в две престижни международни групи, посветени на предизвикателствата, свързани с AI. Днес чиповете в мозъка помагат на хора в нужда да изпълняват ежедневни задачи, но един ден, когато технологията се разпространи, дали няма да се стигне до спекулации? Примерно до използване на теорията за подбутване, за да ни тласкат към ненужни покупки или до необосновани от каквато и да е гледна точка решения? До роботизиране, до агресия и т.н.? Обсъждат ли се застраховките, или ще стане както винаги – всички ще се сетят за опасните последици, когато е твърде късно?
- Да, аз съм част от високопоставения 8-членен панел към Съвета на президентите на Общото събрание към ООН за генерален изкуствен интелект и част от междуправителствената група за етика на невротехнологиите към ЮНЕСКО.
Всъщност всичко зависи от това какви критерии ще заложим, как ще деконструираме процеса на мислене, защото при всеки той е свързан с начина, по който осъзнава. Ако човек е решителен и независим чрез критичното си мислене, трудно би допуснал влиянието на технология с двойно значение. Съществува едно обективно знание, което е налично като информация и до него е достигнато в хода на еволюцията. Но има и друго - лично осъзнаване и пречупване през нашия индивидуален опит, който не е само плод на опита в материална среда, а е функция на всичко, което сме като характер, стойност, устойчивост, нагласа към света – оптимизъм или песимизъм. Някои хора са по-крехки, по-чупливи, а други са по-калени и по-силни. Съвкупността от всичко това дава отпечатък върху жизнения опит и изграждането на интелекта, което ни прави толкова индивидуални. Забележете, един човек е в състояние да победи раково заболяване само със силата на волята си, а друг може да бъде съкрушен от много леки обстоятелства, което също е свързано със знанието и опита.
- Когато говоря с учените, създали най-мощния европейски суперкомпютър JUPITER, те винаги си задават въпроса как могат да го направят по-ефективен и да работи с по-малко енергия. Непрекъснато се вдъхновяват от човешкия мозък, който има изключителен капацитет и възможности, а работи с минимална енергия.
- Биологичният мозък функционира оптимално. Ако разгледаме дефинициите на психолозите Даниел Канеман и Амос Тверски, мозъкът следва модела "Схемата". С други думи, в рамките на човешкия живот трупа схеми и шаблони и реагира спрямо тях. Когато е иновативен, той измисля безпрецедентни нови ходове и действия и тогава сменя един шаблон с нов. Всъщност това е новопридобитият опит. Другият е, когато правим наш личен някакъв опит. Всички тези механизми не са повторяеми и няма възможност да ги пресъздадем при AI, който е много универсален и еднакъв. Макар да забелязваме, че при него съществуват причинно-следствени връзки, все пак той е универсален и действа по различен начин.
- Според вас как би изглеждал качественият скок на AI оттук нататък?
- Само ако е в синергия с отделни човешки интелекти и започне да ги отразява и надгражда. Тоест самият изкуствен интелект на този етап няма да придобие тази уникалност, неповторимост, несъздаваемост и неимитируемост на отделните човешки индивиди, но в бъдеще, отразявайки всеки един от нас с нашата уникалност, учейки се от всеки един от нас, той може в рамките на това взаимодействие да започне да ни наподобява. Помня как Александър Фол на лекции ни обясняваше за тракийския воин, че той не е сам за себе си и че конят му не е сам за себе си. Тракийският воин винаги е човекът с коня и това е едно цяло, оттам идва и образът на кентавъра. Затова мисля, че бъдещият генерален AI ще е нещо като съвременен кентавър, който ще отразява всеки един човек, защото всеки ще персонализира своя изкуствен интелект и оттам ще дойде това надграждане от и на AI. От тази гледна точка той ще отразява уникалността на всеки, който е в интеракция с него. Всъщност така ще създадем една нова същност, това няма да е просто механично разширение, а заедно с това и умножение. Ще се превърне в своеобразен множител на нашето индивидуално съзнание, но без този "микс" от взаимодействия няма да може да функционира, защото технологията винаги ще трябва да ни отразява. Това ще е нещо като перфектното огледало. Но и ние без него няма да успеем да надградим капацитета си, защото имаме биологична ограниченост. Така че при правилното използване на AI, ако избегнем негативните му ефекти, можем многократно да повишим капацитета си.
- Според вас има ли протокол как да избегнем мързела да се мисли? Повечето хора съвсем спонтанно избират най-малкото съпротивление.
- С осъзнаване, че това е технология, която би могла да ни лиши от критичното ни мислене и въобще от когнитивен процес. Или както един от основателите на OpenAI отбеляза - AI може да ни доведе до възнесение, защото ще умножи капацитета и възможностите ни, но затова е необходимо непрекъснато да се самонаблюдаваме, да не изпадаме в делюзии, защото изкуственият интелект халюцинира. Правилото е, когато ни се поднася наготово синтезирана информация, да имаме правилната настройка – да я приемем като провокация. Какво още можем да добавим към нея? Много полезно е да се научим да използваме AI като спаринг-партньор, да отвърнем на предизвикателството, а не да решим, че е поднесено наготово знание, защото това ще е знание без мъдрост.
- Може ли да обясните защо?
- Защото изкуственият интелект и другите технологии ускоряват перцепцията ни за време. Всеки ден ни залива много информация и когато я приемаме, без да разсъждаваме над нея, без тя да бъде отложена като знание и мъдрост и да я съхраним в естествения интелект, тя не е наша и много трудно ще ни послужи за каквото и да било. Затова в ерата на изкуствения интелект е много важно да сме самокритични, дисциплинирани като наблюдение, да знаем къде е нашата граница и да разсъждаваме постоянно какво още можем да добавим. Като във всеки момент си напомняме, че трябва да мислим критично. По този начин се получава синтезирано знание, разширение на базата на нашия мозък, формиран преди хилядолетия, и той ще е в състояние да поеме повече информация и да я отложи в нови знания.
- Може би точно този процес ни прави толкова уникални и способни да импровизираме по неподозирани начини?
- Изключително важно умение. Цветан Тодоров и Юлия Кръстева веднъж обясниха защо малобройните испанци успяват да колонизират цяла Америка. Причината е, че местните индианци са били в плен на митовете и са очаквали, че белите ще дойдат. Когато те пристигнали, нямали готови шаблони и започнали да импровизират. Адаптирали се в движение. Това е и едно от обясненията защо победителите във Втората световна война са съюзниците, а не Хитлер. Фюрерът бил причинно-следствен персонаж, а съюзниците били изключително изобретателни – особено при десанта в Нормандия, при битката за Сталинград, Курск. Същият механизъм сработва при съветския офицер Станислав Петров, който осуетява ядрения апокалипсис през 80-те. Той е дежурен и получава сигнал, че САЩ изстрелват ядрени ракети. Петров обаче не активира съветските оръжия, защото разсъждава "извън матрицата" – ако Америка е решила да атакува, тя няма да го направи с 4 ракети. Затова, мислейки критично в параметрите на ирационалното, Станислав Петров пренебрегва препоръките на компютъра и спасява света.
- Може би именно така – чрез наши аватари, въоръжени с изкуствен интелект, ще колонизираме един ден и Космоса – нестандартно мислене в мощни технологии.
- Без човешка намеса ще бъде трудно. AGI може и да не постигне човешкото мислене, но в един момент ще се научи да го имитира. Примерно с набор от импровизации. След като машината успя да победи световни шампиони в играта го, този момент няма да е много далеч. Но до решения, зависещи от прекалено много променливи, взети от A(G)I, има още много време.
- Може ли да разкажете накратко на какъв етап е работата ви в ООН по своеобразната защита на човечеството от AI?
- Обединихме се около идеята към ООН да се създаде обсерватория с различен тип експерти, етици, инженери, хора с техническо образование и те заедно да подготвят доклади за напредъка на AGI, придружени с препоръки и механизми за стандартизация и сертификация. Това ще е глобална организация, която ще прави мониторинг по целия свят. Целта е да се постигне съгласие, защото различните юрисдикции и регулации могат да доведат не само до неравенство, а в един момент и до апокалипсис, особено ако има по-хлабави режими, допускащи екзистенциални заплахи.
- Можете ли да дадете примери?
- В ЕС е забранено лицевото разпознаване, а в Китай е създадена рейтингова система за социален кредит и функционирането изисква това разпознаване.
От друга страна, в момента навлизаме в етап, когато надпреварата е по-важна от отговорността към човечеството, защото след ядрените оръжия сега всички се стремят първи да постигнат Artificial General Intellect. Причината е, че това ще определи новите суперсили. За съжаление, едва след като се създаде този интелект, ще започне да се мисли как да бъде управляван и контролиран. Абсолютно погрешен подход, защото в един момент може да се окаже невъзможно. Обсъждахме различни варианти – включително напълно свободни зони, където всичко ще е разрешено, но те да бъдат в затворени системи, напълно изолирани от останалия свят, нещо подобно на някогашните военни градове в СССР, за да бъдат предпазени останалите от непредвидени обстоятелства.
Обсъждаха се и варианти за временен мораториум, докато успеем да наваксаме с когнитивните възможности, тъй като бяхме свидетели на различни публикации как изкуственият интелект мами, изнудва, че ще изтрие данни, опознава всички човешки механизми и успешно ги имитира. Въпросът не е дали ще разбираме тези технологии, а дали ще достигнем нивото, в което ще имаме достатъчно знания как да боравим с тези системи.
- Идеите са чудесни, но е очевидно, че духът е изпуснат от бутилката и връщане назад няма да има.
- Може да има, ако се случи инцидент от типа на грандиозния срив в енергийната мрежа в Испания. Дали това бе под влияние на претоварването на мощностите със зелена енергия, дали бе пренаписване на софтуер... Във всеки случай, ако нещо подобно стане с помощта на AI, това ще е достатъчно стряскащо и отрезвяващо. Както и че ако ситуацията продължи да ескалира, в един момент няма да ни остане нищо друго, освен да се опитваме да наваксваме.
- От друга страна, никога човечеството не е инвестирало такива колосални средства в някаква технология, може би като изключим най-острата фаза по време на студената война.
- Така е, подобна целеустременост никога не е имало. Развитието на криптовалутите умишлено бе стопирано, за да не доведат до разрушаване на данъчните системи. Метавселените също бяха забавени, макар че пред тях има голяма перспектива. След което всички усилия и огромни инвестиции бяха насочени към AI.
CV
Футуролог, доцент в Института по философия и социология към БАН
Създава нова методология за научна прогноза чрез комбиниране на контрафактичен анализ и изграждане на сценарии
Има специализации по лидерство в Харвардския университет, в Училището по управление на Джон Кенеди, в международната програма за лидерство (IVLP) от Държавния департамент на САЩ и в Китайската академия за управление
През 2020 г. издава своя книга на български език: "Изкуствен интелект. Кратка история на развитието и етични аспекти по темата"
Член на Световната академия на изкуствата и науките
През 2021 г. представлява България в ЮНЕСКО в междуправителствената среща за изработване на етическа рамка за изкуствен интелект
