През последните години всички говорят за изкуствения интелект, големите данни и технологичната революция. Малцина обаче си задават въпроса какво ще се случи с обществото, когато все по-трудно различаваме истинското от синтетичното, реалния човек от дигиталния двойник и достоверната информация от убедителната имитация. Възможно е най-голямата промяна на XXI век да не бъде самият изкуствен интелект, а постепенното превръщане на доверието в най-дефицитния и най-ценния обществен капитал. Именно този процес се разглежда в този нов анализ.
Всяка голяма епоха се разпознава по ресурса, който определя нейната власт
Историята рядко се променя с един-единствен драматичен момент. По-често тя се измества почти незабележимо, докато хората продължават да мислят със старите категории, а вече живеят в нова реалност. Така е било и когато земята престава да бъде единственият източник на богатство, а индустриалната революция превръща въглищата в двигател на икономиката. По същия начин през XX век петролът постепенно измества всички останали суровини и започва да определя не само развитието на индустрията, но и съдбата на държави, войни и цели геополитически региони. Днес никой не се съмнява, че енергийните ресурси продължават да имат огромно значение, но вече все по-ясно се вижда, че светът навлиза в нова епоха, в която властта няма да принадлежи единствено на онзи, който притежава природни богатства.
През последните двайсет години почти без съпротива беше наложена друга идея – че данните са новият петрол. Тя звучеше убедително. Големите технологични компании натрупаха невиждано влияние именно защото успяха да превърнат човешкото поведение в суровина. Всяко търсене в интернет, всяка банкова операция, всяко движение на телефона, всяка покупка и всяка реакция в социалните мрежи започнаха да оставят цифров отпечатък. Колкото повече данни се натрупваха, толкова по-точни ставаха прогнозите, рекламата, политическите кампании и алгоритмите, които постепенно започнаха да моделират ежедневието ни. Изглеждаше, че бъдещето принадлежи на онзи, който разполага с най-големите масиви от информация.
Само че именно в момента, когато тази теза изглеждаше окончателно доказана, започна процес, който постепенно я поставя под съмнение. Не защото данните са престанали да бъдат ценни. Напротив – те никога не са били повече. Проблемът е, че огромното количество информация започва да обезценява самата информация. Това, което доскоро беше дефицит, днес се превръща в изобилие. А историята показва, че когато едно благо престане да бъде рядкост, неговата стратегическа стойност неизбежно намалява.
Парадоксът на нашето време е, че човечеството никога не е разполагало с толкова знания и никога не е изпитвало толкова силно съмнение към тях. Всеки ден милиарди текстове, снимки, видеозаписи и аудиофайлове заливат информационното пространство. До неотдавна самото наличие на снимка или видеозапис се възприемаше като достатъчно доказателство, че дадено събитие действително се е случило. Днес това усещане постепенно изчезва. Не защото хората внезапно са станали по-недоверчиви, а защото технологиите направиха фалшификацията почти неразличима от оригинала. Изкуственият интелект вече не само обработва информацията – той е способен да я създава с такава убедителност, че границата между автентичното и синтетичното започва да се размива.
Точно тук започва една от най-дълбоките промени на XXI век. За първи път в човешката история стойността на информацията вече няма да се определя преди всичко от нейното съдържание, а от доверието, което тя успява да вдъхне. Това изглежда като малка разлика в термините, но всъщност представлява промяна в самата логика на цивилизацията. Ако през индустриалната епоха въпросът е бил кой контролира суровините, а през цифровата – кой контролира данните, то през следващите десетилетия решаващият въпрос ще бъде съвсем друг: на кого обществото все още е готово да вярва.
Доверието никога не е било морална категория. То винаги е било невидимия капитал, върху който се изграждат икономиката, държавата и обществото.
Обикновено говорим за доверието като за нравствена ценност. Възпитаваме децата да бъдат честни, осъждаме предателството, ценим хората, които държат на думата си. Така постепенно започваме да възприемаме доверието като въпрос на морал, на личен характер или на добродетел. Това е вярно, но само от гледната точка на отделния човек. Погледнато през историята, доверието никога не е било просто етична категория. То винаги е било една от най-важните форми на обществен капитал – невидимата основа, без която икономиката, държавата и цивилизацията не могат да функционират.
Представете си свят, в който никой не вярва на никого. Всеки договор трябва да бъде проверяван безкрайно, всяка сделка – гарантирана с десетки посредници, всяко обещание – удостоверявано с планини от документи. Разходите за всяко действие биха станали толкова огромни, че икономическият живот постепенно би се парализирал. Именно затова икономистите често определят доверието като най-ефективния механизъм за намаляване на обществените разходи. Колкото по-високо е доверието в едно общество, толкова по-лесно се създава богатство. Колкото повече недоверие се натрупва, толкова повече енергия започва да се изразходва не за развитие, а за взаимно подозрение и контрол.
Това не е ново откритие. Най-успешните търговски цивилизации в историята никога не са се изграждали единствено върху богатството или военната сила. Те са се изграждали върху репутацията. Средновековните търговци не са разполагали с международни съдилища, с цифрови подписи или със сложни банкови системи. Те са разполагали с нещо много по-ценно – името си. Един човек, който веднъж изгуби доверието на своите партньори, практически губи възможността да участва в икономическия живот. Репутацията е била валута много преди да се появят модерните финансови инструменти.
По същия начин функционират и държавите. Конституцията, законите, изборите и институциите са жизненоважни, но сами по себе си не гарантират стабилност. Те работят само докато мнозинството от гражданите вярва, че правилата се прилагат еднакво за всички и че властта, независимо дали я одобряват или не, е легитимна. В момента, в който това убеждение започне да се разпада, настъпва криза, която никоя правна конструкция не може да предотврати. Историята е пълна с държави, които са рухвали не защото са били победени отвън, а защото отвътре е изчезнало доверието, че общността има общи правила и общо бъдеще.
Същото важи и за парите. Често ги възприемаме като нещо материално, особено когато държим банкнота в ръката си. В действителност парите представляват обществен договор. Хартийката няма почти никаква собствена стойност. Стойността ѝ произтича от общото убеждение, че и утре някой друг ще я приеме като средство за разплащане. Банковата система работи по същия начин. Ако вложителите внезапно престанат да вярват, че могат да получат обратно своите средства, дори най-стабилната банка може да изпадне в криза. Финансовата история многократно е показвала, че банките не фалират само защото нямат пари. Понякога те фалират, защото обществото престава да им вярва.
Демокрацията също не съществува без доверие. След всеки избор милиони хора приемат резултат, който често не им харесва. Те се подчиняват не защото са убедени в правотата на победителите, а защото вярват, че правилата на играта са били спазени. Ако това доверие изчезне, всяка следваща власт ще бъде възприемана като узурпатор, а всяка загуба – като измама. От този момент политическата система вече не произвежда легитимност, а непрекъснат конфликт.
Дълго време този невидим капитал изглеждаше почти естествен. Свикнахме да мислим, че обществата се крепят върху институции, закони и технологии. Истината е, че всички те представляват само външната конструкция. Истинската носеща система е доверието. То не се вижда, не се измерва лесно и не може да бъде записано в националните статистики, но именно неговото наличие или отсъствие определя дали една икономика ще расте, дали една държава ще остане стабилна и дали едно общество ще успее да преодолява кризите си.
Именно затова днешната технологична революция е много по-опасна, отколкото изглежда на пръв поглед. Защото тя не атакува отделна институция, отделна медия или отделен политик. Тя започва да подкопава самата способност на обществото да различава достоверното от недостоверното. А когато това се случи, под въпрос вече не е една новина или един видеозапис. Под въпрос се оказва фундаментът, върху който се изграждат всички останали обществени отношения.
Изкуственият интелект няма да унищожи истината. Той ще направи недоверието масово състояние.
Всяка голяма технологична революция е променяла начина, по който хората възприемат света. Печатната преса прави знанието достъпно за милиони и разрушава монопола върху информацията. Радиото създава първото общество, което преживява едни и същи събития едновременно. Телевизията превръща образа в най-влиятелния политически инструмент на XX век. Интернет премахва почти всички прегради пред разпространението на информацията. Изкуственият интелект обаче прави нещо качествено различно. Той не просто ускорява създаването на съдържание. Той променя самото отношение към реалността.
Досега всяка нова технология увеличаваше количеството информация. Днес за първи път една технология увеличава скоростта, с която може да бъде произведена убедителна измама. Това е фундаментална разлика. Не защото хората внезапно ще започнат да живеят сред лъжи, а защото вече няма да бъдат сигурни кое е истина и кое – добре изработена имитация.
Това е съвсем нова историческа ситуация. В миналото фалшификациите винаги са били възможни, но тяхното създаване е изисквало значителен ресурс – време, пари, специални знания и добре организирани структури. Днес един човек с обикновен компютър може за минути да произведе видео, снимки или аудиозапис, които до неотдавна биха били достъпни единствено за държавни служби или големи филмови студия. За пръв път в историята способността да се създава убедителна измама става масова.
Но истинската опасност не е самата фалшификация. Историята винаги е познавала измамници. Новото е друго. Когато обществото свикне с мисълта, че всичко може да бъде фалшифицирано, започва да се променя не поведението на измамниците, а поведението на всички останали. Постепенно недоверието престава да бъде изключение и се превръща в естествена реакция към всяка информация.
Това е много по-дълбок процес, отколкото изглежда. Ако някой ви покаже снимка, първият въпрос вече няма да бъде „Какво се е случило?“, а „Дали тази снимка е истинска?“. Ако чуете запис на известен политик, няма да обсъждате думите му, а вероятността гласът да е синтезиран. Ако гледате видео от бойно поле, от изборен ден или от международна среща, първата реакция все по-често ще бъде подозрение, а не доверие.
Така постепенно обществото започва да променя самата последователност на мисленето си. Преди анализирахме фактите и след това правехме изводи. Утре първо ще поставяме под съмнение самите факти. Едва ако успеем да ги приемем за достоверни, ще започнем да разсъждаваме върху тяхното значение.
Тази промяна изглежда незабележима, но нейните последици могат да бъдат огромни. Обществата се нуждаят от минимален набор от безспорни факти, върху които да изграждат общите си решения. Ако изчезне съгласието за това какво действително се е случило, много трудно може да съществува съгласие какво трябва да се направи. Политическият спор престава да бъде спор за решенията и постепенно се превръща в спор за самата реалност.
Именно тук се крие най-голямата стратегическа промяна. Изкуственият интелект няма да направи хората по-малко интелигентни. Няма автоматично да унищожи истината. Истината ще продължи да съществува така, както е съществувала винаги. Това, което ще се промени, е обществената увереност, че истината може сравнително лесно да бъде разпозната.
А когато увереността изчезне, започва да се разпада един от най-важните механизми на модерната цивилизация – общото доверие в реалността.
Парадоксално е, но колкото по-съвършени стават технологиите за създаване на информация, толкова по-ценни ще стават хората, институциите и организациите, които могат да удостоверят нейния произход и достоверност. В епохата на почти безкрайното съдържание най-дефицитната способност няма да бъде да говориш. Най-дефицитната способност ще бъде да убедиш останалите, че казаното от теб заслужава доверие.
Това е причината истинската революция на изкуствения интелект да не бъде технологична. Тя ще бъде психологическа. Защото най-голямата промяна няма да настъпи в компютрите, а в човешкото съзнание. Светът ще започне да живее не в общество на информацията, а в общество на постоянното съмнение.
И тогава ще стане очевидно, че най-големият дефицит на XXI век няма да бъде нито информацията, нито изчислителната мощ, нито дори самият изкуствен интелект. Най-дефицитният ресурс ще бъде увереността, че все още има на кого и на какво можем да вярваме.
Държавите, компаниите и медиите ще започнат да се конкурират не за внимание, а за доверие
Почти цялата икономика на интернет през последните двайсет години беше изградена върху една проста логика – който успее да привлече вниманието, той печели. Социалните мрежи започнаха да измерват успеха с гледания, харесвания, споделяния и време, прекарано пред екрана. Медийните редакции все по-често се надпреварваха коя първа ще публикува дадена новина. Компаниите инвестираха милиарди в алгоритми, които да задържат потребителя още няколко секунди. Политиците постепенно започнаха да се държат като създатели на съдържание, а не като държавници. Вниманието се превърна в основната валута на дигиталната епоха.
Този модел обаче постепенно достига собствените си граници. Не защото вниманието престава да бъде важно, а защото вече може да бъде купено, манипулирано или произведено почти без ограничения. Изкуственият интелект ще ускори този процес до степен, която днес трудно можем да си представим. Ако един човек днес може да създаде десет публикации за ден, след няколко години един алгоритъм ще може да създава десетки хиляди. В свят, в който вниманието може да бъде привличано почти автоматично, неговата стойност неизбежно ще започне да намалява.
Истинската конкуренция ще се премести на друго равнище. Няма да бъде достатъчно хората да те виждат. Ще стане много по-важно дали ти вярват. Това ще промени начина, по който функционират почти всички обществени институции.
Медиите например ще бъдат изправени пред избор, който днес все още изглежда второстепенен. В продължение на години най-голямото предимство беше скоростта. Кой ще публикува първи? Кой ще излезе с извънредна новина? Кой ще събере повече посещения през първите часове? В следващото десетилетие този модел може да започне да губи значение. Алгоритмите ще могат да публикуват новини секунди след настъпването на всяко събитие. Скоростта ще стане достъпна за всички. Това, което няма да бъде достъпно за всички, е репутацията. Все повече хора ще предпочитат да научат новината няколко минути по-късно, ако са убедени, че тя е проверена.
Подобна промяна очаква и бизнеса. Днес компаниите влагат огромни средства в маркетинг, реклама и изграждане на публичен образ. Утре все по-голяма част от тези инвестиции вероятно ще бъдат насочени към доказване на автентичността – на продуктите, на комуникацията, на произхода на информацията, дори на хората, които представляват самата компания. Марката постепенно ще престане да бъде само обещание за качество. Тя ще се превърне в удостоверение за достоверност.
Най-дълбоката промяна обаче вероятно ще настъпи в политиката. През последните години тя все повече започна да се подчинява на логиката на социалните мрежи. Важното беше не толкова какво управление предлагаш, а дали успяваш да доминираш информационния поток. Скандалът често носеше повече политически дивиденти от компетентността, а шумът – повече популярност от аргументите. Тази стратегия може да се окаже все по-малко ефективна. Когато информационният шум стане почти безкраен, обществото неизбежно ще започне да търси ориентири, на които може да разчита. Политическото доверие ще започне да струва повече от политическата известност.
Това не означава, че лъжата ще изчезне. Напротив. Вероятно никога досега тя няма да е разполагала с толкова мощни технологични инструменти. Но именно защото фалшификацията ще стане повсеместна, автентичността ще започне да се превръща в оскъден ресурс. А историята винаги е оценявала най-високо именно онова, което е трудно за намиране.
Тук вече се очертава нова геополитическа логика. През XX век държавите се конкурираха за територии, суровини, енергийни източници и военни технологии. През първите десетилетия на XXI век към това се добавиха данните, полупроводниците и изкуственият интелект. Следващият етап може да се окаже още по-неочакван. Все по-голямо значение ще придобият държавите, които успяват да създадат институции, на които собствените им граждани и външният свят вярват. Защото доверието не е просто вътрешнополитически капитал. То постепенно ще се превръща и в геополитически ресурс.
Възможно е именно тук да се роди новото неравенство между обществата. Не само между богати и бедни, не само между технологично развити и изоставащи, а между общества с високо доверие и общества, в които подозрението постепенно се превръща в основен принцип на общественото съществуване. В първите институциите ще могат да работят с относително ниски разходи, инвестициите ще бъдат по-сигурни, а политическите конфликти – по-лесно управляеми. Във вторите огромна част от обществената енергия ще се изразходва за проверки, взаимни обвинения, конспирации и непрекъснати съмнения в легитимността на всяко решение.
Затова следващото голямо съревнование вероятно няма да бъде само за технологично превъзходство. То ще бъде за обществено доверие. И победителите няма непременно да бъдат онези, които произвеждат най-много информация. Предимство ще получат онези, които успеят да убедят света, че тяхната информация заслужава доверие.
Възможно ли е XXI век да бъде запомнен не като епохата на изкуствения интелект, а като епохата на кризата на доверието?
Историците обичат да дават имена на епохите. Говорим за Каменната ера, за Индустриалната революция, за епохата на Просвещението, за атомния век или за информационното общество. Всяко от тези определения насочва вниманието към технология, идея или откритие, което е променило посоката на развитието. Почти сигурно е, че след десетилетия и нашето време ще получи своето име. Най-вероятно то ще бъде свързано с изкуствения интелект, защото именно той вече променя начина, по който работим, учим, лекуваме се и вземаме решения.
Възможно е обаче бъдещите поколения да видят нашата епоха по различен начин. Възможно е за тях изкуственият интелект да не бъде най-важното събитие, а само технологията, която е отключила много по-дълбока промяна. Както парната машина не е просто техническо изобретение, а начало на индустриалната цивилизация, така и изкуственият интелект може да се окаже не крайната тема, а причината да навлезем в общество, в което доверието постепенно се превръща в най-дефицитния ресурс.
Подобна перспектива изглежда необичайна, защото сме свикнали да измерваме развитието с все по-мощни технологии. Възхищаваме се на скоростта на процесорите, на капацитета на мрежите, на възможностите на алгоритмите. Много по-рядко си задаваме въпроса какво се случва със самата обществена тъкан, когато тези технологии започнат да променят отношенията между хората. А историята показва, че именно отношенията, а не машините, определят съдбата на цивилизациите.
Всяко общество съществува благодарение на едно негласно съгласие. Хората приемат, че определени институции заслужават доверие, че законът има авторитет, че договорите трябва да се изпълняват, че думите носят някаква тежест и че фактите, макар и понякога спорни, все пак могат да бъдат установени. Никое общество не живее в пълно единодушие, но всяко общество се нуждае от минимално общо пространство, в което спорът е възможен именно защото участниците спорят върху една и съща реалност.
Големият риск пред XXI век е, че това общо пространство започва постепенно да се свива. Не защото хората стават по-малко образовани или по-малко разумни. Причината е далеч по-прозаична. Когато всяко доказателство може да бъде оспорено, когато всеки образ може да бъде пресъздаден, когато всеки глас може да бъде синтезиран и когато всяка информация може да бъде обявена за манипулация, обществото започва да губи общата отправна точка, върху която изгражда своите решения.
Това не означава, че истината изчезва. Истината не престава да съществува само защото около нея се появяват хиляди имитации. Променя се не истината, а обществената способност да бъде разпознавана без огромни усилия. Именно тук се заражда кризата на доверието. Тя не започва с една голяма лъжа, а с натрупването на безброй малки съмнения, които постепенно се превръщат в начин на мислене.
В подобна среда хората естествено започват да се затварят в тесни кръгове от личности, медии и общности, на които все още вярват. Всичко извън този кръг започва да изглежда подозрително. Така информационната криза постепенно се превръща в обществена, а след това и в политическа. Ако различните групи вече не само защитават различни интереси, а живеят в различни представи за самата реалност, възможността за общо решение започва да намалява. Компромисът става почти невъзможен, защото изчезва общата основа, върху която той може да бъде изграден.
Може би именно това ще бъде най-важната характеристика на нашето време. Не фактът, че сме създали най-мощните алгоритми в човешката история, а че заедно с тях сме навлезли в епоха, в която възстановяването на доверието ще се окаже много по-трудно от създаването на всяка следваща технология. Ако това предположение се окаже вярно, бъдещите учебници вероятно няма да определят първата половина на XXI век единствено като началото на ерата на изкуствения интелект. Те могат да я запомнят като времето, в което човечеството осъзнава, че най-голямата заплаха не е машината, а постепенното разпадане на онова невидимо доверие, без което нито една цивилизация не може да съществува.
Когато доверието се превърне в най-скъпия ресурс, светът ще започне да изглежда по съвсем различен начин
Ако тази прогноза е вярна, пред човечеството не стои просто поредната технологична революция. Пред него стои промяна в самата логика, по която ще се оценяват хората, институциите и държавите. През последните десетилетия почти всичко беше подчинено на идеята за ефективността. Търсехме по-бързи компютри, по-мощни алгоритми, по-големи масиви от данни, по-висока производителност. Всичко това безспорно ще продължи. Но все по-ясно ще се вижда, че тези предимства сами по себе си не са достатъчни, ако обществото не е убедено, че може да им вярва.
Не е случайно, че още днес най-големите технологични компании започват да влагат огромни средства не само в разработването на нови модели на изкуствен интелект, но и в системи за удостоверяване на самоличност, за проследяване произхода на съдържанието и за доказване на неговата автентичност. Това е знак, че дори създателите на новите технологии вече разбират риска, който самите те пораждат. Колкото по-съвършени стават инструментите за създаване на синтетична реалност, толкова по-необходима става способността тази реалност да бъде проверявана.
Вероятно именно тук ще възникне един от най-доходоносните пазари на следващите десетилетия. Не пазарът на информацията, а пазарът на удостоверената информация. Ще се появят нови професии, нови стандарти и нови институции, чиято основна задача няма да бъде да произвеждат съдържание, а да гарантират неговата достоверност. Днес подобна перспектива изглежда необичайна, защото все още живеем в епоха, в която количеството информация впечатлява повече от нейния произход. Това обаче може да се промени много по-бързо, отколкото предполагаме.
Подобна промяна неизбежно ще засегне и политиката. В продължение на векове легитимността се е изграждала чрез избори, конституции, традиции или сила. През XXI век към всичко това ще се добави още едно изискване – способността на държавата да бъде възприемана като надежден източник на информация. Това ще бъде особено трудно в условията на глобално информационно пространство, където националните граници вече не могат да ограничат нито истината, нито манипулацията. Държавите няма да защитават само територията, въздушното пространство или цифровата си инфраструктура. Все по-често те ще бъдат принудени да защитават и общественото доверие, защото именно то ще определя дали гражданите са готови да следват институциите в моменти на криза.
Сходен процес вероятно ще протече и в международните отношения. Днес говорим за военна мощ, икономически потенциал, технологично лидерство и демографски ресурси. Утре към този списък може да се добави още един показател – степента, в която една държава успява да бъде възприемана като достоверен партньор. Това няма да премахне конфликтите, нито ще сложи край на геополитическото съперничество. Но ще промени начина, по който се изграждат съюзи, подписват се договори и се създават международни коалиции. В свят, пренаситен от информация, репутацията може да се окаже не по-малко важна от военния бюджет.
Всичко това показва, че доверието никога не е било просто нравствена добродетел. То представлява особен вид обществен капитал, който се натрупва трудно, изразходва се бързо и се възстановява изключително бавно. Нито една технология досега не е успяла да замени този капитал. Напротив – всяка нова технологична революция само е увеличавала неговото значение. Изкуственият интелект вероятно няма да бъде изключение. Колкото по-лесно ще бъде да се създава убедителна измама, толкова по-висока ще бъде цената на доказаната почтеност.
Възможно е именно тук да се крие голямата ирония на XXI век. Човечеството ще разполага с машини, способни да обработват невъобразими количества информация, а най-трудната задача няма да бъде създаването на знание, а възстановяването на доверието между хората. След векове, в които техническият прогрес непрекъснато разширяваше възможностите на цивилизацията, може би за първи път най-голямото предизвикателство няма да бъде инженерно, а обществено.
И тогава вероятно ще осъзнаем, че дълги години сме задавали грешния въпрос. Питахме кой ще контролира данните, кой ще създаде най-мощния изкуствен интелект и кой ще доминира следващата технологична революция. Истинският въпрос обаче може да се окаже далеч по-прост и далеч по-труден: кой ще успее да съхрани доверието.
Защото петролът даде енергия на индустриалната епоха. Данните ускориха цифровата революция. Но обществото, което губи способността си да вярва, трудно може да използва пълноценно и едното, и другото. Именно затова най-ценният ресурс на XXI век няма да бъде онова, което съхраняваме в огромните центрове за данни. Най-голямото богатство ще остане онова невидимо пространство между хората, в което думите все още имат стойност, обещанията – значение, а истината – шанс да бъде разпозната.
И ако това се случи, след време може да се окаже, че определението „епохата на изкуствения интелект“ описва само технологията. Истинското име на нашето време ще бъде друго. То ще бъде епохата, в която човечеството разбра, че най-скъпият ресурс никога не е бил информацията. Най-скъпият ресурс винаги е било доверието.
източник:поглед.иинфо
