«Людство домінує на планеті завдяки історіям, але незабаром втратить лідерство». Про що ще попереджає Юваль Ной Харарі
Основні тези мислителя про еволюційні переваги Homo sapiens і те, як довго ще вдасться конкурувати із ШІ
На відміну від вигаданого Homo economicus, цієї надмірно раціональної моделі, що використовується для пояснення наших фінансових рішень, на рішення Homo sapiens завжди впливають соціальні установки та емоційні пориви, спричинені почутими історіями.
Юваль Ной Харарі протягом своєї кар’єри писав про людську еволюцію з позицій філософії та історії. Його книжка «Людина розумна. Коротка історія людства», що вийшла друком 2014 року, стала світовим бестселером і перекладена на 40 мов світу. Його остання книжка «Зв’язок. Коротка історія інформаційних мереж, від Кам’яної доби до ШІ» розглядає еволюцію людських комунікаційних мереж і те, як штучний інтелект здатний перемогти нас на нашому полі. Юваль Ной Харарі, лектор у Єврейському інституті в Єрусалимі та дослідник у Кембриджі, поспілкувався з Брюсом Едвардсом, редактором видання Міжнародного валютного фонду F&D. Mind пропонує адаптований переклад інтерв’ю.
– Одним із ключових принципів, на яких ви будуєте історію людини розумної, є наша унікальна можливість уявляти майбутнє. Як наше вміння розповідати історії дозволило нам превалювати над іншими видами, що еволюціонували поряд із нами?
– Наша сила у співпраці. Наприклад, шимпанзе здатні співпрацювати лише в дуже малих групах, проте людина розумна – у необмежених кількостях. Зараз на планеті 8 млрд людей, які – попри численні розбіжності та конфлікти – насправді є частинами тих самих торговельних ланцюгів. Їжа, яку ми споживаємо, одяг, який ми носимо, енергія, яку ми використовуємо, нерідко потрапляють до нас з іншої частини планети, від людей, яких ми не знаємо. Ці надзвичайно великі мережі співпраці і є нашою суперсилою та засновані на довірі. Тож як побудувати довіру між незнайомцями? Відповідь: «Історії».
Ми вибудовуємо довіру, вигадуючи історії, у які вірить багато різних людей. Це нескладно пояснити на прикладі релігій, у яких мільйони людей беруть участь у благодійних заходах на кшталт будівництва шпиталів, або ведуть священні війни, у яких мільйони незнайомців поєднані міфологією. Але це так само важить у випадках економіки та фінансової системи, оскільки найуспішніша історія з усіх розказаних – це історія про гроші. І це – єдина історія, у яку вірять абсолютно всі.
– Раніше ви описували гроші як щось, що не більше за культурний артефакт.
– Так. Гроші є історією, вигадкою – вони не мають об’єктивної цінності. Ви не можете з’їсти або випити банкноти чи монети. Натомість ви можете віддати ці нічого не варті папірці незнайомцю, який в обмін дасть вам хліб. Усе це ґрунтується на загальній вірі в однакові історії про гроші, а коли люди припиняють в це вірити, все рушиться.
Людство бачило численні приклади цього протягом нашої історії, і навіть зараз ми бачимо це на прикладі сходу нових валют. Що таке біткоїн, ефір та всі інші криптовалюти? Це історії. Їхня вартість залежить від того, які історії про них розповідають люди й у які історії вірять. І зростання та падіння рівня довіри до цих історій відбивається на зростанні та падінні вартості біткоїна.
– У своїй останній книжці «Зв’язок» ви кажете, що ми переходимо від економіки грошей до економіки, заснованої на обміні інформацією замість грошей. Якою, на ваш погляд, має бути «інформаційна економіка»?
– Щоб пояснити на прикладах, зауважу, що однією з найважливіших корпорацій мого життя є Google. Я використовую її продукти щоденно та протягом усього дня.
Однак це аж ніяк не відображається на стані мого банківського рахунку, адже гроші не змінюють власника. Я не плачу Google жодної копійки, і Google не дає мені грошей. Я отримую інформацію від Google.
– А Google одержує інформацію від вас.
– Саме так. Google отримує про мене багато інформації про вподобання, антипатії, судження – багато чого – а згодом використовує цю інформацію.
Дедалі більше трансакцій по світу відбуваються в цьому форматі обміну інформації на інформацію, і менше її обмінюється на гроші. І влада, статки, саме розуміння статків змінюється з наявності великих коштів до володіння петабайтами інформації. Як так сталося, що найзаможніші корпорації та особистості стали такими, тому що мають величезні сховища даних, які вони навіть не мають наміру монетизувати, обмінювати на гроші, оскільки можуть отримати що завгодно в обмін на інформацію? Нащо нам у цій ситуації гроші? Якщо можна придбати послуги й товари в обмін на інформацію, гроші не потрібні.
– Тож «Зв’язок» ґрунтується на ідеї, що наші владні структури та системи вірувань змінилися під впливом еволюції людства та потрапили в контекст технологій сьогодення. Що книжка каже нам про небезпеки, які чатують на нас у цих надзвичайно складних інформаційних мережах?
– Перша – майже філософська, полягає в тому, що ця інформація не є правдивою. Більшість усієї інформації – вигадка, фантазія та ілюзія. Правда коштовна; доведеться провести дослідження, зібрати докази, вкласти час, зусилля та кошти в пошук правди. Також правда доволі болюча, тому правдивою є лише мала частка інформації.
Інша потенційна проблема полягає в тому, що ми перебуваємо у процесі вивільнення найпотужнішої технології, яку лише винаходило людство – штучного інтелекту. ШІ ґрунтовно відрізняється від друкарського пресу, ядерних бомб – геть усього, що ми раніше винаходили. Це – перша в історії людства технологія, здатна самостійно ухвалювати рішення та генерувати нові ідеї. Ядерна бомба не могла вирішувати, на кого падати; ШІ здатен. ШІ здатен сам ухвалювати фінансові рішення й навіть створювати власні фінансові інструменти. І штучний інтелект, про який ми знаємо зараз, є лише першою примітивною сходинкою ШІ-революції. Та й навіть такого ми раніше не бачили.
І важливо, зокрема, для МВФ, що доволі невелика частка країн очолюють ШІ-революцію. Більшість пасе задніх. І, якщо не будемо обережні, отримаємо повторення Промислової революції, тільки на стероїдах. У XIX сторіччі кілька країн – Британія, а згодом США, Японія та Росія – першими стали індустріалізованими країнами. Більшість інших країн навіть не зрозуміли, що відбувається. Що це за історія з паровими двигунами та телеграфом?
Тож протягом кількох десятиліть весь світ був або напряму підкорений, або підконтрольний цим кільком країнам. І навіть зараз є багато країн, що лише починають відходити від шкоди, завданої їм цим індустріальним вторгненням.
Тепер ми маємо ось це «цунамі» ШІ. Пригадайте, що парові двигуни та телеграф зробили з рівністю у світі, а потім помножте на 10, на 100, на 1000. І лише потому ви почнете усвідомлювати наслідки монополізації кількома країнами надзвичайної сили штучного інтелекту та експлуатації й домінування над усіма іншими в масштабах, донині небачених.
– Тож неперевірений ШІ є небезпечним, кажете ви у книжці «Зв’язок». Але й люди, як ви наголошуєте у «Короткій історії…» безкарно завдали шкоди планеті, «як боги, що не знають, чого хочуть». Чи може економіка запропонувати щось, що пом’якшить шкоду, якої можуть завдати ці дві деструктивні сили, коли об’єднаються?
– Економіка – це завжди про розстановку пріоритетів. Ви маєте обмежені ресурси та настільки багато потреб і бажань, що постають питання істини та питання бажання. Якими є факти й чого б ми хотіли?
Коли доходить до питання бажання, найкращою системою, що ми вигадали, є демократія, за якої ви питаєте людей, чого б їм хотілось. І бажання людини з науковим ступенем доктора філософії чи нобелівського лауреата важать не більше за бажання людини, яка не закінчила середню школу. Мета демократичної системи – надати всім рівну вагу голосу.
Потім постає питання істини: якими є факти? Для розв'язання цього питання демократія буде не кращим рішенням. Як ви хочете дізнатися, наприклад, чи насправді планета нагрівається, і чи є це наслідком людської діяльності або результатом якогось природного циклу, впливу сонця чи чогось ще, тут вам не допоможе демократичне волевиявлення. Тож це питання істини, а не бажання.
Єдине, що ми безумовно дізналися про людство за тисячоліття, це те, що в людей час від часу виникає бажання, щоб істина була іншою – з персональних, релігійних чи ідеологічних міркувань. Якщо ви бажаєте дізнатися факти, доведеться вибудувати цілі інститути експертів, які знають, як аналізувати свідоцтва, проте не нав’язують нам бажань і не кажуть, що нам робити.
Експерти кажуть вам: так, кліматичні зміни цілком реальні, причини їхні такі – і лише після цього м’яч потрапляє на демократичну половину поля.
– Проте демократичні рішення люди ухвалюють, керуючись історіями, які почули. Що трапиться, коли ці історії перестануть розповідати люди?
– Буде землетрус. Людські спільноти побудовані на довірі; довіра будується на інформації, на комунікації, і ґрунтовна зміна в технології комунікації дестабілізує довіру між людьми. Як наслідок, станеться соціальний і політичний землетрус. У міру розвитку ШІ ми вперше бачимо, як історії, що підтримують людські спільноти, створює нелюдський розум.
Це можуть бути релігійні або фінансові історії: всі попередні фінансові інструменти в історії були створені людською уявою. Але зараз ми бачитимемо інструменти, створені ШІ. Небезпека полягає в тому, що він може створити фінансовий інструмент, який людська істота не в змозі буде не лише осягнути, а й регулювати.
ШІ може бути неймовірно корисним для нас, проте його екзистенційна небезпека – у можливості виходу з-під контролю. Я розглядаю ШІ як акронім – але не штучного, а шкідливого інтелекту. Не того шкідливого, що навмисно оцінює та досліджує нас, а того, якого навмисно створили в лабораторіях. Це – незнайомець, який здатен ухвалювати рішення та винаходити ідеї у фундаментально інший за людей спосіб. Це незнайомий для нас тип розуму. І дуже небезпечно випускати у світ мільярди незнайомців, не маючи засобів їхнього контролю та без впевненості, що вони використають свою надзвичайну силу нам на пожиток.