Інтернет, ШІ та майбутнє: про що Марк Цукерберг говорив з Ювалем Ноєм Харарі

Марк Цукерберг анонсував публічні обговорення майбутнього інтернету зі знаковими особистостями. Перше інтерв'ю він провів з істориком Ювалем Ноєм Харарі, автором бестселерів «Людина розумна. Історія людства від минулого до майбутнього», «21 урок для 21-го століття» і «Homo Deus. Людина божественна: За лаштунками майбутнього». Mind вибрав головне з цієї півторагодинної дискусії.

Ювал Ной Харарі: Якщо ви подивитеся на тривалий період історії, то очевидно, що людство стає дедалі об'єднанішим. Якщо тисячі років тому планета Земля була насправді галактикою безлічі ізольованих світів, майже не пов'язаних між собою, то з часом люди поступово збиралися разом і об'єднувалися включно до сьогоднішнього дня, коли весь світ вперше став єдиною історичною, економічною і культурною одиницею. Але зв'язок – не обов'язково гармонія.

Марк Цукерберг: Коли я зростав, мені здавалося, що одна з важливих речей, які дає нам інтернет, – можливість спілкуватися з групами людей, яких об'єднують одні цінності та інтереси, але так було не завжди. Без інтернету ми були прив'язані до свого фізичного розташування... З приходом інтернету це починає змінюватися, і тепер у нас є можливість не просто не прив'язуватися до свого фізичного розташування, а й знаходити онлайн людей зі схожими нішевими інтересами, різного роду субкультури і спільноти.

Ювал Ной Харарі: Завдяки інтернету можна подорожувати по всьому світу розумом, але не тілом. Офлайн-подорожі порушують питання про вартість і вигоди. Інтернет же дає можливість уникати речей, які вам не подобаються, чого не можна зробити в реальних офлайн-спільнотах... Ви можете видалити своїх друзів з Facebook, чого не можете зробити з сусідами. Вони все ще фізично залишаються ними. Можна взяти і переїхати в іншу країну, якщо у вас є кошти, але більшість людей просто не можуть собі цього дозволити. Традиційні спільноти вчать нас жити із людьми, які нам з якихось причин не подобаються, і тому ми змушені розробляти соціальні механізми, як це зробити; а онлайн-спільноти хоч і дають безліч інших переваг, але не здатні дати нам цей цінний і важливий досвід – знаходити спільну мову з людьми в реальному світі.

Вже зараз відбувається так, що ШІ досить просунутий і надає вам стільки даних, скільки раніше могла б надати лише певна кількість людей; ШІ знає краще за мене, яке рішення мені підійде, може передбачити мій вибір і маніпулювати моїм вибором. Я бачу, як авторитет все більше зміщується від людей до алгоритмів, і це стосується не лише рішення, який фільм дивитися, але навіть рішень, до якої спільноти приєднатися, з ким товаришувати, з ким одружуватися: все більше людей покладатимуться на рекомендації ШІ.

Марк Цукерберг: У майбутньому всі компанії, що займаються ШІ, опиняться в тій чи іншій невеликій країні. Не думаю, що це неправдоподібний сценарій, але настане час, коли десь знайдеться підприємець, який зможе використовувати Amazon Web Services для розкрутки примірників для Compute, найматиме людей по всьому світу в умовах глобалізації економіки та зможе використовувати дослідження, які були зроблені в США або Європі, у різних відкритих академічних установах або компаніях, які все частіше публікують свої роботи, розкриваючи нюанси і поточний стан речей у цій сфері.

Я як людина, що керує цією компанією, повністю прихильний до того, аби ми відіграли свою роль у збереженні інтернету як єдиної платформи. Одним з найважливіших рішень, які я ухвалюю, є те, де ми збираємося будувати свої центри обробки даних і зберігати дані. І ми вирішили, що не розміщуватимемо центри обробки даних у тих країнах, які, на нашу думку, є слабкими правовими державами, в яких доступ до даних людей може бути отриманий неправомірно, і це може нашкодити людям...

Я дбаю про те, аби дати людям право голосу, тому я не хочу, щоб люди зазнавали цензури. На якомусь рівні ці питання, що стосуються даних і того, як вони використовуються і чи отримують авторитарні уряди доступ до них, я думаю, дуже значущі. Бо якщо ви не можете сказати те, що хочете, це – проблема. Це порушує ваші права. У багатьох випадках це зупиняє прогрес. Якщо уряд може отримати доступ до ваших даних, то він може визначити, хто ви, і ув'язнити вас, завдати шкоди вам чи вашій родині.

Ювал Ной Харарі: Якщо згадати Радянський Союз, то у нас є модель обробки інформації, яка в основному говорить: ми беремо всю інформацію з усієї країни і переміщаємо її в одне місце – в Москву. Там це обробляється. Рішення ухвалюються в одному місці та передаються назад у вигляді команд. Це була радянська модель обробки інформації. І порівняйте її з американською версією, у якій немає єдиного центру: тут багато організацій, людей і компаній, і вони можуть ухвалювати  власні рішення. В Америці я вирішую для себе: просто отримую сигнали з ринку і приймаю потрібне рішення.

Радянська модель не спрацювала через складність швидкої обробки великої кількості інформації з використанням технологій 1950-х років. І це одна з головних причин, чому Радянський Союз програв Сполученим Штатам холодну війну. А нова технологія, і це одне з моїх побоювань, раптово робить центральну обробку інформації набагато ефективнішою, ніж будь-коли раніше, і набагато ефективнішою, ніж розподілена обробка даних. Бо чим більше даних у вас в одному місці, тим кращі ваші алгоритми, і т. д. І цей вид порушує баланс між тоталітаризмом і демократією на користь тоталітаризму.

Марк Цукерберг: Люди стали розумнішими. Вони все більше обговорюють ці питання і, піклуючись про них, піклуються про свою конфіденційність, проблеми, пов'язані з особистими даними, технологічною індустрією в цілому. Люди стають досвідченішими. Вони розуміють, що зберігання великої кількості ваших даних може бути активом, оскільки надає багато переваг і послуг, але все частіше це ще й відповідальність, бо є хакери, які можуть зламати і використовувати ці дані проти вас, розсекретити їх. Тому, можливо, люди не хочуть, щоб їхні дані зберігалися вічно. Можливо, вони хочуть, щоб був якийсь термін. Можливо, щоб все це було зашифровано в їх особистих повідомленнях. Люди дійсно піклуються про це більше, ніж раніше. Особливо в останні кілька років.

Ми всі були свідками того, що намагався зробити російський уряд на виборах 2016 року. Нас явно образили. Нам необхідно створити дійсно просунуті системи для виявлення такого роду перешкод у демократичному процесі, виявляти людей з підробленими обліковими записами, які поводяться не так, як звичайні люди, відсівати їх і блокувати. Працювати з правоохоронними та виборчими комісіями по всьому світу, спільнотою розвідки, щоб мати можливість координувати цей процес і ефективно справлятися з усіма зловживаннями. Але я б поставив глибше питання: чи правильно спроектовано систему, чи правильно розроблений цей алгоритм?

Ми вдосконалюємо алгоритми системи, не лише виходячи з того, що дивиться людина, скільки часу вона переглядає той чи інший контент, на які рекламні оголошення звертає увагу – що добре для бізнесу і допомагає покращувати роботу подібних інших оголошень.

Це не просто пасивно споживаний контент. Це те, що людина очікує побачити в стрічці: всі її дії дають сигнал системі, і вона перебудовується під її інтереси.

Безумовно, зловживання системами існує, але я вважаю, це більше питання політики і цінностей... Знаєте, у Facebook ви повинні бути справжньою особистістю, собою. Наприклад, є умовні російські агенти або люди з уряду, які вдають із себе когось іншого і щось говорять, і ви бачите їхній контент, але думаєте, що він йде від когось іншого, тоді це не алгоритм видачі. Я маю на увазі, що хтось просто зловживає системою і користується тим фактом, що ви довіряєте тому, що на цій платформі хтось, як правило, буде тим, хто він є.Тому ви можете вірити, що інформація виходить з певного місця і немов прослизає через чорний хід. І це те, з чим нам потрібно боротися.

Ювал Ной Харарі: Тисячі років люди були схильні розглядати життя як драму прийняття рішень. Мовляв, життя – це подорож, ви перетинаєте перехрестя – і вам потрібно вибирати, куди податися. Деякі рішення не такі вже важливі – наприклад, що з'їсти на сніданок, а деякі дійсно значні – наприклад, с ким одружуватися. І майже все мистецтво і вся релігія про це.

Герой або героїня – чи то трагедія Шекспіра, чи голлівудська комедія – мають прийняти важливе рішення: «Бути чи не бути», одружитися з К. або одружитися з Н. Що означає жити у світі, в якому ми всі більше покладаємося на рекомендації алгоритмів для прийняття цих рішень, поки не досягнемо точки, коли ми просто дотримуватимемося їх весь час або більшу частину часу? І вони дають хороші рекомендації. Я не кажу, що це щось образливе, щось зловісне – ні! Це хороші рекомендації, але... у нас немає моделі для розуміння, який сенс людського життя в такій ситуації.