»нтернет, »» и будущее: о чем ћарк ÷укерберг говорил с ёвалем ’арари

»нтернет, »» и будущее: о чем ћарк ÷укерберг говорил с ёвалем ’арари

ќсновные тезисы дискуссии

÷ей матер≥ал також доступний украњнською
»нтернет, »» и будущее: о чем ћарк ÷укерберг говорил с ёвалем ’арари

ћарк ÷укерберг анонсировал публичные обсуждени€ будущего интернета со знаковыми личност€ми. ѕервое интервью он провел с автором бестселлеров «Sapiens:  ратка€ истори€ человечества», «21 урок 21 века» и «Homo Deus» ёвалем Ќоем ’арари. Mind выбрал главное из полуторачасовой дискуссии основател€ Facebook и историка ёвал€ Ќо€ ’арари.

ёваль Ќой ’арари: ≈сли вы посмотрите на длительный период истории, то очевидно, что человечество становитс€ все более и более объединенным. ≈сли тыс€чи лет назад планета «емл€ была на самом деле галактикой множества изолированных миров, почти не св€занных между собой, то со временем люди постепенно собирались вместе и объедин€лись включительно до сегодн€шнего дн€, когда весь мир впервые стал единой исторической, экономической и культурной единицей. Ќо св€зь – не об€зательно гармони€.

ћарк ÷укерберг:  огда € рос, мне казалось, что одна из важных вещей, которые дает нам интернет, – возможность общатьс€ с группами людей, которых объедин€ют одни ценности и интересы, но так было не всегда. ƒо интернета мы были прив€заны к своему физическому местоположению… — приходом интернета это начинает мен€тьс€, и теперь у нас есть возможность не просто не прив€зыватьс€ к своему физическому местоположению, но и находить онлайн людей со схожими нишевыми интересами, различного рода субкультуры и сообщества.

ёваль Ќой ’арари: Ѕлагодар€ интернету можно путешествовать по всему миру умом, но не телом. ќфлайн-путешестви€ поднимают вопросы о стоимости и выгодах. »нтернет же дает возможность избегать вещей, которые вам не нрав€тс€, чего нельз€ сделать в реальных офлайн-сообществах…¬ы можете удалить своих друзей из Facebook, чего не можете сделать с сосед€ми. ќни все еще физически остаютс€ ими. ћожно вз€ть и переехать в другую страну, если у вас есть средства, но большинство людей просто не могут себе этого позволить. “радиционные сообщества учат нас ладить с людьми, которые нам по каким-то причинам не нрав€тс€, и поэтому мы вынуждены разрабатывать социальные механизмы, как это сделать; а онлайн-сообщества хоть и дают массу других преимуществ, но не способны дать нам этот ценный и важный опыт – находить общий €зык с людьми в реальном мире.

This week I talked with Yuval Noah Harari as part of my series of discussions on the future of technology and society. He's a historian and author of Sapiens, Homo Deus, and 21 Lessons For the 21st Century. Many historians focus on the past but Yuval has a unique perspective on how technology will shape the future, and that's what we spent most of our time on. We discussed things like whether the internet is connecting or fragmenting society, the different ways artificial intelligence could be developed, how algorithms will continue to impact people's lives, and why it is so important that we don't store sensitive data in countries with weak rule of law or where governments can forcibly get access to that data. Thanks Yuval for such a memorable conversation. I've included a transcript of a few of my thoughts below, lightly edited for clarity: Minute 39:27: When I look towards the future, one of the things that I just get very worried about is the values that I just laid out [for the internet and data] are not values that all countries share. And when you get into some of the more authoritarian countries and their data policies, they're very different from the kind of regulatory frameworks that across Europe and across a lot of other places, people are talking about or put into place. Recently I've come out and I've been very vocal that I think that more countries should adopt a privacy framework like GDPR in Europe. And a lot of people I think have been confused about this. They're like, УWhy are you arguing for more privacy regulation? Why now given that in the past you weren't as positive on it?Ф And I think part of the reason why I am so focused on this now is at this point people around the world recognize these questions around data and AI and technology are important, so there's going to be a [regulatory] framework in every country. I actually think the bigger question is what is it going to be? And the most likely alternative to each country adopting something that encodes the freedoms and rights of something like GDPR, in my mind, is the authoritarian model, which is currently being spread, which says every company needs to store everyone's data locally in data centers and then, if I'm a government, I can send my military there and get access to whatever data I want and take that for surveillance or military. I just think that that's a really bad future. And that's not the direction, as someone who's building one of these internet services, or just as a citizen of the world, I want to see the world going. --- In response to Yuval playing devil's advocate and asking about non-authoritarian governments adopting data localization policies... Minute 45:53: I think someone with good intent might argue, "Hey, maybe a different set of data policies is something that we should consider." The thing that I worry about, and what we've seen, is that once a country puts that in place, itТs a precedent that a lot of other countries that might be more authoritarian use to basically argue that they should do the same things and then that spreads. And I think that's bad. And that's one of the things that as the person running this company, I'm quite committed to making sure that we play our part in pushing back on that and keeping the internet as one platform. One of the most important decisions that I think I get to make as the person running this company, is where weТre going to build our data centers and store data. And we've made the decision that we're not going to put data centers in countries that we think have weak rule of law, where people's data may be improperly accessed which could put people in harm's way. There have been a lot of questions around the world around censorship and I think that those are really serious and important. A lot of the reason why we build what we build is because I care about giving everyone a voice, giving people as much voice as possible, so I don't want people to be censored. At some level, these questions around data and how it's used and whether authoritarian governments get access to it I think are even more sensitive because, if you can't say something that you want, that is highly problematic, that violates your human rights. I think in a lot of cases it stops progress. But if a government can get access to your data, then it can identify who you are and go lock you up and hurt you and your family and cause real physical harm in ways that are just really deep. So I do think that people running these companies have an obligation to try to push back on that and fight establishing precedents which will be harmful. Even if a lot of the initial countries that are talking about some of this have good intent, I think that this can easily go off the rails. And when you talk about in the future AI and data, which are two concepts that are just really tied together, I think the values where they come from and whether theyТre part of a more global system, a more democratic process, a more open process – that's one of our best hopes for having this work out well. If it comes from repressive or authoritarian countries, then I just think that that's going to be highly problematic in a lot of ways.

Posted by Mark Zuckerberg on Friday, 26 April 2019

ёваль Ќой ’арари: ”же сейчас происходит так, что »» достаточно продвинут и предоставл€ет вам столько данных, сколько раньше могло бы предоставить только определенное количество людей; »» знает лучше мен€, какое решение мне подойдет, может предсказать мой выбор и манипулировать моим выбором. я вижу, как авторитет все больше смещаетс€ от людей к алгоритмам, и это касаетс€ не только решений в том, какой фильм смотреть, но даже решений, к какому сообществу присоединитьс€, с кем подружитьс€, на ком женитьс€: все больше людей будут полагатьс€ на рекомендации »».

ћарк ÷укерберг: ¬ будущем все компании, занимающиес€ »», окажутс€ в той или иной небольшой стране. Ќе думаю, что это неправдоподобный сценарий, но настанет врем€, когда где-то найдетс€ предприниматель, который сможет использовать Amazon Web Services дл€ раскрутки экземпл€ров дл€ Compute, будет нанимать людей по всему миру в услови€х глобализации экономики и сможет использовать исследовани€, которые были сделаны в —Ўј или ≈вропе, в различных открытых академических учреждени€х или компани€х, которые все чаще публикуют свои работы, раскрыва€ нюансы и текущее положение вещей в этой сфере.

ћарк ÷укерберг: я как человек, управл€ющий этой компанией, полностью привержен тому, чтобы мы сыграли свою роль в сохранении интернета как единой платформы. ќдним из наиболее важных решений, которые € принимаю, €вл€етс€ то, где мы собираемс€ строить свои центры обработки данных и хранить данные. » мы прин€ли решение, что не будем размещать центры обработки данных в тех странах, которые, по нашему мнению, €вл€ютс€ слабыми правовыми государствами, в которых доступ к данным людей может быть получен неправомерно, и это может навредить люд€м…

я забочусь о том, чтобы дать каждому голос, дать люд€м право голоса, поэтому € не хочу, чтобы люди подвергались цензуре. Ќа каком-то уровне эти вопросы, касающиес€ данных и того, как они используютс€ и  получают ли авторитарные правительства доступ к ним, € думаю, очень значимы. ѕотому что, если вы не можете сказать то, что хотите, это – проблема. Ёто нарушает ваши права. ¬о многих случа€х это останавливает прогресс. ≈сли правительство может получить доступ к вашим данным, то оно может определить, кто вы, и посадить вас в тюрьму, нанести вам вред, нанести вред вашей семье.

ёваль Ќой ’арари: ≈сли вспомнить —оветский —оюз, то у нас есть модель обработки информации, котора€ в основном гласит: мы берем всю информацию со всей страны и перемещаем ее в одно место – в ћоскву. “ам это обрабатываетс€. –ешени€ принимаютс€ в одном месте и передаютс€ обратно в виде команд. Ёто была советска€ модель обработки информации. » сравнить это с американской версией, у которой нет единого центра: здесь много организаций, много людей и компаний, и они могут принимать собственные решени€. ¬ јмерике € решаю дл€ себ€: € просто получаю сигналы с рынка и принимаю нужное решение.

—оветска€ модель не сработала из-за сложности быстрой обработки большого количества информации с использованием технологий 1950-х годов. » это одна из главных причин, почему —оветский —оюз проиграл —оединенным Ўтатам холодную войну. ј нова€ технологи€, и это одно из моих опасений, внезапно делает центральную обработку информации намного более эффективной, чем когда-либо прежде, и намного более эффективной, чем распределенна€ обработка данных. ѕотому что чем больше данных у вас в одном месте, тем лучше ваши алгоритмы, и так далее. » этот вид нарушает баланс между тоталитаризмом и демократией в пользу тоталитаризма.

ћарк ÷укерберг: Ћюди стали умнее. ќни все больше обсуждают эти вопросы и, забот€сь о них, забот€тс€ о своей конфиденциальности, проблемах, св€занных с личными данными, технологической индустрией в целом. Ћюди станов€тс€ более искушенными. ќни понимают, что хранение большого количества ваших данных может быть как активом, так как предоставл€ет много преимуществ и услуг, но все чаще это еще и ответственность, потому что есть хакеры, которые могут взломать и использовать эти данные против вас, рассекретить их. ѕоэтому, возможно, люди не хот€т, чтобы их данные хранились вечно. ¬озможно, они хот€т, чтобы был какой-то срок. ¬озможно, чтобы все это было зашифровано в их личных сообщени€х. Ћюди действительно забот€тс€ об этом больше, чем раньше. ќсобенно в последние несколько лет.

ћарк ÷укерберг: ћы все были свидетел€ми того, что пыталось сделать российское правительство на выборах 2016 года. Ёто €вное оскорбление. Ќам необходимо создать действительно продвинутые системы дл€ обнаружени€ такого рода помех в демократическом процессе, вы€вл€ть людей с поддельными учетными запис€ми, которые ведут себ€ не так, как обычные люди, отсеивать их и блокировать, работать с правоохранительными и избирательными комисси€ми по всему миру, сообществом разведки, чтобы иметь возможность координировать этот процесс и эффективно справл€тьс€ со всеми злоупотреблени€ми. Ќо € бы задал более глубокий вопрос: верно ли это внутреннее проектирование системы, правильно ли разработан этот алгоритм?

ћарк ÷укерберг: ћы совершенствуем алгоритмы системы, не только исход€ из того, что смотрит человек, сколько времени он просматривает тот или иной контент, на какие рекламные объ€влени€ обращает внимание – что хорошо дл€ бизнеса и помогает улучшать работу подобных других объ€влений.

ћы действительно пытаемс€ обнаружить, что люди на самом деле хот€т видеть у себ€ в ленте и с какими людьми им интереснее всего быть на св€зи, что или кого они считают наиболее ценным в своей жизни.

Ёто не просто пассивно потребл€емый контент. Ёто то, что человек ожидает увидеть в ленте: все его действи€ дают сигнал системе, и она перестраиваетс€ под его интересы.

Ѕезусловно, злоупотребление системами существует, но € думаю, это больше вопрос политики и ценностей... «наете, в Facebook вы должны быть насто€щей личностью, собой. Ќапример, есть условные российские агенты или люди из правительства, которые изображают из себ€ кого-то другого и что-то говор€т, и вы видите их контент, но вы думаете, что он исходит от кого-то другого, тогда это не алгоритм выдачи. я имею в виду, что кто-то просто злоупотребл€ет системой и пользуетс€ тем фактом, что вы довер€ете тому, что на этой платформе кто-то, как правило, будет тем, кто он есть, поэтому вы можете верить, что информаци€ исходит из какого-то места и как бы проскальзывает через черный ход, и это то, с чем нам нужно боротьс€.

ёваль Ќой ’арари: “ыс€чи лет люди были склонны рассматривать жизнь как драму прин€ти€ решений. ћол, жизнь – это путешествие, вы пересекаете перекресток – и вам нужно выбирать, куда направитьс€. Ќекоторые решени€ не такие уж важные – например, что съесть на завтрак, а некоторые действительно значительные –  например, на ком женитьс€. » почти все искусство и вс€ религи€ об этом. √ерой или героин€ – будь то трагеди€ Ўекспира или голливудска€ комеди€ – должны прин€ть важное решение: «Ѕыть или не быть», женитьс€ на  . или женитьс€ на Ќ. „то означает жить в мире, в котором мы все больше полагаемс€ на рекомендации алгоритмов дл€ прин€ти€ этих решений, пока не достигнем точки, когда мы просто будем следовать им все врем€ или большую часть времени? » они дают хорошие рекомендации. я не говорю, что это что-то оскорбительное, что-то зловещее, – нет! Ёто хорошие рекомендации, но …у нас нет модели дл€ понимани€, каков смысл человеческой жизни в такой ситуации.

ѕроект использует файлы cookie сервисов Mind. Ёто необходимо дл€ его нормальной работы и анализа трафика.ѕодробнее’орошо, пон€тно