Повна версія

Колишній керівник з питань безпеки Facebook Алекс Стамос дав розгорнуте інтерв'ю для проекту Блискучі уми Стенфорда і Кремнієвої долини.

Розмову з ним провела Наталія Микольська, дослідник програми Ukrainian Emerging Leaders Стенфордського університету, екс-торговий представник — заступник міністра економрозвитку і ініціатор спільного проекту НВ, Центру демократії, розвитку та верховенства права Стенфордського університету та програми Ukrainian Emerging Leaders.

Стамос розповів про нагальні загрози свободі слова в Інтернеті; маніпуляції, дезінформацію та втручання у вибори за допомогою впливу через соцмережі, а також про безпеку дітей в онлайні.

Алекс Стамос — експерт з питань кібербезпеки, підприємець, ад’юнкт-професор Стенфордського університету, екс-керівник з питань безпеки Facebook.

Також він є ад’юнкт-професором Інституту міжнародних досліджень Фрімена Сполі у Стенфордському університеті і запрошеним дослідником Інституту Гувера.

У Facebook серед іншого Стамос очолював розслідування щодо втручання та маніпуляцій на виборах у США 2016 року.

Він був задіяний як консультант у Стенфордській програмі з політики кібербезпеки, а також у Центрі з кібербезпеки в Університеті Берклі (Каліфорнія).

Наталія Микольська: — Вітаємо у серії розмов Блискучі уми Стенфорду та Кремнієвої долини від CDDRL та НВ. Ми дуже раді, що ви з нами, щоби поспілкуватися про кібербезпеку, безпечність Інтернету та останні тренди у сфері безпеки в Мережі.

Алекс Стамос: — Дякую! Спасибі за запрошення!

— Для початку, яким ви бачите нинішнє становище кібербезпеки у світі?

— Що ж, коли я навчався в університеті, серед інших порад я отримав таку — галузь безпеки може бути чудовим кар'єрним шляхом, тому що це єдина складова сфери технологій, яка з кожним роком погіршується, і це незмінно. На жаль, ось що з’ясувалось — загальне становище кібербезпеки і уразливість до атак суспільств обернено пропорційна до того, наскільки технології є частиною людського життя і наскільки вони є складними. Найближчим часом ці тренди продовжуватимуться: все більше людей долучатимуться до Інтернету, все більше їхнього часу буде витрачатися на технології. І ці технології стає все складніше і складніше зрозуміти. У кінці кінців ми прийдемо до того, що суспільства продовжуватимуть ставати все більш вразливими до атак і маніпуляцій.

— Які найбільші випробування та загрози ви зараз бачите?

— Одна з найбільших проблем, яку ми маємо в сфері безпеки в цілому, це те, що ми починаємо розуміти, що треба робити для захисту доволі великої компанії чи установи, але не маємо людей для імплементації цього. І це одна з найбільших існуючих проблем, особливо у корпоративному секторі, що необхідність мати профіль загрози просто значно випередила залучення талановитих людей. І у західних економіках (але особливо у країнах, що розвиваються) у глобальних компаній та компаній, що відіграють вирішальну роль у людських життях, у технологічних компаній, які мають критичне значення для людських життів, для їхнього захисту просто не вистачає людей. І це проблема, щодо якої ми не просуваємося вперед.

— Так, дійсно, ви дуже слушно зазначили, що навіть якщо великі компанії багато інвестують у кібербезпеку, все ще залишається малий та середній бізнес (особливий малий та дуже малий бізнес), які цього не роблять, тому що просто не мають ресурсів.

— Вірно. Тут, у Сполучених Штатах, ми маємо так званий список Fortune 500 — п’ятсот найбільших публічних компаній за показниками виручки або ринкової капіталізації. І якщо ви поглянете на ці компанії, може, лише 150 з них проводять задовільну роботу у сфері безпеки: це великі банки, нафтові та газові компанії, оборонно-промислові бази, деякі страхові компанії, великі технологічні компанії - це установи, що розуміють потребу в безпеці, мають гроші та ресурси на це, а також підтримку їхнього керівництва. Решта зі списку Fortune 500 (і, у значній мірі, всі наступні кілька тисяч компаній тільки у Сполучених Штатах) знаходяться у справжній біді. Якщо ці компанії зустрінуться зі справді фаховим радником [з безпеки], вони, певно, побачать, що всі безпекові запобіжні заходи, у які вони інвестували, були невідповідними [існуючим рівням загрози].

А іншою проблемою для нас є те, що в цій індустрії ми зосереджені лише на компаніях з ТОП-100, так що це стає навіть трохи дотепним, коли ви запускаєте новий безпековий стартап і намагаєтеся отримати в якості першого пробного клієнта Goldman Sachs [один з найбільших світових банків, — Ред.] або JPMorgan Chase [провідний фінансовий холдінг], щоби показати ваш продукт як дієвий. Але проблема полягає в тому, що ці компанії не є показовими з точки зору потреб широкого загалу, світової економіки. Так що доки індустрія безпеки продовжуватиме боротися за бюджети цих ТОП-100 компаній, дуже мало уваги приділятиметься тому, що ж робити всім іншим.

— Так, і потім, ми маємо приклади здійснення атак на Україну, на кшталт тих, які почалися з дуже малого місцевого бізнесу і поширилися по всьому світу. І також був «шатдаун» в одній з найбільших транспортно-експедиторських компаній у світі.

— Так, і це є гарним прикладом потужної атаки, про яку ви говорили, що почалася з M.E.Doc [українське програмне забезпечення для подання звітності та обміну документами, — Ред.], а потім вплинула на всі інші установи. По суті, кожен, хто сплачував податки в Україні (а це більшість світових компаній), мали якийсь пристрій, що був уразливий до цієї атаки. Так що це чудове зауваження, яке також демонструє одну з речей, яка трапилася за останні кілька років: ми звикли до того, що тільки компанії, які напряму залучені до геополітики, можуть бути атакованими професійним «гравцем», — скажімо, російськими військовими хакерами.

Отже, якщо ви будували винищувач у Німеччині або Сполучених Штатах, ви знали, що саме це було вашим профілем загрози, але в разі більш неоднорідної ситуації — ми маємо судноплавні компанії, такі як Maersk, які ніколи не уявляли, що можуть бути атаковані на цьому рівні, понести побічні втрати в рамках цих кампаній [з кібератак]. Тож, гадаю, один з висновків — це те, що просто тому що ваша компанія здається простою; просто тому, що те, чим ви займаєтеся, не здається супер-критичним для національної безпеки; це не означає, що вам не потрібно зустрітися з консультантом з безпеки.

Інший показовий приклад ми бачили у випадку з Mariott [мережа готелів, — Ред.], коли нещодавно китайські спецслужби були звинувачені у взломі та викраденні безлічі даних щодо 500 мільйонів мандрівників, які зупинялися у готелях Mariott по всьому світу. І це [відсутність належного захисту, — Ред.] виглядало так, ніби до цього їх заохотили, китайців заохотили зібрати величезну кількість інформації, щоби посилити їхні розвідувальні служби. Знову ж таки, якщо ви працюєте у мережі готелів, ви не очікуєте, що загроза, з якою ви зіткнетеся — це офіцер безпекового підрозділу Народно-визвольної армії Китаю.

— Тож кожного дня з’являється нове випробовування як для світового бізнесу, малого бізнесу, так і для окремих осіб?

— Так.

— Є якісь позитивні прогнози? Коли **ми подола ємо їх, або чи подолаємо взагалі?

— Насправді, існує декілька гарних тенденцій, які, на мою думку, ми можемо розвинути. Перше — це зростання «хмар»; ще 20 років тому, якщо ви запускали повноцінний бізнес, то мали запускати й повністю власну IT-складову, у вас не було іншого вибору. А зараз ви можете започаткувати компанію і при цьому майже не писати коду, покластися тільки на продукти, надані сторонніми компаніями. І це дуже важливий момент.

Правда полягає в тому, що при такому рівні загроз (якщо ви хтось на кшталт Mariott чи Maersk) ви не в змозі безпечно керувати власною інфраструктурою, особливо з не контрольованим вами програмним забезпеченням. Так що перехід до «хмарних» обчислень це чудова опція для існуючих та нових підприємств, щоби трохи відійти назад і сконцентрувати персонал на можливостях, які вони мають у тих частинах бізнесу, що роблять їх особливими. І друга гарна тенденція у споживчому просторі - це те, що перехід до мобільних пристроїв знизив можливості проведення певних типів атак.

Отже, загалом мобільні пристрої оперуються обмеженою кількістю магазинів додатків, які мають певну кількість вбудованих функцій безпеки, що знижує спроможності до довільного виконання коду. Так що, порівняно з епохою персональних комп’ютерів, коли кожен авторизовувався у своїх ПК як локальний адміністратор і міг встановлювати які заманеться програми, мобільне майбутнє більш безпечне. Тож, гадаю, це позитивні тренди, але вони просто недостатньо швидко поширюються, щоби допомогти нам справлятися з усіма цими проблемами.

— Так ви більш оптимістично чи песимістично налаштовані? ****

— Ну, з професійної точки зору я налаштований негативно, я професіональний песиміст — це свого роду те, за що мені платять. Вся моя кар'єра полягає у роздивлянні зворотної сторони, на жаль. Так що я, напевно, не та людина, у якої це слід запитувати.

— Так, але ж ми все ще маємо позитивні тенденції. ****

— Що ж, знаєте, ми маємо розглядати і позитивні моменти. Правда полягає в тому, що технологічний прогрес також вивів з бідності сотні мільйонів людей, він у багатьох відношеннях зблизив світ — це все переваги технологій. Так що ви праві, ми не повинні дивитися тільки на зворотній бік медалі. Але ми опинилися в ситуації, коли ми вмонтовуємо дійсно складні технології все глибше і глибше у наші життя, не будучи підготовленими до можливих наслідків.

— Давайте поговоримо про інший аспект безпеки в Інтернеті: технологічні компанії, особливо соціальні мережі, відіграють все більш важливу роль в демократії, їхня потужність зростає; ми бачимо, що вони відіграють важливу роль у виборах; ми бачимо, що певні гравці намагаються вплинути на результати виборів або ж вибір виборців за допомогою соціальних мереж.

Яке ваше бачення щодо цього, яку роль у демократії зараз відіграють соцмережі?

— Численні коментатори відзначали, що бурхливе зростання соціальних мереж — це, напевно, найбільша зміна у можливості людей бути почутими з часів створення друкарського верстата, від часів зламу загальної монополії непорушних приписів Католицької церкви. І я думаю, це насправді так. Коли було винайдено друкарський верстат, це спричинило сотні років війни у Європі. На мою думку, тут існує природна кількість суїцидальних зміщень, повз чи через які ми маємо пройти. І, сподіваюсь, ми вирішимо це у кращий спосіб, ніж інші інформаційні революції.

Коли йдеться про соціальні мережі, думаю, ми маємо бути обережними щодо того, що ми просимо їх виправити. Якщо ви поглянете на компанії, що володіють соцмережами, частина їхніх продуктів дозволяє невеликим групам людей спілкуватися один з одними; частина — говорити з компанією друзів або сім'єю, трохи меншим або більшим колом осіб; і також є частина, яка дозволяє звертатися до мільйонів.

І тут виникає ситуація, коли частини цього продукту дуже посилюють голоси людей, що, думаю, призводить до більшої відповідальності, але ми маємо бути обережними, щоби не розмити цю відповідальність, разом з правом особи на свободу думки. Але також важлива річ, про яку часто забувають — мати змогу людям обирати інформацію, яку вони споживають.

Я думаю, ми маємо впевнитися в тому, що ми вимагаємо відповідальної позиції, без надання цим компаніям повного контролю над політичними дискусіями у країнах по всьому світу, тому що в кінцевому підсумку три чи чотири американські компанії, кожна з яких коштує від половини трильйона до трильйона доларів і не має розуміння демократії чи подібних процесів, саме вони приймають ці рішення.

І поки вони мають законне право приймати ці рішення, ми маємо бути обережними щодо того, які стандарти і внутрішні процеси ми хочемо, щоби вони створили. Так, щоби, коли вони прийматимуть відповідні рішення, це не було суб‘єктивне визначення того, чи є щось чинним політичним висловлюванням, а були рішення, які більш керуватимуться даними щодо того, чи були люди введені в оману, чи використовували вони неприйнятні засоби посилення рівня довіри, чи роблять вони речі, що дійсно впливають на безпеку окремих осіб.

— Так, ми, насправді, вже стикаємося з цією дилемою: як дати людям можливість вільно висловлюватися та подавати себе у соціальних мережах (адже це було головною метою, з якою були створені соцмережі - дозволити людям говорити те, що їм хочеться); але з іншого боку, не використовувати їх задля впливу на великі групи людей і спроб змінити їхню думку.

— Якщо чесно, всі демократії пробують впливати на людей, щоб змінити їхні думки. Так що, гадаю, тут радше йдеться не про припинення здатності впливати, а про визначення тих, хто може мати вплив, і про те, який рівень прозорості ви забезпечите людям. Очевидно, іноземний вплив є непростою проблемою, яку в деяких випадках складно виявити. Знаєте, ми тільки що пройшли через європейські вибори, і там було багато проблем через те, що Facebook створив нові правила на тлі виборів у Європарламент, які зробили дуже складною рекламу для політичних партій в декількох країнах, навіть якщо вони мали кандидатів саме у цих країнах. Тому що Facebook вважав, що ідеї, вибори прив’язані до країни, а не до декількох країн [ЄС]. Ми можемо впоратися з такими «тупиковими» ситуаціями.

Але створення правил, які зроблять для людей прозорими фігури спікерів, а також контроль за доступом до технологій поширення думок (на кшталт реклами) для іноземних груп, я думаю, буде розумним початком. Ви можете це зробити, не вирішуючи, хто є прийнятними спікерами всередині країни. Але зараз ми дивно рухаємось вперед, і думаю, це дійсно небезпечно, тому що, чим більше ми… Знаєте, ми дискутуємо щодо цього у Сполучених Штатах — близько 90% користувачів Facebook не є американцями, і багато з них живуть навіть у демократичних країнах, де, втім, уряд без докорів сумління використовував правила Facebook проти низки опозиційних партій.

І я думаю, ми просто маємо бути дуже обережними, коли просимо компанії ззовні контролювати «вікно» політичного дискурсу, якщо це дуже специфічні правила щодо мови ненависті, закликів до насилля і подібного.

— На мою думку, це дуже цікава точка зору, оскільки Революція Гідності в Україні, насправді, почалася з публікації у Facebook, зробленої моїм другом і наразі народним депутатом Мустафою Найємом, яка закликала людей виходити на вулиці.

І якщо б у нас в країні, наприклад, був цей контроль над контентом в Інтернеті та Facebook, можливо, ця публікація надовго б там не залишилася.

— Це походить на божевілля — я маю на увазі, що у США та Західній Європі існують доброзичливі люди, які просять контролювати свободу слова, що звучить прямо як слова тодішнього уряду в Україні або єгипетської влади у 2018 році. Ми маємо бути дуже обережними, коли будуємо механізми, якими потім уряд може скористатись.

— Так, але питання в тому, як ми справляємося з дилемою, яку ми нещодавно мали з розповсюдженням відео із Ненсі Пелосі у Facebook, яке було модифіковано у особливому режимі перемотування, і в якому вона виглядала «не дуже добре», і Facebook відмовився видаляти це відео.

— Так.

— Так що тут знов виникає дилема. Як, на ваш погляд, ми можемо її вирішити?

— На мою думку, це чудовий приклад ситуації, коли ми хочемо від Facebook зупинити поширення публікації без її видалення. Перш за все, існує величезна кількість сатири, пародій та відредагованих відео, зроблених з метою покепкувати з політиків. І речам, які не дозволено застосовувати по відношенню до звичайних громадян у західних демократичних державах, особливо у Сполучених Штатах, часто надається особливий імунітет, якщо вони стосуються політиків. Політики у Сполучених Штатах мають дуже мало прав відповідно до діючого законодавства про наклеп, щоби зупинити такий тип повідомлень.

Ми надаємо людям законний спосіб це робити. І, на мою думку, компанії — власники соціальних мереж поширюють і виходять з тих же мотивів: коли йдеться про висловлювання політиків та обраних, то там ви можете бачити дуже мало консерватизму; а рішення, які стосуються модерування висловлювань звичайних людей, приймаються дуже обережно. У цьому випадку, гадаю, щось, що має технічні ознаки проведених модифікацій у зазначений вами спосіб, повинно публічно маркуватися, а потім певним чином обмежуватися поширення цього, і не повинно бути допущено його просування [ такого контенту у Facebook].

Насправді на рекламному майданчику немає прав, пов’язаних зі свободою слова — якщо ви платите за таке висловлювання, це на кшталт «чудово, ми скоротимо доступність до нього», проте я не вважаю, що це слід видаляти. Тому що ви можете уявити собі світ, коли… якщо б вони просто видалили відео з Пелоcі, це б закінчилося б тим, що мільйони та мільйони людей перезавантажували б його в знак протесту, і їм би знадобилося запускати алгоритми машинного навчання, що шукатимуть будь-які відео, хоч трохи схожі на те з Ненсі Пелосі, а потім ще й не видалити їх всі. І це спричинить величезну «вогняну бурю» і приверне значно більше уваги до дезінформації, ніж зараз. Насправді, на мою думку, більшість переглядів відео з Пелосі спричинені висвітлюванням його у ЗМІ.

Інша річ, через яку ми маємо пройти, це те, що медіа, коли вони бачать у соцмережах щось, що їм не подобається, мають припинити розповідати людям про те, що вони побачили і що це настільки небезпечно, що люди не мають права на це дивитися. Цей меседж навпроти більш привертає до себе: якщо у Мережі є щось, що мені не подобається, і мені не дозволено це бачити — це стає драйвером переглядів. І дозволяти цим людям таким чином дезінформувати нас, щоби контролювати дискусію у суспільстві, це одна з потужних можливостей медіа — ми маємо припинити дозволяти людям, як у цьому випадку (частково це робив Fox News), контролювати загальну дискусію за допомогою невеликої частки нашого гніву.

— **Ось ми і торкнулися дезінформації — нещодавно ми бачили значну її кількість по всьому Інтернету, не тільки у соціальних мережах. Давайте поговоримо про російську дезінформацію й іноземних «гравців» у соціальних мережах. **

Мені дуже сподобалося ваше висловлювання про недопускання втручання іноземних «гравців» у державну політику. Проте зазвичай вони теж тямущі люди й доволі часто « працюють » з місцевими групами. ****

— Так.

— Як це можна контролювати?

— Я не думаю, що соціальні мережі можуть це контролювати. Гадаю, є багато шляхів для різних урядів обійти обмеження та підтримувати місцеві групи грошима і, можливо, контентом. І я не думаю, що тут є робота компаній [власників соціальних мереж]. Вважаю, нереалістично думати, що розпочнуться розслідування щодо спікерів, які у законний спосіб зможуть підтвердити наявність у них громадянства тієї країни, де вони виступали агентами впливу. Це вимагатиме роботи між компаніями та владою. Це ще одна з речей, чому я думаю, що компанії повинні мати дуже високий рівень прозорості, щоби ви, як журналіст, урядовий аналітик, розслідувач, мали можливість бачити, хто стоїть за певними сторінками, а потім прив’язати це до розслідувань у відповідних країнах. Але покладати це на плечі технологічних компаній, на мою думку, просто нереалістично.

— Але як зараз працюють політичні маніпуляції у Facebook? Вони починаються з публікацій, потім залучаються реклама та боти — як це зараз працює?

— Існує декілька різних моделей. Переважно це не боти, це люди. І ці люди створюють групи, що виступають драйверами специфічних повідомлень, викликаючих сильні чвари, і потім намагаються згуртувати людей, щоб ті долучилися до цих груп або стали підписниками цих сторінок. І вони можуть згуртувати цих людей за допомогою реклами або спаму у інших групах, що можуть мати політично споріднену тематику.

Інший механізм — використання агресивних кібер-технік для збору інформації і її подальшого «зливу». У США стала дуже відомою кампанія ГРУ зі злому та витоку інформації - і в такій ситуації є можливість використати свою присутність у соцмережах для того, щоби збрехати про свою особу і спробувати поширити інформацію у спосіб, що менше вказує на вашу причетність до цього. Але здебільшого ці атаки спрямовані проти певних традиційних ЗМІ та загальної дискусії довкола кандидатів.

— Тож чи готові ми зараз боротися з цим, або поки що знаходимося у процесі розробки механізмів для розпізнавання цих кампаній?

— Я не думаю, що ця боротьба колись закінчиться. Насправді, у вільному суспільстві люди можуть втілювати ідеї, і це одне зі слабких місць проживання у вільному суспільстві - те, що інші люди, які вам не подобаються, мають право голосу. Чесно кажучи, я думаю, ми просто маємо жити з цим.

— Так, на мою думку, інколи люди надто сильно тиснуть на соціальні мережі, порівняно з друкованими виданнями, щодо дезінформації та того, що є правильним, а що ні.

— Ну, я не думаю, що це їхнє [технологічних компаній] завдання встановлювати, що є правильним, а що ні. Гадаю, компанії просто повинні вирішувати, хто може бути спікером, і далі дотримуватись цих правил. Було б чудово побачити деякі зміни у компаніях на кшталт Google та Facebook, які були б повністю добровільними і робилися б не виходячи з традиційних демократичних «методичок». І потім я б хотів побачити, як демократичні країни слідуватимуть власним правилам щодо того, кому дозволено запускати рекламу, бути частиною дискурсу і національних виборів.

Я вважаю важливим запитувати інформацію щодо особи. Я думаю, прозорість щодо того, хто стоїть за певними групами, теж є важливою (це те, над чим компанії все ще мають працювати). І це справжній виклик, тому що у таких країнах, як Туреччина, Єгипет або Таїланд, інформація, яку поширюють ці компанії, насправді є критичною частиною будь-якого демократичного дискурсу. Проте це така ситуація, коли ви можете впроваджувати різні правила у країнах, які гарантують свободу слова, і у країнах на кшталт Туреччини.

— **Так, відносини авторитарних режимів з соцмережами є великою загрозою. Насправді, ми бачимо, що у зазначених вами країнах (і деяких інших) соціальні мережі є єдиним для людей шляхом дійсно виражати себе і публікувати думки, які відрізняються від тих, що має чинний уряд або режим. **

— Так, абсолютно. І особливо важливим є те, що ми можемо бачити низку країн з демократично обраними лідерами, які прямують у напрямку автократії - Філіппіни є чудовим прикладом країни з законно обраним лідером, але зараз він намагається використати свою владу, щоби примусити замовкнути його противників, а також використовує владу заради того, щоби вгамувати висловлювання у соцмережах. Так що ми маємо бути дуже обережними, вибудовуючи норми та процедури щодо захисту свободи слова у демократичних державах, які можуть бути спаплюжені і використані як пастка в автократії.

— Ви зазначили, що мають існувати правила щодо потенційної дезінформації чи «грав ців» у соцмережах. Чи вірите ви у можливість існування таких міжнародних правил, чи поки що ми дуже далекі від цього?

— Я думаю, вихід тут полягає у тому, щоби кілька демократичних країн розробили правила і синхронізували свої цілі (якщо вдасться зробити це з текстами законів), і потім це допоможе започатковувати міжнародні норми, яких добровільно зможуть дотримуватися компанії по всьому світу. У нашої нової групи в Стенфорді виходить звіт про те, що, на нашу думку, Сполучені Штати можуть зробити для захисту свої виборів. У цьому звіті ми розмістили пропозиції щодо певної регуляції реклами, яку ми б хотіли бачити, публікацій у соцмережах, закордонних ЗМІ у Сполучених Штатах. І хоча наші рекомендації призначені для Конгресу США, нашою ціллю є впровадження Штатами стандарту, яким керуватимуться по всьому світу.

— Нещодавно ми бачили, як Канада виступила з ініціативою створення правил для соціальних мереж. Як вважаєте, у цьому випадку можна говорити про стандартизацію правил, або ж там буде якийсь інший підхід?

— Низка країн запроваджують такі правила. Канадці придивляються до цього, у них вони можуть мати свою специфіку. Великобританія опублікувала «білу книгу» під назвою Online Harms White Paper, яка, на мою думку, насправді не дуже гарна. Це дивно, але я вважаю, що Франція має дійсно кращий підхід в цьому питанні з тих, що я поки бачив. Отже, французький уряд залучив сторонніх людей до роботи у Facebook, щоби побачити, як там виглядає модерація контенту, і вони окреслили міжнародні рамки, до яких можуть долучатися численні демократичні країни.

Це вибудує рекомендації, яким слідуватимуть і які самі інтерпретуватимуть компанії, без необхідності самостійно приймати рішення щодо ключових питань. І в цьому була певна синхронізація між кількома країнами. Так що, на мою думку, французька модель… навіть якщо ще слід працювати над багатьма деталями, але я дійсно вважаю, що ця модель, яка призначена для міжнародного рівня, виключає спроби автократичних країн з маніпулювання системою заради власного інтересу.

— Чи далеко ми знаходимося від цих міжнародних стандартів? Як довго займе до них дійти? Яке ваше бачення стосовно цього?

— Ми відстали на роки. Але ми маємо… Якщо ви відстали на кілька років, вам потрібно починати свій шлях прямо зараз.

— Ви більше вірите у рекомендації або набір норм з потенційним покаранням за їхнє порушення?

— Однією з дивних речей є те, що коли ми говоримо про якісь речі у соціальних мережах, майже всі висловлювання, про які ми говоримо, є законними у тих країнах, де вони мають місце. Всі головні технологічні компанії США поважатимуть та проводитимуть вилучення контенту, якщо запит буде надходити від демократичної судової системи. Ми сперечаємося щодо того, що повинні робити компанії крім того, що вимагається законодавством. Так що, на мою думку, не важливо, що ми робимо — це за визначенням буде певним саморегулюючим середовищем. Питання в тому, який внесок роблять держави та неурядові організації, щоби залучити до нього громадянське суспільство.

І це те, у чому поки що компанії дійсно зазнають невдач — їм не вдалося залучити інші групи, які б робили свої внески, щоби мати багатосторонній процес, в якому низка людей відчуватимуть себе почутими. Ви не можете зробити щасливими усіх. Правда в тому, що ви не можете прийняти рішення щодо свободи висловлювань, яке б зробило кожну сторону щасливою, але ви здатні залучити широке коло людей до співробітництва — так що навіть якщо прийняте рішення не буде повністю успішним, вони розумітимуть, що отримали можливість змістовно висловитися, долучившись до цього процесу.

— Так, думаю, залучення якомога більшої кількості різних зацікавлених сторін та «гра вців » у процес прийняття р ішень зробить його більш прозорим. Але як щодо встановлення певних критеріїв для визначення того, чи мають певні речі бути розміщені, чи ні?

— Я вважаю, що до питання стосовно різних видів проблемних висловлювань найкраще підійти з позицій урядування. Думаю, заклики до насильства і крайня форма мови ненависті - це те, щодо чого країни вже мають закони, які, можливо, не були інтерпретовані у такий спосіб, який би охоплював те, що відбувається онлайн. Так що, гадаю, це те, з чого вони можуть почати, з триваючого обходу закону… Знаєте, в цілому, якщо є заклик до насильства, і ви шукаєте спосіб зупинити подібні проблеми, які ви можете бачити навкруги (як стрілянина у Крайстчерч), ви можете створити правила щодо контенту такого типу, не торкаючись основної політичної дискусії.

— Зараз ми маємо новий тренд — штучний інтелект, який пронизує різні сфери нашого життя, включаючи сферу безпеки та соціальні мережі. Чи вірите ви в те, що штучний інтелект якимось чином вплине на безпекову складову, допоможе нам боротися з проблемами, які ми тільки що обговорювали, чи вирішить їх?

— Загалом, я думаю, машинне навчання масово подають як одночасно корисне та шкідливе, щоби люди думали, що це кінець світу і що це фантастичне вирішення проблем. І якщо вам колись доводилося мати команду, яка б застосовувала машинне навчання задля якихось практичних цілей, ви виявите, що це дуже потужна, але дуже нетямуща та крихка технологія.

Так що побудувати алгоритми машинного навчання, які не виходять з ладу повністю, коли вказана проблема лиш трохи змінюється, дуже складно. Думаю, машинне навчання буде важливим щодо низки безпекових питань, це основна технологія, яка дозволяє тисячам людей розуміти і модерувати висловлювання мільйонів осіб, але ми просто маємо бути дуже обережними, щоби не переоцінити можливості машинного навчання. І на мою думку, численні обговорення щодо поганого застосування машинного навчання теж трохи роздуті.

Так, наприклад, всі полюбляють говорити про якісь глибокі речі, але ми бачимо знову і знову, що можна зняти нефейкове відео, потім трохи його відредагувати, дістати уривок з нього, і одне й те ж саме відео за двох обставин може розглядатися в якості підтримки двох різних точок зору. Так що, гадаю, ми просто це все переоцінюємо… Весело думати про повністю фейкові відео з політиками, де ті кажуть речі, яких вони ніколи не говорили — я менше стурбований з приводу цього, ніж щодо інших, більш усталених видів і форм маніпуляцій, фейковість яких не так просто довести.

— Давайте поговоримо про нещодавні коментарі у ЗМІ, друкованих медіа або також в політиці щодо Facebook. Багато людей говорять, що Facebook надто потужний, і по відношенню до нього мають бути вчинені певні дії, включаючи потенційний поділ компанії або застосування інших обмежень щодо корпоративної структури.

І ми бачили нещодавну відповідь Марка Цукерберга, у якій він презентує своє бачення розвитку компанії. Яким ви бачите стан справ? Facebook дійсно надто потужний?

— Велика кількість людей обговорюють антимонопольні заходи, тому що вони вважають це простим виходом з ситуації, коли тобі не подобається компанія. Буде Facebook однією компанією чи трьома, ці фундаментальні проблеми залишатимуться тими ж самими. Так що, думаю, аргумент щодо надпотужності компанії можна наводити з перспективи конкуренції, тому що зараз ми маємо ситуацію, коли Google, Facebook, Amazon, Apple мають дуже багато грошей, і всі ці компанії мають настільки велике розуміння, куди рухаються технології, що для них є легким знайти потенціальних конкурентів, прибрати їх «зі сцени», а потім заблокувати решту конкурентів у цьому просторі. Отже, гадаю, гарні антимонопольні аргументи існують, але вони мають базуватися на питаннях конкуренції. Всі інші питання, які вносять люди, здебільшого не ведуть, на гірше це чи на краще, до будь-яких антимонопольних дій.

— Тож тут більше йдеться про антимонопольні питання. Ви не вірите, що це якось сприятиме вирішенню питання дезінформації чи боротьбі з політичними маніпуляціями?

— Одна зі справжніх проблем сьогоденної дискусії полягає в тому, що кожен зосереджується на дезінформації в гуглівському YouTube, Facebook і Twitter (частково тому, що ці три компанії мають команди людей, які слідкують за дезінформацією і повідомляють про неї). Отже, ми маємо велику проблему з вибіркою даних, коли про жодну з тисяч інших компаній, які містять довколаполітичний контент, що створюється користувачами, зовсім не говорять, тому що жодна з них не вдосконалює та не публікує такі звіти.

Фактично, все, що ви могли прочитати у звіті Мюллера щодо російської активності у Facebook, надійшло від самого Facebook, від моєї команди — ми це знайшли і висвітлили. Так що, думаю, однією з проблем є те, що великі компанії мають можливість створювати команди з людей, які здебільшого прийшли з уряду, які можуть знаходити та зупиняти подібні речі - і згодом ідея щодо того, що лише великі компанії можуть мати такі команди, спотворює картину загалом.

І навіть якщо ви закриєте ці компанії, проблема все ще залишиться. Якщо ви вирішите зробити ліквідацію, ліквідувати Facebook і Instagram, якщо ви ліквідуєте YouTube та Google, це має створити ще більшу конкуренцію, але не треба уявляти, що раптом проблема фейкових новин чи дезінформації зникне — точно такі ж проблеми щодо висловлювань (що є прийнятними висловлюваннями, хто зі спікерів відходить на другий план, хто є прийнятними спікерами) існуватимуть незалежно від того, скільки існують відповідних компаній.

— У країнах колишнього Радянського Союзу існувала така річ, як покарання за ініціативу, так що тут теж щось на кшталт такого: всі ці компанії добровільно надають, розкривають інформацію від своїх дослідницьких груп, і зараз їх розглядають як зло, а не як компанії, які намагаються щось зробити.

— На мою думку, найбільші компанії несуть відповідальність за те, щоби бути найбільш прозорими. Вони несуть відповідальність, якщо мають змогу розпізнавати такі речі [дезінформацію та манипуляції]. Це просто означає те, що ми не можемо розмивати нашу лінію поведінки, базуючись на певній нерівномірній вибірці інформації з кількох різних платформ.

— Нещодавно в одному зі своїх інтерв'ю ви говорили, що на найвищих ланках керівництва Facebook схожий на Гру престолів. Чи впливає це на політику Facebook щодо дезінформації та політичних маніпуляцій? І наскільки швидко Facebook реагує на загрозу, з якою ми стикнулися?

— Гадаю, одна з речей, яку ви бачите, знаходячись поза межами компанії, це те, що їхні рішення перетягуються туди-сюди, туди-сюди, так що те, що ви бачите, насправді є різноманітними фракціями всередині компанії, кожна з яких може програти. Я думаю, проблеми всередині компанії приховані від зовнішніх спостерігачів, і це робить значно складнішим надати якусь уніфіковану відповідь, коли там відбувається багато біполярних сутичок за право прийняти певне рішення. Щодо швидкості реакції самої компанії, наразі частиною проблеми, на мою думку, є те, що одночасно випливають багато різних питань, щодо яких ми, як суспільство, не впевнені, на якому саме з них ми бажаємо зосередитися.

Так що який би інструмент ці компанії не розробили, мають пройти три-шість- дев'ять місяців, відбутися інвестиції протягом року і пройти складні обговорення (вони нагадують пінг-понг — туди-назад) щодо всіх цих різних питань. Й інколи компаніям складно відреагувати, тому що так вони ставлять величезну кількість людей під можливу загрозу дезінформації, і зрештою, вільне існування ненависницьких висловлювань є серйозною справою. Так що вони рухаються у бік вирішення проблеми мови ненависті, а згодом — до питання достовірного контенту.

Не важливо, наскільки багато ресурсів ви маєте, ви повинні вирішити, на що їх витратити, так що я дійсно вважаю, що існує відповідна проблема, і компанії матимуть протистояти тенденції слідкувати за тим, куди їх веде обговорення у ЗМІ, і зосередитися на певних визначальних проблемах достовірності та недоторканності [контенту]. Якщо вони на довший час зосередяться на цих основних питаннях, це буде для них корисним.

— А зараз давайте повернемося до проблем, які будуть більш знайомими для всіх людей, які дивляться це інтерв'ю. Ви батько троїх дітей, ми всі говоримо про безпеку дітей в Інтернеті — яку пораду ви можете дати батькам щодо того, як дійсно захистити їхніх дітей у цю епоху недостовірної інформації, дезінформації, маніпуляцій, насильства, мови ненависті?

— Я бачу надто багато батьків, які просто дають своїм дітям телефони, не контролюючи, що вони з ними роблять. І я б хотів побачити майбутнє, у якому компанії не ставляться до підлітків, як до дорослих. Тут, у США, у нас є закон, який робить фактично неможливим обслуговування будь-якого користувача молодше 13 років (а як тільки ти досягаєш цього віку, то по суті «стаєш дорослим»). І це просто не відповідає дійсності - 13−14−15-літні не здатні належно орієнтуватися в онлайн-світі, як і взаємодіяти з іншими, а особливо — взаємодіяти з дорослими.

Думаю, найбільшою моєю порадою для батьків буде не давати зарано своїм дітям телефони, а починати з м’якого «прискорення». Коли вони будуть мати пристрої, ті повинні залишатися у прохідних частинах будинку; користуйтеся разом з ними Інтернетом, дивіться з ними YouTube, разом листуйтеся з їхніми друзями. Телефон вночі має бути поруч з вашим ліжком, щоб діти не могли користуватися телефонами у своїх кімнатах вночі. А потім ви вибудовуєте для ваших дітей очікування, що вони не мають від вас секретів у своїх пристроях.

Тому що я дійсно вважаю, що, напевно, дійсно найгірші речі трапляються в онлайні, кожного дня хтось експлуатує дітей. Ми фокусуємося на всіх цих питаннях, але коли це перетворюється на тривалу проблему, яка не зникає і з кожним роком погіршується, тут випливає проблема дитячої експлуатації. І частиною неї є те, що долучити дитину до онлайну стає соціальною необхідністю — і це відбувається набагато раніше, ніж вони ментально до цього готові.

— Виходить, залишається т ільки говорити, говорити та говорити? ****

— Говорити, говорити та говорити, а потім дати зрозуміти, що ви все одно будете зазирати з-за їхніх плечей. Звісно, іноді складно бути «поганим хлопцем», проте ви маєте перевіряти історію в їхніх браузерах, продивлятися їхню стрічку в Instagram, читати їхні текстові повідомлення. Вибудуйте відносини, щоб у них не було від вас будь-яких секретів, і що якщо вони змінять код для блокування на своєму пристрої, і ви не зможете в нього увійти, тоді він вилучається.

На мою думку, звісно, легко дати дітям багато пристроїв і зробити їх радісними та тихими, і в такому випадку ми віддаємо підготовку з користування Інтернетом до рук їхніх друзів. І правда полягає в тому, що підлітки (особливо вони) дуже жахливо ставляться один до одного, вони погано ставляться один до одного в онлайні. Так що будьте джерелом інформації для ваших дітей у цих ситуаціях.

Я вважаю, інша річ, яку ви повинні зробити — це пояснити їм, що якщо вони колись потраплять в ситуацію, у якій вони почуватимуть себе, ніби в пастці, вони зможуть звернутися до вас. Дійсно погана ситуація для дітей складається тоді, коли вони допускають таку помилку, як, наприклад, відправити оголене фото, і тоді вони потрапляють в біду і вирішують, що «я не можу розказати про це батькам, тому що вони дуже розлютяться», і вони продовжують робити помилки і дедалі погіршувати ситуацію. Тому вибудовування цієї відкритої комунікації є дуже критичним.

— Ви тільки що зазначили, що ви з групою колег працюєте над документом- рекомендацією для Конгресу США про те, яку роботу треба провести на національному рівні для забезпечення більшої безпеки в Інтернеті. Що це? Це нова ініціатива, або у Стенфорді буде створено новий центр?

— Так, у нас є новий Стенфордський Центр кіберполітики, який згуртовує людей, які працювали над цими проблемами у Стенфорді протягом років. І потім ми матимемо проект у межах нього, який я очолю, під назвою Стенфордська Інтернет- обсерваторія, там працюватиме крос-дисциплінарна команда, яка розробить інструменти, техніки та тренінги для нас, щоби опанувати тему зловживань в Інтернеті задля заподіяння шкоди.

Так що ми фокусуємося на таких речах, як дезінформація під час виборів, але також будемо розглядати інших проблеми: мова ненависті, безпека дітей, онлайн- радикалізація. Прямо зараз соціологам та політологам дуже важко займатися цими питаннями, так що, сподіваюся, якщо ми розробимо технологію [досліджень], це спростить проведення гарних досліджень у цій сфері.

— Вау, це дивовижно!

— Дякую!

— А зараз переходимо до бл іц-питань. Чим для вас є Україна, в одному реченні ?

— Я розглядаю Україну як міст між Сходом і Заходом, який також заздалегідь відображає політичні проблеми, з якими ми — декілька країн-лідерів — наразі маємо справу.

— Що ви зараз читаєте ?

— Я читаю книгу під назвою Повстання громадськості Мартіна Гуррі.

— Яку найкращу пораду ви коли-небудь отримували? ****

— Найкраща бізнес-порада, яку мені давали, це «Коли ти йдеш на будь-яку бізнес-зустріч, заздалегідь тримай у голові, що саме ти хочеш від неї отримати».

— Назв іть ТОП-3 речей для батьків, які варто та не варто робити задля безпеки дітей в Інтернеті.

— Не давайте вашим дітям потайки користуватися пристроями, не дозволяйте користуватися ними вночі; вибудовуйте з ними спілкування таким чином, що якщо ваші діти відчуватимуть певні неприємності, вони знатимуть, що зможуть звернутися до вас за допомогою.

— Скільки часу ви щоденно витрачаєте на користування соцмережами?

— Напевно, більшість часу я проводжу в Твіттері. Можливо, близько години на день.

— І останнє питання : Facebook , LinkedIn **чи Т віттер? ****

— Я використовую Facebook, щоби стежити за друзями та родиною, Твіттер — щоби спілкуватися з професійної перспективи, а LinkedIn — це моя поштова скринька для спаму.

Щоб бути в курсі всіх останніх новин проекту Блискучі уми, долучайтеся до нашої групи у Facebook.

Теги: Свобода слова Facebook Інтернет Кіберзлочинність Соціальна мережа Кіберзахист Кібербезпека Кібератаки Блискучі уми Алекс Стамос