Історик розповів про загрозу "цифрової диктатури"

Ізраїльський історик історик-медієвіст Юваль Ной Харари у межах Всесвітнього економічного форуму в Давосі розповів про розвиток технологій і те, як це може вплинути на розвиток людини.

Про це пишуть #Буквы.

"Ми досягли точки, коли ми можемо зламати як комп'ютери, так і людей чи інші організми. Досягнення в галузі інформатики, машинного навчання та штучного інтелекту дають нам обчислювальну потужність", – сказав Харари.

Так, пояснив він, за допомогою спеціального алгоритму можна обчислити активність мозку, артеріальний тиск тощо.

"Алгоритми можуть прогнозувати бажання, маніпулювати емоціями, приймати рішення від вашого імені", – додав він.

Про зміну значення слова "робота" у майбутньому

Упродовж історії розуміння роботи неодноразово змінювалося. Упродовж досить великого періоду люди взагалі не працювали – вони виживали. Тобто сама ідея роботи: я встаю і о 8:00 їду на роботу, де перебуваю до 17:00, – це сучасне поняття. Наші предки, мисливці і збирачі, протягом сотень тисяч років обходилися без роботи. Тривожність через втрату роботи – також порівняно новий феномен. В ході промислових революцій останніх століть людина постійно відчував страх, що машини візьмуть верх, а сама вона стане непотрібним. Втім, на цей раз, думаю, це може виявитися правдою. Як у випадку з хлопчиком, який кричав "Вовки!" Зрештою, вовки прийшли.

Зараз люди стикаються з більш страшним поняттям, ніж експлуатація, – зі своєю непотрібністю. Коли тебе експлуатують, ти, щонайменше, знаєш, що ти важливий, що більше нікому працювати. Звідси і перша проблема з ростом тривожності. Вважаю, нові професії все ж з'являться. Питання в тому, чи зможуть люди себе "перевинайти", щоб зайняти ці вакансії. І перевинаходити себе доведеться кожні 10 років, так як ми переживаємо не одну технологічну революцію, а їх цілий каскад. Перевинаходити себе в 20 років – одна справа, але змінюватися далі – в 30, 40, 50 років – дуже важко, це також сильно підвищує нашу тривожність.

Люди взагалі роблять багато, що не вважається роботою. Наприклад, ростять дітей. І велика частина роботи, яку виконують люди останні кілька століть, просто не в їх природі. Ми не можемо назвати щось "природною" роботою для людини.

Ми занадто багато уваги приділяємо роботизації, коли говоримо про майбутнє ринку зайнятості. Стільки ж уваги ми повинні приділяти біотехнологіям. Безліч нових професій буде пов'язано з розумінням людських емоцій. Навіть безпілотні машини повинні будуть розуміти, як себе ведуть пішоходи. І вже тим більше це актуально, якщо машини замінять банкірів або соцпрацівників.

Якщо поглянути на речі трохи інакше, стає ясно: потрібно захищати не професії, а людей. Можна відкинути деяку частину професій за непотрібністю – вони не варті того, щоб їх зберігати. Хто хоче все життя бути касиром? Ми повинні думати про людей, а не про професії. У цьому випадку у нас криза не зайнятості, а криза сенсу роботи.

Як історик зауважу, що в порівнянні із Середньовіччям, люди зараз живуть просто в раю, але чомусь так себе не відчувають. Ми вміємо старанно працювати, бути ефективними, але не вміємо розслаблятися. Якщо вирішити проблему з кризою сенсу роботи, вирішимо і проблему з дозвіллям.

Найкраща порада, яку я міг би дати, – вкладайтеся в власну пристосованість. Всі ваші інвестиції – навчання того чи іншого навику, наприклад програмування – це лотерея. Ви не знаєте точно, чи стане в нагоді вам те чи інше вміння, але за часів хаосу вам точно знадобиться емоційна стійкість, здатність пережити всі ці зміни. Втім, це дуже складно. Не знаю жодного університету, де б цьому вчили.

Про майбутнє людства

Точно не пам'ятаю, хто висловив цікаву думку: якщо вам будуть розповідати про 2050 рік і це буде здаватися науковою фантастикою, ймовірно, це неправда. Але якщо опис 2050 років не звучатиме як наукова фантастика, то це точно неправда.

Можливо, ми одне з останніх поколінь Homo sapiens. Через століття або два Землю будуть населяти організми, які будуть так само сильно відрізнятися від нас, як ми від неандертальців або шимпанзе. Адже в наступних поколіннях ми навчимося модифікувати наше тіло і розум, і це стане головним продуктом економіки XXI століття.

Який саме матимуть вигляд майбутні господарі планети? Це будуть вирішувати ті, хто володіє інформацією. В руках тих, хто буде її контролювати, буде контроль за життям на планеті. Інформація – найважливіший актив в світі. Не земля, як в давнину, не промислове обладнання, як в останні кілька століть. Що ж станеться, якщо занадто велика кількість інформації буде сконцентрована в руках маленької купки обраних? Людство розділиться. Але не на класи, а на різні види.

Інформація так важлива, тому що ми досягли точки, коли можемо "зламувати" не тільки комп'ютери, але і людський організм. Для цього потрібні дві речі: велика обчислювальна потужність і величезний обсяг даних, зокрема біометричних. До сьогодні ні у кого не було цих інгредієнтів для "злому" людства. Навіть КДБ або іспанська інквізиція, що мають можливість спостерігати за людьми цілодобово, не могли цього.

Зараз ситуація змінюється завдяки двом революціям: розвиток комп'ютерної науки (розквіт машинного навчання, штучний інтелект) і розвиток біології, зокрема нейробіології. Це дає нам необхідне розуміння, як працює людський мозок. Можна підсумувати півтора століття біологічних досліджень трьома словами: організми є алгоритми. І ми зараз вчимося тому, як розшифрувати ці алгоритми.

Можливо, найважливіший винахід для обох революцій – біометричний сенсор, який переводить біохімічні процеси в нашому тілі і мозку в електронні сигнали, які може аналізувати комп'ютер. Розшифрувавши ці алгоритми, можна створити істот, які будуть кращими від людей. Але як ці істоти згодом будуть застосовувати ці технології, чесно кажучи, не маю поняття.

Зараз цей процес ведеться на трьох фронтах. Перший – біоінженерія, вчені вирощують нові органи, оновлюють старі, втручаються в організм на генетичному рівні і так далі. Але це і найбільш консервативний фронт, адже він використовує традиційні "цеглини", з яких складений організм, яким ми його знаємо останні кілька мільярдів років. Другий підхід більш радикальний – комбінація органічного та неорганічного (біонічна рука, комп'ютерний інтерфейс в мозку, друга імунна система, створена з мільйонів нанороботів і так далі). Але навіть в цьому випадку ваш мозок залишається органічним, незважаючи на те, що підключений до різного роду пристроїв, Інтернету.

Третій – і найбільш радикальний – створення повністю неорганічних форм життя. Чи можна це зробити, поки відкрите питання. Залишаються нерозкритими таємниця свідомості – ми до сих пір поняття не маємо, що це таке і як воно з'являється у людини. Загальний консенсус – свідомість є в мозку, і якщо "зламати" його і зрозуміти, як працюють ці мільярди нейронів, що створюють досвід і емоції, то не буде бар'єрів, щоб відтворити їх на іншому "матеріалі". Можливо, з неорганічними формами життя у нас так нічого і не вийде, але дедалі більше серйозних вчених переконуються в тому, що рано чи пізно це станеться.

Люди взагалі не знають себе по-справжньому. Тому алгоритми – реальний шанс дізнатися себе краще. Наведу приклад з особистого життя: в 21 рік я усвідомив свою гомосексуальність, до цього я її заперечував. Я не виняток – багато людей живуть, заперечуючи цей факт, вони просто не знають про себе щось дуже важливе. Уявіть собі ситуацію, коли через 10-20 років алгоритм зможе говорити тінейджеру про його орієнтації. Алгоритм відстежує рухи ваших очей, тиск, активність мозку і повідомляє вам, хто ви. Навіть якщо приховувати свою орієнтацію від друзів і колег, ці дані можуть отримати Amazon, Google, Facebook. Алгоритми, що стежать за вами, повідомлять, наприклад, Coca-Cola, що якщо компанія захоче продати вам свій напій, не варто показувати рекламу з оголеними дівчатами. Ви цього навіть не помітите, але корпорації прекрасно знають, що ця інформація коштує мільярди.

Як регулювати володіння інформацією? На відміну від землі і промислового устаткування, інформація всюди і в той же час ніде, її можна копіювати, вона поширюється з неймовірною швидкістю і так далі. Кому ж належить інформація про мене? Наразі більшістю даних володіють корпорації, і людей це турбує. Але якщо уповноважити уряд націоналізувати інформацію, це призведе до цифрової диктатури.

Про "цифрову диктатуру"

Коли у нас будуть алгоритми, здатні розуміти мене краще, ніж я сам, вони зможуть передбачати мої бажання, маніпулювати моїми емоціями і навіть приймати за мене рішення. Якщо ми не виявимо обережність, прийде епоха цифрової диктатури. У XX столітті демократія прийшла на зміну диктатурі, адже вона була кращою в обробці даних і прийняття рішень. Демократія розподіляє інформацію і наділяє інституції та людей правом приймати рішення. Диктатура ж зосереджує всю інформацію та прийняття рішень в одних руках. Перша модель працювала більш ефективно, тому, наприклад, американська економіка перевершила радянську.

Однак в XXI столітті біотехнологічна революція може качнути маятник у зворотний бік: централізований розподіл інформації може стати більш ефективним. Якщо демократія не пристосується до нових умов, нові люди будуть жити при цифровий диктатурі. Візьмемо, наприклад, Північну Корею: люди там будуть носити, скажімо, спеціальні біометричні браслети. Коли людина увійде в кімнату і побачить портрет чергового великого вождя, браслет зафіксує її емоції, тиск і передасть дані до відповідних органів – так буде виглядати цифрова диктатура.

Контроль інформації дозволить світовим елітам зробити щось ще більш радикальне, ніж цифрова диктатура. "Зламуючи" організми, еліти отримають можливість перебудувати майбутнє життя. І це буде найбільша революція в історії не просто людства, а всього живого на Землі. Упродовж 4 млрд років правила існування життя на планеті не змінювалися, все живе підпорядковувалося законам природного відбору і органічної біохімії. Але зараз наука замінює еволюцію за допомогою природного відбору еволюцією за допомогою розумного задуму. Задуму Божого не, а людського. Якщо не врегулювати це питання, крихітна група людей, еліта, отримає до неї доступ і буде визначати майбутнє життя на Землі.

Багато політиків, як музиканти: вони грають на людських емоціях і біохімічній системі. Політик виголошує промову, і вся країна охоплена страхом. Політик публікує "твіт" – і вибух гніву. Не думаю, що варто давати цим "музикантам" найдосконаліші інструменти і вже тим більше довіряти життя у Всесвіті. Крім усього іншого, у них навіть немає свого бачення майбутнього. Замість цього вони годують публіку ностальгічними фантазіями про минуле. Як історик можу розповісти вам про минуле. Перш за все там було не так уже й класно – побувати там вам би не захотілося. До того ж минуле не повернеться. Тому ностальгічні фантазії – не вирішення.

Кому ж повинна належати інформація? Чесно – не знаю. Дискусія про це тільки почалася. Не можна чекати негайної відповіді на це важливе питання. До обговорення повинні підключитися вчені, філософи, юристи і навіть поети. Особливо поети! Адже від відповіді на нього залежить майбутнє не тільки людства, але і самого життя на планеті.

Але прогрес поки незначний. Більшість людей взагалі не усвідомлюють, що відбувається і що на кону. Багато урядів (за винятком влади Китаю – там точно все розуміють) також відмахуються: у нас є більш термінові справи. І це дуже небезпечно. Як історик я намагаюся донести до максимально великої кількості людей, що відбувається в світі, щоб якомога більше людей взяли участь в обговоренні нашого загального майбутнього.