Штучний інтелект може почати домінувати над людиною – Харарі

Ізраїльський історик та футуролог Юваль Ной Харарі взяв участь у програмі CBS «60 хвилин», про це пише ZN.UA.

Під час інтерв'ю, серед іншого, він поділився своїми поглядами на розвиток технологій та штучного інтелекту, а також висловив стурбованість збиранням даних людей, яким займаються держави та корпорації.

На думку вченого, країни та компанії, які контролюють більшу частину даних, згодом будуть тими, хто контролює світ.

У своїй книзі «Майбутнє навчання» вчений пише «Netflix говорить нам, що дивитися, а Amazon – що купувати. Ймовірно, що через 10-20 років алгоритми будуть говорити нам, де вчитися, де працювати, з ким одружуватися і за кого голосувати». Без контролю над тим, хто і які дані отримує, ми можемо перетворитися на «зламаних людей», тобто хтось знатиме про нас більше, ніж ми знаємо самі про себе.

«Уявіть собі світ через 20 років, у якому особиста історія кожного журналіста, кожного судді, кожного військового перебуває в руках когось у Пекіні чи Вашингтоні. Здатність маніпулювати ними буде такою, якою ще ніколи не було в історії», – заявив Харарі.

Вчений також побоюється, що пандемія започаткувала новий тип збору даних – біометричних. Вже зараз держави та компанії збирають дані про те, куди ми ходимо і що дивимося, на наступному етапі – збір даних про те, що відбувається під нашою шкірою.

Харарі називає фітнес-трекери та розумні годинники – «агентами КДБ, які ми носимо на зап'ясті». За його словами, такі гаджети можуть допомогти створити найкращу систему охорони здоров'я з усіх, які будь-коли існували. Але залишається питання про те, куди ці дані йдуть, хто їх збирає та контролює.

Говорячи про штучний інтелект, Харарі заявив, що в майбутньому той може почати домінувати над людьми.

Вчений зазначив, що існування стародавніх міст, які зараз досліджують археологи, стало можливим лише завдяки тому, що 70 тисяч років тому у нашого виду, Homo sapiens, відбулися когнітивні зміни, які дозволили розвинутися мові, яка потім уможливила співпрацю. І ця співпраця дозволила нашому виду домінувати над неандертальцями та іншими видами стародавніх людей, менш здатних до кооперації. Але тепер людство перебуває на порозі домінування з боку штучного інтелекту.

«Можливо, найбільша проблема, з якою ми зіткнулися, – це еволюційна розбіжність. Протягом мільйонів років інтелект та свідомість йшли разом. Свідомість – це здатність відчувати такі речі, як біль, задоволення, кохання та ненависть. Але комп'ютери не мають свідомості, мають лише інтелект. Вони вирішують проблеми зовсім інакше, ніж ми. У науковій фантастиці дуже часто описується процес, при якому комп'ютери стають все розумнішими і набувають свідомості. Але набагато страшніше, якщо вони зможуть вирішувати все більше проблем краще, ніж ми, не маючи свідомості», – вважає Харарі.

Вчений вважає, що ШІ вже має владу над людиною. Наприклад, деякі кредитори користуються штучним інтелектом, щоб визначити, хто може отримати кредит.

«Зараз ми знаходимося в точці, де нам потрібна глобальна співпраця. Неможливо регулювати вибухову міць штучного інтелекту на національному рівні. Я не намагаюся пророкувати про щось, що станеться у майбутньому. Я намагаюся попередити людей про найнебезпечніші можливості в надії, що ми зробимо щось у теперішньому, щоб їх запобігти», – заявив Харарі.

Нагадаємо, учені зі США з'ясували, що людський мозок двічі різко збільшився в розмірах, а потім знову зменшився у зв'язку з розширенням колективного розуму в людських спільнотах. 

ЧИТАЙТЕ ТАКОЖ:

• Facebook розробляє штучний інтелект, який буде бачити очима людини
• Штучний інтелект відтворив три втрачені картини Клімта
• У Києві звучала опера, написана штучним інтелектом (фото)