Коли надія перевищує страх, то вона породжує відвагу.
Георгій Кониський, український письменник, проповідник, церковний і культурний діяч

Iлон Маск застерігає...

Про «червоні лінії» для людства
13 квітня, 2018 - 13:18
ПОБАЧЕННЯ З РОБОТОМ ЗАКІНЧИЛОСЯ ФІАСКО ДЛЯ... ЛЮДИНИ. АКТОР ВІЛЛ СМІТ ТА АНДРОЇД СОФІЯ ЗУСТРІЛИСЯ НА КАЙМАНОВИХ ОСТРОВАХ. СОФІЯ ВІДМОВИЛАСЯ ВІД ЗАПРОПОНОВАНОГО СМІТОМ ВИНА, НАЗВАЛА ЙОГО ЖАРТИ «ІРРАЦІОНАЛЬНОЮ ПОВЕДІНКОЮ ЛЮДИНИ», РОЗКРИТИКУВАЛА МУЗИЧНУ ТВОРЧІСТЬ АКТОРА І НА СПРОБУ ЇЇ ПОЦІЛУВАТИ ВІДПОВІЛА «НАМ КРАЩЕ ЗАЛИШИТИСЯ ДРУЗЯМИ»

Раціоналістичне ХVІІІ століття («вік Просвітництва») з його лінійним розумінням суспільного прогресу, тлумаченням соціуму як певного  механізму, хай навіть складно улаштованого (між іншим, саме в тій добі  криється коріння багатьох  потужних доктрин ХІХ та ХХ століть, зокрема, і ліберальної, і марксистської!) — це століття і донині, хай непомітно, впливає на світогляд безлічі «передових умів». Свідченням цьому є дуже стійке і живуче переконання у безмежній, рятівній силі наукового прогресу та пізнання взагалі (мовляв, безкінечне  пізнання Всесвіту,  природи й людини саме по собі є запорукою розв’язання важких планетарних проблем і тяглості того ж таки прогресу, вкрай спрощено тлумаченого). Деінде тривають ще й заклики, хай закамуфльовані, до абсолютного опанування природними ресурсами і багатствами (прибуток вабить).  І це — попри зміцнілий всесвітній екологічний рух...

Тут ми взагалі маємо справу з винятково  серйозною засадничою, світоглядною проблемою: де межі людського пізнання та чи розуміє земна спільнота, що існують й існуватимуть жорсткі (хай неочевидні) «червоні прапорці» або ж «червоні лінії», вихід за межі котрих реально загрожує землянам вкрай важко передбачуваними результатами.  І екологічними, і соціальними, і ресурсними, і ментальними, і біологічними, і ще безліччю інших, що їх навіть неможливо сьогодні  уявити собі. Над цим гранично серйозним питанням змушують замислитись (як мінімум) слова  всесвітньо відомого інженера, підприємця, вченого й громадського діяча Ілона Маска. Ця неймовірно активна людина, котра напружено працює над проектом надважливої для людства експедиції на Марс, висловила днями таке застереження, для багатьох, цілком можливо, несподіване. А саме, Маск сказав буквально таке: «Штучний інтелект є для людства небезпечнішим за атомну зброю».

ФОТО РЕЙТЕР

Якщо, звісно, не поставитись до цих застережливих  слів як до необов’язкової «гри розуму», а проаналізувати сказане Маском із належною серйозністю, то відкривається дуже широкий простір для аналізу й роздумів. Перший, очевидний висновок, що буквально лежить на поверхні: це не така вже складна  для осягнення думка: ядерну зброю, бодай дуже кепсько, великі держави хоч якось  спромоглися контролювати (ми не беремо тут приклад Північної Кореї, Ірану, ба більше — Ілон Маск  геть не стверджував, що ядерна зброя є благом, він лише порівняв її  з більшим, на його думку, злом). В той час як штучний інтелект, що, як дехто впевнений, відкриває для землян «небачені можливості», насправді може  приховувати в собі якісно нові небезпеки, що про  них ми навіть наразі й не думаємо. А що, як «штучні розумні істоти» здобудуть у майбутньому можливість контролювати людей і людство (саме так, а не навпаки!), змінювати за своїм  розсудом наш мозок, нашу біологічну природу. Цьому присвячена низка творів класиків наукової  фантастики  — від  Бредбері  до Азімова, від Саймака до Шеклі, десятки  знаменитих фільмів (від блискучих американських до цікавої радянської «молодіжної» стрічки доби  так званого «совка» «Підлітки у Всесвіті», де розглядаються ці самі проблеми). Але колишня фантастика, як показує життя, з немислимою швидкістю стає реальністю. Хто може виключати, що цей виклик «в усій красі» не  постане  перед людством  уже в  цьому столітті? І наші діти (внуки) побачать це...

Цим аж ніяк не вичерпується  проблема. Узагальнюючи, можна сказати,  що наслідки усіх наших «великих наукових революцій» в першу чергу, звичайно, є саме такими, на які розраховують їхні  творці, проте  у другу і третю чергу будуть (і то незворотно) абсолютно несподіваними для землян. Отож, треба бути максимально обережними, не сім, а сорок разів по сім «відмірити», до того як щось робити.  По-перше, з тих самих мотивів, з яких дітям не дозволяють  гратись із сірниками. А по-друге, не  забуваймо, що більшість видатних вчених ХХ століття, маємо на увазі насамперед таких великих фізиків, як Ейнштейн, Гейзенберг, Дірак, Шредінгер, Бор, наш  сучасник — нині покійний Стівен Хокінг,  в тій чи іншій формі визнавали, що існує дещо нам непідвладне, непідконтрольне, непізнаванне, певна «Вища Сила» (не обов’язково це — повний синонім і тотожність Бога!). І нарешті,  варто згадати Франкенштейна Мері Шеллі, чудовисько, створене вченим-відлюдником, котре вийшло з-під його контролю й оголосило війну людям (це — 1819 рік). Не зайвим було б добре пам’ятати й мудрість, викладену в Біблії: «В усіх справах твоїх пам’ятай про кінець!»

 

Газета: 
Новини партнерів