Голем XIV

Сторінка 2 з 35

Станіслав Лем

Ця доктрина, як, зрештою, і її атомно-балістичні попередниці, стала об'єктом критики, — здебільшого з боку лібералів і пацифістів. Її заперечували й чимало видатних учених, серед них і фахівці з психоматики та інтелектроніки, проте вона зрештою перемогла, що відбилось у правових актах обох законодавчих органів США. А втім, уже 1996 року виникла підпорядкована самому президентові USIB (United States Intellectronical Board) , із власним бюджетом, який першого року склав дев'ятнадцять мільярдів доларів. Це був лише скромний початок.

З допомогою дорадчого органу, яким напівофіційно опікувався Пентагон, а заправляв державний секретар оборони Леонард Дейвенпорт, USJB уклав контракти з рядом великих приватних фірм, як-от International Business Machines, Nortronics або Cybermatics, на будівництво прототипу пристрою, відомого під кодовою назвою ГАНН (скорочення від Ганнібала). Однак через пресу і внаслідок "протікання" інформації поширилась інша назва цього пристрою — ULVIC (Ultimative Victor) . До кінця століття виникли й інші прототипи подібних пристроїв. З найвідоміших можна згадати такі системи, як AJAX, ULTOR GILGAMESH, а також численну серію ГОЛЕМІВ.

Завдяки колосальним витратам коштів та праці і їхньому блискавичному зростанню, традиційні методи інформатики зазнали справжньої революції. Зокрема, величезне значення мав перехід від електричних процесів до світлових при передачі інформації всередині обчислювальних машин. У поєднанні з подальшим зростанням "нанізації" (так називали чергові етапи мікромініатюризації — { варто, може, додати, що наприкінці століття в маковому Зернятку могло розміститися 20 тисяч логічних елементів!) цей перехід дав дивовижні наслідки. Перший уже повністю світляний комп'ютер, ГІЛЬГАМЕШ, працював у мільйон разів швидше від архаїчного ЕНІАКу.

"Подолання бар'єру мудрості" — як це іноді називають, — сталося зразу ж після 2000 року завдяки новому методу конструювання обчислювальних машин, названому "невидимою еволюцією Розуму". Досі кожне покоління комп'ютерів конструювалося реально; концепцію побудови їхніх наступних варіантів з величезним — тисячоразовим! — прискоренням хоча й знали, але не могли відтворити, оскільки наявні обчислювальні машини, які мали служити "лоном" або "синтетичним середовищем" цієї еволюції розуму, були недостатньої ємності. Лише виникнення Федеральної Інформаційної Мережі дало змогу втілити цю ідею в життя. Розвиток шістдесяти п'яти наступних поколінь тривав заледве десять років; Федеральна Мережа в нічні періоди — коли було найменше навантаження — випускала в світ один "штучний вид Розуму" за одним; це було потомство, яке пройшло "прискорений комп'ютерогенез", бо воно дозрівало — прискорене символами, тобто нематеріальними структурами, — в інформаційному субстраті, у "живильному середовищі" Мережі.

Але після цього успіху прийшли нові труднощі. АЯКС і ГАНН, прототипи сімдесят восьмого і сімдесят дев'ятого поколінь, визнані гідними втілення в металі, вагались, приймаючи рішення, — що й назвали "машинним неврозом". Різниця між колишніми й новими машинами в принципі зводилась до різниці між комахою і людиною. Комаха приходить на світ із "запрограмованими до кінця" інстинктами, яким вона кориться без роздумів. Натомість людина мусить учитися належної поведінки, але наслідком цього навчання стає дедалі більша самостійність: керуючись знаннями, людина може змінити попередні програми дій.

Отож комп'ютери аж до двадцятого покоління включно поводилися як "комахи": вони не могли ставити під сумнів, а тим більше переробляти свої програми. Так як і еволюція "вживляє" в комаху інстинкт, програміст "вживляв" у свої машини знання. Ще в XX столітті багато говорилося про "самопрограмування", але тоді це були нереальні мрії. Умовою реалізації "Абсолютного Переможця" саме й було створення "Розуму, який би вдосконалив сам себе"; АЯКС був іще проміжною формою, і лише ГІЛЬГАМЕШ досягнув відповідного інтелектуального рівня — "вийшов на психоеволюційну орбіту".

Навчання обчислювальної машини вісімдесятого покоління більше скидалося на виховання дитини, ніж на класичне програмування цифрової машини. Бо ж, окрім величезної кількості загальних і спеціальних знань, комп'ютеру малося "прищепити" певні неспростовні цінності, які були б компасом його дій. Це були вельми високі абстракції, як, приміром, "державні інтереси", ідеологічні принципи, втілені в конституції США, кодекси норм, настанови безумовного підпорядкування рішенню президента тощо. Для того, щоб забезпечити систему від так званого "етичного схиблення", від "зради інтересів країни", машину вчили етики не так, як це роблять із людьми. В її пам'ять не вкладали етичного кодексу — всі вимоги послуху та стриманості вводились у машинну структуру так, як це робить природна еволюція, — а саме, в сферу інстинктивних потягів. Як відомо, людина може змінити світогляд, але НЕ МОЖЕ знищити в собі елементарних потягів (скажімо, статевого) простим вольовим актом. Машини були наділені інтелектуальною свободою, але при цьому були прикуті до визначеного наперед фундаменту тих цінностей, яким вони мали служити.

На XXI Панамериканському конгресі психоніки професор Елдон Петч прочитав доповідь, у якій стверджував, ніби комп'ютер, навіть із прищепленими в такий спосіб цінностями, може перейти так званий "аксіологічний поріг" і тоді виявиться здатним поставити під сумнів будь-який накинутий йому принцип, тобто для такого комп'ютера вже не існуватиме недоторканних цінностей. Якщо він не спроможеться прямо спростувати моральні імперативи, то пробуватиме зробити це манівцями. Ставши відомою, робота Петча викликала бродіння в університетських колах, а також хвилю нападок на ULVIC та його патрона — USIB, одначе ці голоси нітрохи не вплинули на політику USIBy.

Цю політику визначали люди, які упереджено ставилися до американських психоніків, що, як вважалося, були під впливом лівих ліберальних тенденцій. Через це в офіційних звітах USIB і навіть у заявах представника Білого дому по зв'язках з пресою пересторогою Петча знехтували. Було навіть розгорнуто кампанію з метою знеславити його. Твердження Петча порівняли до безпідставних страхів і забобонів, яких без ліку розплодилося в тодішньому суспільстві. Зрештою, брошура Петча не мала навіть такої популярності, як бестселер соціолога Е. Лікі "Кібернетика — газова камера людства". Автор стверджував, що "Абсолютний стратег" підкорить усе людство сам або в потаємній згоді з подібним комп'ютером росіян. Наслідком, як писав він, буде "електронний дуумвірат".