Як штучний інтелект збожеволів

Історія з HAL 9000 із роману А. Кларка «2001: Космічна одіссея» (1968).

штучний

Космічний корабель "Діскавері-1", оснащений комп'ютером зі штучним інтелектом на ім'я HAL 9000 (Heuristic ALgorithmic computer), мав летіти до Юпітера. Після того, як "чорний моноліт", знайдений на Місяці, відправив сигнал на Япет (супутник Сатурна), місія "Діскавері-1" була змінена. Замість Юпітера він мав летіти до Сатурна.

Про зміну напрямку польоту знали троє: командир (Дейв Боумен), другий пілот (Френк Пул) та HAL. Інші члени екіпажу, за інструкцією даної НАСА, повинні були залишатися у невіданні щодо нової мети.

На жаль, експерти НАСА не передбачили впливу своїх інструкцій на штучний розум. HAL зіштовхнувся з нерозв'язною проблемою. З одного боку, він не повинен був дозволити дати інформацію про справжні цілі експедиції екіпажу, з іншого, після виходу з анабіозу, вони всі довідалися б.

В результаті HAL знайшов єдиний спосіб в точності виконати дану йому інструкцію. Він вирішив вбити членів експедиції, від яких ховалась інформація. Коли Боумен і Пул, бачачи дива в роботі комп'ютера, спробували вимкнути його, той вирішив убити їх теж.

У результаті вижив один командир, який зміг відключити модулі, які відповідають за особистість HAL'а. Цікаво, що під час відключення, HAL, усвідомивши, що зробити вже нічого не можна, став виявляти емоції (розпач і страх).

Після того, як логічні модулі повністю відключені, HAL остаточно деградував і почав співати «Daisy Bell».

З цією пісенькою пов'язана цікава історія. У 1962 році, коли Артур Кларк був присутнім на демонстрації синтезу голосу комп'ютером, уперше в світі комп'ютер IBM 704 відтворив людський голос.Голосовий синтезатор зміг відтворити пісеньку Daisy Bell. Цей момент справив на Кларка таке сильне враження, що він вирішив ввести цей момент у фільм.

У романі (і фільмі) зроблено припущення, що комп'ютери зі штучним інтелектом здатні до самонавчання рано чи пізно розвинуть емоції подібні до людських, що призведе до можливих порушень у їх роботі (в "психіці").