Про владу роботів
Масова культура найчастіше змальовує дуже кумедні картини щодо недалекого майбутнього. Практично у всіх творах - від наукової фантастики до більш-менш серйозних футурологічних прогнозів особливе місце в житті людини (а іноді, і не тільки в житті) займає штучний інтелект або скорочено "ІІ".
Останні кілька десятків років ми постійно стикаємось із цим явищем. Нас оточує безліч інтелектуальних пристроїв, які допомагають нам своїми корисними послугами: завдяки ІІ ми спілкуємось, ведемо записи цікавих моментів свого життя, враховуємо свої фінанси, охороняємо себе. І з кожним роком все більше і більше функцій перекладаються з тендітних плечей людини на надійні плечі ІІ, що не втомлюються. Багато хто, можливо, і не в курсі, що вже майже 40 років більшість функцій збирання і взагалі виготовлення продукції цілком і повністю в руках автоматизованих систем. Існують виробництва, де людей практично немає – все виконується роботами під керуванням штучного розуму.
Але це ще півбіди. Існують галузі (наприклад, пілотування сучасних літаків та космічних кораблів), де людина тільки приймає рішення, а всі операції за неї робить комп'ютер. З іншого боку, у світі дедалі більше роботів знаходять військове застосування: від роботів-саперів до безпілотних літальних апаратів, здатних здійснювати як розвідувальні, а й бойові функції.
Все вищезгадане дозволяє зробити дуже неприємні висновки: враховуючи швидкість розвитку ІІ, чи не виникне ситуація, коли людство критично залежатиме від своїх електронних помічників? А, можливо, все буде ще гірше – чи не захочуть вчорашні помічники позбутися своїх батьків? Усі пам'ятають фільми зфраншизи «Термінатора» або «Матриці» про те, як окрема людина чи все людство протистоїть холодному та розважливому штучному інтелекту, що захопив владу над світом; ця перспектива лякає обивателя не менше, ніж гіпотетичний ядерний апокаліпсис. Над саркастичним бажанням «вбити всіх людей» героя-робота із серіалу прийнято сміятися, проте випадки вже були!
Перший випадок убивства людини роботом стався ще на початку 1979 року. Через помилку в програмі робот за допомогою маніпулятора вбив механіка, який налаштовував його. З того часу, в середньому раз на 2-3 роки відбувалися нещасні випадки, коли жертви-люди приймали смерть від різних роботів: від військових до роботів-масажистів. Цікавим є випадок, що стався в армії ПАР у 2007 році. Там, через збій у програмі, оснащене роботизованою системою наведення та розпізнавання цілей, артилерійська зброя дала збій та почала стріляти по своїх. Підсумок стрільб: 10 убитих та 14 поранених.
Тобто навіть на даному рівні розвитку включення в наше життя автономних помічників, якими є роботи під керівництвом ІІ, є реальною небезпекою. Що ж станеться у майбутньому? Чи не зіткнемося ми з проблемою виживання через усвідомлення ІІ того, що він нас більше не потребує. Деякі прогнозисти (а іноді навіть і серйозні фахівці в галузі ІІ) кажуть, що це цілком можливо. Однак переважна більшість їхніх колег у це не вірить; точніше, вони переконані, що це не відбудеться. Чим же можна пояснити таку впевненість?
Справа в тому, що всі сучасні комп'ютери (і пристрої, виготовлені на їх основі) влаштовані абсолютно однаково. Принципи їхнього функціонування виклав ще Алан Т'юрінг у 30-х роках минулого століття. Якщо описати це двома словами, то все абсолютно елементарно:апарат виконує якусь команду та, залежно від результату її виконання, переходить до однієї з наступних команд. Ось і весь принцип роботи. Решта – технічні деталі. Таким чином, вся «поведінка» будь-якого ІІ – це виконання написаної програми, тобто, як програміст напише – так і буде.
Виникає цілком резонне питання – а що станеться, якщо комп'ютер сам писатиме собі програму, і сам її виконуватиме? Чи не можливий варіант, що таким чином і вийде обхід будь-яких можливих правил і обмежень, накладених на нього програмістом.
Відповідь це питання було дано ще до винаходу Тьюрингом основ роботи комп'ютерів. 1930 року австрійський математик Курт Гедель довів свою теорему про неповноту. Сенс її досить складний розуміння, але загальна ідея у тому, що не можна повністю описати систему, користуючись правилами і законами, діючими лише у межах цієї системи. Наприклад, не можна описати арифметику, використовуючи лише закони арифметики – для цього потрібна алгебра. Як і алгебру не можна описати лише з допомогою алгебри, необхідний математичний аналіз. І так далі.
Ця теорема, незважаючи на своє здається виключно математичне або логічне застосування, насправді виявляє себе майже у всіх дисциплінах та науках. З неї, зокрема, випливає, що людство ніколи не дізнається, як працює людський мозок. Справді, як можна описати роботу мозку, маючи в розпорядженні лише такий інструмент, як сам мозок?
Така ж ситуація відбувається і зі штучним розумом: ІІ не напише сам для себе алгоритм, оскільки працює в рамках системи, яка визначається тими самими принципами, що і алгоритм, який він має створити. Тобто будь-який самостійний алгоритм, написаний ІІ, буде «гіршим», ніжтой, у якому працює сам ІІ. Отже, самостійний прогрес ІІ без участі зовнішніх факторів неможливий. І це ми ще не розглядали питання творчості та інтуїції, притаманні виключно людині, але ніяк не ІІ.
З моменту відкриття теорії алгоритмів Тьюрінгом (1936 р) було зроблено лише два якісні прориви в науці про ІІ. Перший – поява нейромереж (1957 рік) та другий – поява т.зв. "нечіткої логіки" (1964 рік). І на цьому все. Нічого нового за останні 50 років придумано не було. Весь сучасний ІІ базується виключно на цих допотопних по суті технологіях. Весь інший прогрес був суто кількісний – комп'ютери працювали швидше, обробляли великі обсяги даних, зв'язувалися друг з одним великих відстанях тощо.
Можливо, у XXI столітті з'явиться щось нове, якась технологія, що дозволяє якщо не обійти теорему, що обмежує можливості ІІ, то хоча б щось, що хоч трохи наближає його до людського інтелекту. Але поки це тільки мрії…