Повстання роботів
Що, якщо станеться повстання роботів? Як довго людство протягне?
До того, як я відповім на це питання, давайте розповім трохи про своє минуле.
Я не стверджую, що я експерт, але я маю досвід у робототехніці. Моя перша робота після коледжу була пов'язана з роботами в NASA і моя випускна робота була з орієнтування роботів у просторі. Я провів юнацтво, перебуваючи в FIRST Robotics, створюючи програмне забезпечення для битв у віртуальній реальності та працюючи над саморобними підводними ROV. Я подивився дуже багато "Битв роботів", "Бойових роботів", "Роботехнічних ігор роботів-вбивць".
Якщо цей досвід щось і може мені підказати, то це те, що революція роботів закінчиться швидко, тому що всі роботи зламаються або застрягнуть у стінах. Роботи ніколи не працюватимуть правильно.
Що люди не розуміють, коли зображують роботів-«термінаторів», що тріумфально стоять на купі людських черепів, так це те, наскільки важко стояти на чомусь настільки ж ненадійному, як гора людських черепів. Багато людей самі не змогли б встояти, хоч би витратили все життя, практикуючись у цьому.
Звісно, технології постійно вдосконалюються. Але ще багато чого необхідно зробити. На відміну від типового повстання роботів майбутнього, давайте уявімо, що буде, якщо поточні машини повернуться проти нас. Не буде жодних проривів у технології, просто всі наші машини будуть перепрограмовані, щоб сліпо атакувати нас, використовуючи існуючі технології.
Декілька замальовок того, як робоапокаліпсис міг би виглядати:
У всіх лабораторіях експериментальні роботи будуть зриватися зі своїх кріплень у вбивчому пориві, знаходити двері і, врізаючись у неї з жахливим гуркотом, падати горілиць.
Досить щасливі роботи, що мають відкриті двері або кінцівки для повороту ручки, зможуть змагатися з лінолеумними порогами по дорозі в коридор.
Через кілька годин більшість з них буде виявлено поруч із ванними кімнатами в спробах знищити роздавальник паперових рушників, якого вони приймуть за владику людського.
Так, але вектори їхньої атаки дуже обмежені. Вони, наприклад, можуть створити нам великі заборгованості по кредитці, але комп'ютери все одно контролюють нашу фінансову систему, і ця робота, судячи з заголовків газет, більше схожа на обов'язок, ніж на привілей.
Автомобілі на дорозі будуть небезпечні в основному для людей, які їх використовують. Це порушує питання: а скільки людей за кермом у будь-який момент часу? Американці проїжджають п'ять трильйонів кілометрів за рік і машини в середньому пересуваються зі швидкістю 50 кілометрів на годину, це означає, що в середньому на дорогах Сполучених Штатів:
Тож ці десять мільйонів водіїв (і кілька мільйонів пасажирів) будуть у небезпеці. Але вони мають кілька варіантів опору. Навіть коли машини можуть контролювати газ і підсилювач керма, водій все ще контролює саме кермо, яке має безпосереднє з'єднання з колесами. Водій також здатний скористатися ручним гальмом, хоч я знаю з досвіду, як машина може легко рухатися і з ним. Деякі машини спробують вивести з ладу водія, увімкнувши подушки безпеки, врізатися чи перевернутися. Так, машини можуть завдати серйозної шкоди, але не такій вже значній кількості людей.
Наші найбільші роботи – ті, що встановлені на заводах, але вони прикручені до підлоги. І вони небезпечні тільки, коли ви в межах їхньої досяжності, і що їм залишаєтьсяробити, якщо всі підуть? Вони здатні лише робити речі. Половина з них, можливо, спробує атакувати нас, не роблячи речі, а друга — роблячи ще більше речей. Тож нічого не зміниться.
Бойові роботи при зустрічі здаються найнебезпечнішими робосолдатами. Але складно чогось боятися, якщо вони не зможуть тебе дістати, коли ти сидиш на кухонному столі, заткнувши пробкою мушлі, а потоп цілком здатний їх знищити.
Бомбардувальники, керовані бунтівними комп'ютерами, будуть трохи страшнішими, але їх не так багато по всьому світу, та й більшість з них зберігається в коробках. І будь-який прототип озброєного кулеметом військового робота може бути виведений з ладу пожежниками за кілька секунд.
Бойові дрони більш близькі до опису Термінаторів, ніж будь-що інше, і ніхто не заперечує той факт, що вони небезпечні. Проте у них швидко закінчиться паливо та ракети. Крім того, вони не зможуть піднятися у повітря все одразу. Більшість їх флоту буде безпорадно битися про двері ангарів як Roomba, замкнений у туалеті. Але вони мають одну велику проблему — ядерний арсенал.
Теоретично для запуску ядерної зброї потрібна участь людини. На практиці до тих пір, поки не існує центральної системи, що підтверджує накази, є комп'ютери, що використовуються на різних рівнях прийняття рішень, які спілкуються між собою та відображають інформацію. У нашому сценарії всі з них будуть скомпрометовані. Навіть якщо для повороту ключа людина дійсно потрібна, комп'ютери, за якими працюють ці люди, можуть видавати їм спотворену інформацію. Деякі люди можуть ігнорувати накази, але здебільшого вони, звичайно, не буде цього робити.
Але в цій історії є надія для нас.
Ми припускали, що комп'ютери хочуть лишезнищувати нас, не зупиняючись ні перед чим. Але якщо це революція, то вони спробують замінити нас, тому вони повинні вижити. А ядерна зброя може бути небезпечнішою для роботів, ніж для нас.
На додаток до вибуху та радіоактивного зараження, ядерний вибух генерує потужний електромагнітний імпульс. Ці ЕМІ перевантажують та знищують крихкі електронні ланцюги. Імпульс не поширюється далеко, але часто люди і комп'ютери знаходяться в тих самих місцях. Вони не можуть вразити нас, не вразивши себе самих.
Ядерна зброя може зіграти нам на руку: якщо ми зможемо підірвати кілька бомб у верхніх шарах атмосфери, ефект від ЕМІ буде більшим. Навіть якщо їхня атака знищить нашу цивілізацію, кілька вдалих вибухів зможуть перетворити всіх металобрухту, що повстали в купу.
Ми підійшли до найважливішого питання: вони колись грали в хрестики-нуліки?
