Як роботів захищатимуть від людей - українська газета
Вже сьогодні розумні машини готові взяти на себе 45% діяльності людей. Приклади? Роботи вже давно "свої" у фінансовій сфері, скажімо, на біржовому ринку вони виконують близько 80 відсотків операцій. У найближчих 7-8 років передача рутинних операцій роботам призведе до зростання безробіття на 35-40 відсотків. Причому йдеться не лише про виробництво, а й про інтелектуальну діяльність. Роботи вже пишуть музику та вірші, машина-журналіст за хвилину успішно написала статтю. Але цього мало. Роботи замахнулися навіть на керівників. Такий "бос" спочатку має пройти навчання, стежачи за роботою людини, аналізуючи її помилки, обираючи оптимальний варіант. Переваги "залізного" начальника очевидні. Він здатний тримати в "голові" всі маршрути руху документів, різні варіанти прийняття рішень, миттєво порівнювати їхні наслідки, вчитися на помилках і ніколи їх не повторювати.
Яку кар'єру здатні зробити роботи? До якого поверху керівної вертикалі можуть піднятися, і чи дозволить людина так принизити себе? Ці питання сьогодні активно обговорюються не лише творцями такої техніки, а й економістами, юристами, бізнесменами, соціологами.
Несподіваний погляд на проблему пропонують американські вчені Гордон Бріггс і Маттіас Шойц з Університету Тафтса. Вони впевнені, що найбільшу загрозу для людства несуть не суперінтелектуальні машини, які нібито в якийсь момент не захочуть виконувати команди людини та вийдуть із її підпорядкування, а сама людина. Насамперед це його помилки при створенні такої техніки. Справа в тому, що в самих командах, які людина дає своєму підопічному, можуть бути нечіткі, двозначні інструкції. Скажімо, людина спізнюється на роботу тадає команду роботу-автомобілю якнайшвидше доставити його в офіс. А якщо на шосе сильна ожеледиця? Що робити? Якщо беззаперечно виконувати команду, то є великий шанс потрапити в аварію. Не підкорюватися? Але це має бути закладено у алгоритмі. Є варіанти, коли людина зможе вводити роботів в оману, прагнучи використовувати у своїх корисливих цілях.
Як бути у таких ситуаціях? Бріггс та Шойц вважають, що робота треба навчити говорити "ні". Для цього його пропонує наділити здатністю до хоча б елементарного мислення, щоб він міг зрозуміти, чи небезпечно виконувати команду людини. Завдання, прямо скажемо, найскладніше, але вчені вже взялися за його вирішення. У всякому разі, склали необхідні алгоритми, вбудували їх у мізки робота та розпочали перші експерименти.
А як поведуться люди, якщо "моралізують" і "розумні" роботи відмовляться виконувати їхні команди? Чи погодяться чи ні брати участь в обмані? У використанні людиною машини, щоб завдати шкоди іншій людині? Це важливі питання. В принципі, робот може стати на шляху злої волі людини, розпізнавати та усувати його недоліки. Перспектива, прямо скажемо, несподівана та захоплююча.