Чи варто побоюватися вдосконалення штучного інтелекту, Нанотехнології Nanonewsnet
Останнім часом стало модно побоюватися, що високорозвинений штучний інтелект колись повстане проти людей. Або ще якось нашкодить. Світові ЗМІ регулярно публікують подібні прогнози, і подібні думки висловили деякі відомі бізнесмени, науковці та IT-фахівці. Але є й інший ― оптимістичний ― погляд на майбутню роль технологій ІІ.
Голоси песимістів сьогодні все голосніше, і до їхнього табору примикають нові «агенти впливу», люди і цілі компанії, до чиєї думки прислухаються все ширші верстви населення. Скажімо, ось зовсім свіжий приклад від The Guardian:
Не дивно, що на цьому фоні багато хто з нас воліє, щоб технології ІІ не розвивалися. Навіщо вирощувати те, що незабаром може позбавити тебе роботи?
Проте чимало людей дотримуються іншого погляду це питання. Штучний інтелект - одна з найважливіших IT-технологій, що отримали розвиток за останнє десятиліття. І для нас ІІ не загроза, а інструмент із чудовими можливостями. Грубо кажучи, ІІ можна охарактеризувати як здатність комп'ютера розуміти питання людини, шукати інформацію в базах даних та формулювати точні та зрозумілі відповіді. Також ІІ - це здатність комп'ютера обробляти величезні масиви даних, приймати рішення і робити (або радити) певні дії.
Всім відомі такі приклади ІІ, як Siri, Cortana та IBM Watson. Останній є системою, що складається з суперкомп'ютера і спеціального програмного забезпечення. Watson здобув перемогу у грі Jeopardy («Своя гра»), а також використовується для обробки великих обсягів медичних даних під час лікування онкологічних захворювань.
Система AlphaGo, розроблена GoogleDeepMind, обіграла в гру гоЛі Седоля, володаря дев'ятого професійного дана, одного з найкращих майстрів го у світі. Раніше вважалося, що виграти в го комп'ютери не зможуть ще десятиліття.
Але все це лише перші кроки на шляху до справді потужного штучного інтелекту, щось на зразок J.A.R.V.I.S. фільму «Залізна людина».
Які можливості надасть нам ІІ?
Термінатор – один із найвідоміших прикладів застосування ІІ (на даний момент тільки в кінематографі).
Насамперед ― рівні можливості у низці сфер діяльності. Сьогодні пошуковий движок Google забезпечує рівний доступ до світового інформаційного середовища, де б ви не жили. А майбутні системи штучного інтелекту зрівняють можливості людей з погляду користування різноманітними сервісами та послугами, від охорони здоров'я до порад щодо вкладення фінансових коштів. Ну, або, як мінімум, зменшать розрив у подібних можливостях для мешканців різних країн.
ІІ займуть місце у точних науках, фінансуванні, навчанні, дизайні, приготуванні їжі, розвагах та безлічі інших сфер діяльності. Вартість праці ІІ буде вкрай низькою, тому ми зможемо користуватися ним безкоштовно або дуже дешево. Іншими словами, широке впровадження просунутих технологій штучного інтелекту зробить набагато доступнішими різні послуги, що дозволить поліпшити якість життя все швидше зростаючого населення планети. Можливо, наближаючи нас до загального достатку.
(Майже) немає причин для страхів
Людям властиво перебільшувати та давати волю емоціям. Особливо стосовно нових технологій. До того ж мільйони років еволюції – тобто виживання – наділили нас такою властивістю, як страх усього незрозумілого. Хто його знає, на що можна очікувати від цього вашого «розумного» комп'ютера… А Голлівуд і журналісти активно підтримують наші страхи перед майбутнім.
У 1980-х роках вчені відкрили рестриктази ДНК, що відкрило дорогу генної інженерії. І світові ЗМІ почали масово лякати всіх жахливими вірусами, виведеними у лабораторіях, та всілякими мутантами. Натомість ми отримали більш ефективні ліки та вирослу продуктивність сільського господарства. Що примітно, регулювання у сфері генної інженерії було налагоджено з ініціативи вчених та лікарів, а не чиновників. У 1975 році було скликано так звану Асиломарську конференцію, в ході якої професійною спільнотою були вироблені принципи та рекомендації, які до цього дня допомагають розвивати генну інженерію та утримувати її в етичних рамках.
А згадайте, яка істерія виникла у ЗМІ після клонування овечки Доллі у 1996. Нам обіцяли швидку появу армій клонованих солдатів, масове виведення геніїв та цілі ферми спеціально виведених донорів органів. Де це все?
Запобігання загрозам
Звичайно, сильний ІІ, який думає не гірше за людину, ― це зовсім не те саме, що сучасні віртуальні помічники та голосові пошукові движки. Крім захоплюючих можливостей, ми отримаємо і певні ризики, і загрози. Будь-яка радикально нова технологія завжди лякає.Стівен Хокінг назвав штучний інтелект найбільшою помилкою людства. Білл Гейтс зізнався, що «через кілька десятилітьштучний інтелект стане досить розвиненим, щоб стати причиною занепокоєння». Глава високотехнологічних компаній Tesla Motors і SpaceXЕлон Маск висловився про ІІ не інакше як про «головну екзистенційну загрозу».
Однак сам Елон Маск відразу вирішив особисто вкластися в компанію, що займається розробкою ІІ, ймовірно, керуючись принципом «не можеш перемогти ворога – очоли його». Ідею підприємця підтримали співзасновник PayPalПітер Тіль та глава Y CombinatorСем Альтман, профінансувавши некомерційну організацію OpenAI, створену для контролю розробки ІІ.
Ніхто не знає точно, чи достатньо існуючих на сьогоднішній день технологій для появи повноцінного ІІ або потрібно чекати ще десятки років, доки не з'являться нові обчислювальні потужності. Однак припустимо, що відомі нам технології – саме те, що потрібно для ІІ. Першими у створенні штучного інтелекту будуть зацікавлені військові (наприклад, DARPA). Навіть якщо ви створите дружній ІІ, ніхто не завадить якійсь державі довіритись «яструбам війни» і створити ІІ ворожий.
Майбутній ІІ має розуміти абсолютну цінність людського життя. А до появи розумних машин цю цінність мають розуміти творці – самі люди, відповідальні за розвиток необхідних технологій. Представники OpenAI вважають, що світу прямо зараз потрібен провідний дослідницький інститут, який не підкорявся б одному уряду чи певній комерційній корпорації, і чиї наукові дослідження були б доступні всій науковій спільноті за принципом open source.
OpenAI, яку очоливІлля Суцкевер, один із найвідоміших у світі фахівців з машинного навчання, прагне до того, щоб ІІ не опинився в руках якоїсьпевної групи осіб, які мають свої мети. Рішення в галузі безпеки суперінтелекту криється у виключенні небезпечних програмних закладок, можливих (навіть помилково) на стадії створення ІІ.
Метод, підтриманий навіть Елон Маском, передбачає, що добрі люди створять добрий ІІ, який потім роздадуть іншим добрим людям. Однак не забуватимемо, що за останню сотню років людство пережило дві світові війни, одну холодну війну, створило термоядерну, хімічну та бактеріологічну зброю, продовжує брати участь у багатьох локальних конфліктах і веде світову війну з тероризмом. У таких умовах поява ІІ може виявитися суттєвим фактором, що дестабілізує. Чи є у цивілізації інші способи убезпечити себе?
Ми не повинні скидати з рахунків найпростішу нагоду – створення псевдоІІ. Технічний прогрес не зупинити та заборонити наукові дослідження неможливо, але їх реально спрямувати у певне русло. Аналогічна ситуація свого часу сталася із клонуванням. Після появи овечки Доллі ЗМІ періодично вибухали новинами про першу клоновану людину (що заборонено практично у всіх розвинених країнах світу), проте всі вони виявилися містифікаціями. У тому ж ступеня розвиток псевдоінтелектуальних алгоритмів, вирішальних вузький спектр завдань під нашим контролем, позбавить людство можливих загроз.
На цьому етапі розвиток ІІ полягає у вирішенні прикладних завдань. Ми можемо побудувати навчальну систему, яка краще професійного лікаря ставити діагноз, можемо створити програму, яка перемагає людину в будь-які ігри або зробити робота-будівельника, що найшвидше укладає цеглу. Частина дослідників вважає, що на цьому варто зупинитися. Нам цілком вистачить штучногоінтелекту, що вирішує математичні завдання тисячоліття і готує найсмачнішу каву у всесвіті – і це буде два різні інтелекти, з тисячі та тисячі інших, не об'єднаних в єдину мережу.
Прагнення знищити людство чи хоча б одну людину багато в чому обумовлено природою. Еволюція уточнила в нас інстинкти, які допомагають виживати та здійснювати експансію свого вигляду. Інстинкт самозбереження, прагнення домінування, все це робить нас людьми розумним виглядом. Не закладаючи подібні моделі поведінки у штучний розум, ми зможемо убезпечити себе від можливих побічних ефектів ІІ.
Реальний внесок
Тут варто зауважити, що не можна просто взяти та оголосити всім можливим ІІ ультиматум із трьох законів робототехніки. Будь-які закони можна змінити технічно, у них також повнологічних помилок – у будь-якому випадку вони не вважаються аксіомою у світі безпеки. У певних умовах навіть милий котик може загрожувати людині, не кажучи вже про ІІ, і завдання вчених на даному етапі полягає в тому, щоб мінімізувати ризики та скоротити кількість можливих загроз для всього людства.
Крім OpenAI у світі діють кілька організацій, мета роботи яких полягає не лише у створенні ІІ-подібних систем (як, наприклад, у європейському проекті цифрової карти людського мозку Human Brain Project), а й у опрацюванні безпечних умов існування надрозуму.
Компанія GoodAI, що базується в Празі, була створена керуючим і засновником ігрової студії Keen Software House Мареком Роса. Зв'язок з ігрової промисловості тутне випадкова - інтегрування ІІ-технологій покращує якість самих ігор і робить віртуальні світи по-справжньому живими. Однак місія перед GoodAI поставлена глобальніша: створити справді добрий розум, спрямований на розробку нових технологій, наукові відкриття, вивчення космосу та багато іншого. Рік тому GoodAI прозвітувала про кілька успіхів.
Наприклад, Nnaisense. Це молода компанія зі Швейцарії. Стартап, який займається розробкою ІІ на основі навчання нейронних мереж, створений Jürgen Schmidhuber, науковим керівником швейцарської лабораторії штучного інтелекту IDSIA. Команда стартапу розпочинала як університетський проект, а тепер готова вийти на ринок «глибоких даних». Насправді саме такі команди, з багаторічним дослідницьким досвідом і націлені не на прибуток у короткостроковій перспективі, стають першопрохідниками штучного інтелекту. Microsoft, Facebook і Google та інші лідери ринку ІІ не завжди здатні швидко перетворити наукові розробки на комерційно успішний проект. Показовою в цьому плані є історія популярного виробника «лякаючих» роботів Boston Dynamics, якого компанія Google спочатку купила, а тепер намагається продати.
Університети та компанії, які існують на власні гроші засновників, можуть дозволити собі набагато триваліші розробки. Більше того, відсутність необхідності наточувати ІІ на заробляння грошей деякі дослідники вважають необхідною умовою створення «доброго» ІІ.
На даний момент існує цілий дослідницький інститут – Singularity Institute for Artificial Intelligence – який займається питаннями створення виключно дружнього ІІ. За підтримку теорії доброзичливого ІІ виступають багато футурологів, серед яких і знаменитийРей Курцвейл, технічнийдиректор у галузі машинного навчання та обробки природної мови в Google.
У страху великі очі
Поширена помилка – представляти ІІ, як тварина. ІІ буде неймовірно потужним інструментом, який може розширити наші можливості та доступ до інформаційних ресурсів та сервісів. А як ми розпорядимося всім цим, залежить тільки від нас.
Можливо, намагаючись зробити ІІ саме ефективним інструментом вирішення глобальних завдань, а не намагаючись відтворити подобу людського розуму у цифровому середовищі, ми створимо новий безпечний світ. У жодному разі передбачити майбутнє не можна, можна лише передбачити. Тому зараз варто підтримувати проекти, спрямовані на мирні, наукові, дослідницькі цілі. А також якнайширше поширюватися реальну інформацію про успіхи в галузі ІІ. Коли підсвідомий страх перед ІІ перетвориться на цікавість, людство зможе більше зусиль направити на вирішення реальних проблем у суспільстві, екології, економіці, науці тощо.
Погодьтеся, фінансувати дослідження в галузі ІІ та вирішувати етичні комп'ютерні проблеми, набагато корисніше, ніж витрачати мільярди на термоядерну зброю та інші суто мілітарні системи – ті загрози, які набагато страшніші і реальніші за будь-який штучний інтелект.