Штучний інтелект вийшов з-під контролю

вийшов

Вчені та програмісти перестали розуміти, як саме ухвалює рішення штучний інтелект. Про цю проблему заявили одразу кілька фахівців на головній ІІ-конференції - Neural Information Processing Systems, - що пройшла в Лонг-Біч (Каліфорнія).

Експерти, з якими поспілкувалися у Quartz, кажуть, що треба діяти, доки система не стала надто складною. «Ми не хочемо приймати за належне рішення ІІ, без розуміння їхньої логіки, — каже Джейсон Йосінскі з Uber. — Щоб суспільство прийняло моделі машинного навчання, ми повинні знати, як ІІ приймає рішення».

Проблема, яку багато експертів називають «чорною коробочкою», справді серйозна. Попередній досвід показав, що ІІ має схильність приймати упереджені рішення та проводити аналогії там, де їх не слід було б проводити. Помилка ІІ може коштувати дуже дорого, наприклад, під час таких операцій, як космічна місія на Марс. Апарати знаходяться в 200 млн миль від Землі і коштують сотні мільйонів доларів, каже Кірі Вагстафф ІІ-експерт у Jet Propolusion Lab (NASA).

Вчені на щастя намагаються знаходити методи, що дозволяють зрозуміти логіку штучного інтелекту. Так, дослідник з Google Метра Рагху представила доповідь, де описується процес відстеження дій окремих «нейронів» нейромережі. Аналізуючи мільйони операцій, їй вдалося зрозуміти, які зі штучних «нейронів» концентрувалися на невірних уявленнях та відключити їх. Це доводить, що переведення роботи нейромереж у форму, доступну для розуміння людини, — не таке вже неможливе завдання. "Це схоже на те, як шкільні вчителі просять дітей переказати своїми словами, що вони зрозуміли з пояснень вчителя", - говорить Вагстафф.

Принцип глибокого навчання був створений за аналогією дороботою мозку. Проте вчені вирішили перевірити, чи дійсно людина засвоює інформацію таким чином. Виявилося, що людські нейрони справді ідеально підходять для прийомів глибокого навчання.