Ти я все інше» Штучний інтелект Facebook «заговорив своєю мовою»
Поділіться у соцмережах:
В рамках експерименту дослідники створили кілька симуляцій у спробі навчити ботів домовлятися та ділитися між собою різними предметами, які становили певну цінність для кожного з них (визначити цінність предмета потрібно було під час розмови). Автори придумали безліч сценаріїв (як базовий використовувався набір із двох книг, капелюха та трьох куль), але завжди виявлялося, що два боти не можуть одночасно «вибити» для себе найкращу угоду. Спроба уникнути переговорів або відмовитися від угоди після 10 раундів діалогу вважалася провалом. При цьому практику переговорів визнали необхідною, а їх результати є важливими в плані підвищення продуктивності ІІ.
Потім дослідники зробили зміни, щоб зробити ці переговори продуктивними. Для цього FAIR дозволила роботам будувати довгострокову стратегію і передбачати, куди піде діалог. Це потрібно було, щоб уникнути глухих ситуацій. У FAIR визнали, що ідея не нова і раніше використовувалася в ігровій індустрії, однак у лінгвістиці застосовувалася вперше.
1 - висловлена пропозиція "Ти береш книгу, а я заберу все інше", 2 - можливі відповіді "Так" і "Ні, мені потрібні всі три", 3 - подальші варіанти діалогу, 4 - можливий підсумковий результат у балах.
Автори навчали нейронну мережу на колекції діалогів для людей. Потім вони вирішили перевірити роботів у розмові з реальними співрозмовниками. У результаті багато хто з учасників експерименту прийняли роботів за реальних людей. По суті це довело, що «роботи» можуть вільно говорити і думати англійською мовою. При цьому найкращих результатів угод штучний інтелект домагався так самочасто, як і найгірших, тобто, як у реальному житті.
Програма була навчена виробляти «ту мову, якою говорять люди», а не розвивати власну, і саме це стало помилкою, яка в результаті призвела до новин з побоюванням за майбутнє людства через ІІ, що вийшов з-під контролю.
Помилка ця виявилася, коли ботів залишили "наодинці", щоб ще більше розвинути свої навички спілкування. Згодом боти відхилилися від прописаних у сценарії правил та почали спілкуватися на «абракадабрі», створеній без участі людини. При більш зручній і швидкій для ІІ формі спілкування правила англійської максимально опускалися, а конструкції багаторазово повторювалися. Наводимо фрагмент діалогу нижче:
Боб: Я можу я все інше.
Аліса: М'ячі мають нуль для мене для мене для мене для мене для мене для мене для мене для мене для мене»
Боб: Ти я все інше.
Аліса: М'ячі мають м'яч для мене для мене для мене для мене для мене для мене для мене.
Боб: Я можу я я все інше.
Аліса: М'ячі мають м'яч для мене для мене для мене для мене для мене для мене для мене.
Аліса: М'ячі мають нуль для мене для мене для мене для мене для мене для мене для мене для мене.
Боб: Ти я я я я все інше.
Аліса: М'ячі мають 0 для мене для мене для мене для мене для мене для мене для мене для мене для.
Боб: Ти я я все інше.
Аліса: М'ячі мають 0 для мене для мене для мене для мене для мене для мене для мене для мене для.
діалог чат-ботів Facebook
Подібний інцидент стався зовсім не тому, що роботи вже починають захоплювати світ, а через допущену помилку в програмуванні. Говорячи конкретніше, ботам просто не дали завдання дотримуватися правил граматики та словотвору англійськоїмови, тому вони почали змагатися у досягненні максимальної ефективності під час спілкування.
Виявивши проблему, дослідники FAIR відразу ж відключили систему і доопрацювали код так, щоб алгоритм дозволяв спілкуватися тільки зрозумілою людині англійською мовою.
Втім, побоювання багатьох у цьому випадку теж можна зрозуміти. Якщо боти дійсно вигадають «свою» мову для спілкування, зрозуміти їх буде неможливо. Як зауважили у FAIR, білінгвів, які одночасно зрозуміли б ІІ та людські мови, також немає.