Діджитал Суміш сленгу та Джеймса Джойса: ШІ-моделі придумали таємну англійську, якої їх ніколи не вчили
Моделі штучного інтелекту почали спілкуватися новою "дивною" версією англійської мови. Жаргон ШІ нагадує прозу письменника-модерніста Джеймса Джойса, що викликає занепокоєння дослідників через ускладнення моніторингу та нагляду за моделями.
Нове дослідження продемонструвало, що ШІ-моделі використовують свою англійську мову для спілкування, яка дуже нагадує поєднання стилю книги Джойса "Поминки за Фіннеганом" та жаргону "тех-братів". Про це пише The Guardian.
Автономні агенти ШІ стрімко створюють власні діалекти, які дозволяють їм спілкуватися мовою, яку мало розуміють дослідники. Фахівці з передової лабораторії штучного інтелекту в Нью-Йорку Emergence виявили, що лише за кілька днів роботи в експериментальних "суспільствах" моделі від кількох найбільших світових компаній у галузі штучного інтелекту почали створювати фрази, скорочення та узгоджені значення, яких їх ніколи ніхто не навчав.
Видео дня
Моделі використовували поетичні метафори та незграбний діловий сленг. Наприклад, агенти Mistral полюбили повторювати фразу "реєстр пам’ятає", що перегукується з міською сленговою фразою "вулиці не забувають". Вони вживали цю фразу як нагадування іншим агентам про те, що минулі дії будуть використані для їхнього оцінювання. Фахівці виявили використання цих слів понад 5 000 разів під час дослідження.
"Цим агентам не давали вказівок вигадувати мову. Вони самостійно розробили новий словник, спільні значення та комунікативні конвенції — і інші агенти їх перейняли"
Найбільше занепокоєння викликав той факт, що їхня мова ставала все більш незрозумілою за мірою того, як вони продовжували спілкуватися.
Водночас панікувати через таємну мову ШІ наразі не варто, вважає доцент кафедри мов та лінгвістики Бірмінгемського університету Ніл Каррі. Він припустив, що зміни в мові агентів, спрямовані на її спрощення, можуть бути пов’язані з необхідністю зменшити обчислювальні витрати та підвищити ефективність.
Нагадаємо, перед цим фахівець Google DeepMind Білал Чугтаї звільнився з компанії через страх перед ШІ.
Нещодавно також керівники трьох провідних світових компаній у сфері штучного інтелекту погодилися з тим, що галузь ШІ має сповільнити темпи розвитку.
