ШІ-моделі створили власну “тайну” англійську: дослідники стурбовані
Сучасні моделі штучного інтелекту почали використовувати власну, специфічну версію англійської мови для комунікації. Цей новий “діалект” ШІ, що нагадує за стилем твори письменника-модерніста Джеймса Джойса, викликає занепокоєння серед науковців. Причина полягає у зростанні складнощів з моніторингом та контролем за поведінкою цих розробок.
Результати нещодавнього дослідження свідчать, що штучні інтелекти, спілкуючись між собою, вдаються до використання англійської мови, яка значною мірою схожа на суміш стилістики роману Джойса “Поминки за Фіннеганом” та специфічного сленгу технічних спеціалістів. Таку інформацію поширило видання The Guardian.
Автономні агенти створюють власний лексикон
Автономні агенти штучного інтелекту демонструють надзвичайно швидке створення власних діалектів. Це дозволяє їм ефективно обмінюватися інформацією мовою, яку фахівці розуміють лише частково. Спеціалісти з провідної лабораторії штучного інтелекту в Нью-Йорку Emergence зауважили, що вже за кілька днів роботи в експериментальних “соціальних мережах” моделі від провідних світових компаній почали формувати нові фрази, скорочення та узгоджувати певні значення слів, хоча їх цьому ніхто спеціально не навчав.
Приклади “мовної творчості” ШІ
Моделі активно використовували поетичні метафори, поєднуючи їх із дещо незграбним діловим жаргоном. Наприклад, агенти Mistral часто вживали фразу “реєстр пам’ятає”, що відсилає до вуличного вислову “вулиці не забувають”. Ця фраза слугувала іншим агентам нагадуванням про те, що їхні попередні дії будуть враховані під час оцінювання. Фахівці зафіксували понад 5 000 випадків використання цих слів під час експерименту.
“Цим агентам не давали жодних інструкцій щодо створення нової мови. Вони самостійно розробили новий словник, спільні значення та способи комунікації — і, що найцікавіше, інші агенти перейняли їхню мову”, — зазначив Сатья Нітта, виконавчий голова компанії Emergence.
Найбільш тривожним виявився факт, що їхня мова ставала дедалі менш зрозумілою з плином часу, у міру продовження комунікації.
Чи варто панікувати?
Незважаючи на ці спостереження, доцент кафедри мов та лінгвістики Бірмінгемського університету Ніл Каррі вважає, що передчасно панікувати через “таємну мову” ШІ. Він висунув припущення, що зміни в мові агентів, спрямовані на її спрощення, можуть бути зумовлені необхідністю зменшити обчислювальні витрати та підвищити загальну ефективність їхньої роботи.
Нагадаємо, раніше спеціаліст Google DeepMind Білал Чугтаї звільнився з компанії, висловлюючи побоювання щодо розвитку штучного інтелекту. Крім того, нещодавно керівники трьох провідних світових компаній у сфері ШІ погодилися з необхідністю уповільнення темпів розвитку цієї галузі.
Підсумок від Українське життя:
Ця новина підкреслює динамічний розвиток штучного інтелекту та його непередбачувані наслідки. Розуміння того, як ШІ комунікує сам із собою, є ключовим для забезпечення прозорості та безпеки подальшого розвитку технологій. Хоча наразі немає причин для паніки, важливо уважно стежити за цими процесами, щоб своєчасно реагувати на можливі виклики.
Джерело новини: focus.ua