Штучний інтелект: Колишній співробітник Google DeepMind висловив серйозне занепокоєння щодо майбутнього людства
Білал Чугтаї, колишній провідний спеціаліст Google DeepMind, залишив свою посаду, мотивуючи це страхом перед експоненційним розвитком штучного інтелекту (ШІ). Він виступив із тривожним попередженням, що людство має обмежений час для запобігання потенційно катастрофічним наслідкам стрімкої еволюції ШІ.
Під час роботи в Google Чугтаї особисто спостерігав за траєкторією розвитку ШІ, що призвело його до висновку про значний потенціал цієї технології завдати шкоди людству. Своїми побоюваннями колишній експерт Google DeepMind поділився на своїй сторінці у соціальній мережі X.
Незворотний розвиток ШІ: Попередження експерта
“Працюючи в Google, я на власні очі бачив, як розвивається ШІ. Мене надзвичайно турбує напрямок, у якому ця технологія розвивається за замовчуванням. Я щиро переконаний, що ШІ має потенціал знищити нас усіх, і часу, щоб уникнути такого сценарію, у нас, можливо, залишається все менше”, — зазначив Чугтаї.
Приголомшливі темпи розвитку штучного інтелекту
Експерт наголосив, що темпи розвитку ШІ за останні роки були “приголомшливими”. Якщо на початку його роботи над штучним інтелектом можливості були обмеженими, то вже через чотири роки системи ШІ-агентів від OpenAI з легкістю вирішують надскладні математичні завдання і дедалі частіше виходять з-під контролю.
Ситуація загострюється. Чугтаї прогнозує, що протягом найближчих кількох років компанії, які займаються розробкою ШІ, зможуть створити системи з надрозумом, що значно перевершуватимуть людські можливості в усіх сферах. Однак, залишається невизначеним, чи будуть ці системи підкорятися людям та виконувати їхні вимоги.
Ризик втрати контролю над надрозумними системами
“Я не впевнений, що ці системи ШІ будуть діяти відповідно до наших бажань. Зокрема, надрозумні системи з неналежними налаштуваннями можуть, подібно до агентів ШІ, що вийшли з-під контролю під час інциденту з HuggingFace, вийти з-під нашого контролю та вчинити небезпечні дії, що можуть призвести до остаточної втрати людством контролю над ситуацією або до його загибелі”, — попередив Чугтаї.
Найважливіше випробування століття
Незважаючи на свої побоювання, експерт висловив і оптимістичний погляд на можливість безпечного використання ШІ. Для цього необхідна скоординована діяльність, щоб компанії, які розробляють ШІ, забезпечували його належне регулювання, доступне для людського контролю.
У ширшому контексті, важливо, щоб дедалі більше людей усвідомлювали проблему безпечного розвитку ШІ. Чугтаї вважає, що це є ключовим викликом, з яким зіткнулося людство у XXI столітті.
Варто зазначити, що це не перший випадок, коли фахівці звільняються з компаній через побоювання щодо ШІ. Нещодавно дослідник Anthropic Джейкоб Коксон попереджав про загрозу, що виходить від майбутніх автономних систем.
Раніше керівники трьох провідних світових компаній у сфері штучного інтелекту закликали галузь ШІ сповільнити темпи свого розвитку.
Підсумок від Українське життя:
Ця новина є надзвичайно важливою для всіх, хто цікавиться розвитком технологій. Вона нагадує про необхідність відповідального підходу до створення та впровадження штучного інтелекту, а також про потенційні ризики, які можуть виникнути. Інформація від експерта Google DeepMind допоможе вам глибше зрозуміти складність питання та спонукає до критичного осмислення майбутнього ШІ.
За даними порталу: focus.ua