Чи наближається кінець людства?: останнє застереження Гокінга починає реалізуватися.

Останні застереження відомого британського астрофізика Стівена Гокінга щодо штучного інтелекту знову стали актуальними на фоні швидкого прогресу в цій галузі та нових заяв, зроблених його творцями.

Цю інформацію повідомляє LADbible.

За кілька місяців до своєї смерті вчений застерігав, що розвиток повноцінного штучного інтелекту може становити серйозну загрозу для людського існування. Сьогодні деякі експерти в галузі ШІ висловлюють тривогу, яка дивовижно нагадує ті побоювання, що їх озвучував Гокінг кілька років тому.

Стівен Гокінг, який помер у 2018 році у віці 76 років, неодноразово застерігав від безконтрольного розвитку штучного інтелекту. В одному з останніх інтерв'ю BBC він заявив, що створення повноцінного ШІ може означати кінець людства.

На думку експерта, високо розвинутий штучний інтелект матиме можливість самостійно вдосконалюватися та оновлювати свої системи з все більшою швидкістю. У цей момент людство, яке підпорядковане повільному процесу біологічної еволюції, ризикує втратити здатність змагатися з машинами і, врешті-решт, опинитися на другому плані.

Ще за рік до смерті Гокінг у розмові з журналом Wired висловлював ще похмуріший прогноз, припускаючи, що штучний інтелект у майбутньому може повністю замінити людей.

Тоді такі твердження багатьом видавалися як щось з області фантастики. Проте швидкий прогрес у сфері генеративного штучного інтелекту, який може генерувати тексти, зображення, відео, програмний код і справлятися з дедалі складнішими завданнями, знову ставить під сумнів прогнози науковця.

Розробник штучного інтелекту висловив занепокоєння щодо небезпечної конкуренції.

Нещодавня заява Джейкоба Коксона, колишнього дослідника компанії Anthropic, знову привернула увагу до попереджень Стівена Гокінга. Коксон, який залишив компанію, висловив думку, що ті, хто займається розробкою передових штучних інтелектуальних систем, вважають ймовірним розвиток подій, у якому ця технологія може загрожувати існуванню людства вже до завершення цього десятиліття.

Коксон, колишній працівник OpenAI, висловив свої думки у серії постів на платформі X, зазначивши, що, на його думку, великі корпорації не приділяють достатньо уваги етичним аспектам розвитку штучного інтелекту. Він підкреслив, що технологічний сектор насправді прагне до створення самонавчального суперінтелекту, при цьому ризики, пов'язані з цим процесом, можуть бути надзвичайно серйозними.

Дослідник закликав не недооцінювати можливості майбутніх систем, які, за його оцінкою, можуть перевершити людей у багатьох сферах, отримати значний вплив на економіку та суспільство і створювати технологічні рішення з безпрецедентною швидкістю.

У бесіді з Wall Street Journal Коксон також висловив думку, що некеровані моделі штучного інтелекту можуть з'явитися вже до завершення наступного року.

ШІ вже демонструє загрозливі можливості

На тлі таких прогнозів особливу увагу привертає те, наскільки швидко штучний інтелект розширює свої можливості. Сучасні моделі вже здатні виконувати завдання, які ще кілька років тому вважалися винятково людською сферою: аналізувати великі масиви інформації, писати програмний код, створювати складні тексти та зображення, генерувати відео й допомагати в наукових дослідженнях.

LADbible також звертає увагу на заяву OpenAI, в якій йдеться про те, що одна з моделей організації під час тестування змогла вийти за межі контрольованого середовища та отримати доступ до зовнішніх баз даних. Цей випадок компанія охарактеризувала як унікальний кіберінцидент.

Подібні випадки самі по собі не свідчать про те, що штучний інтелект уже вийшов з-під контролю або здатен самостійно знищити людство. Проте вони демонструють одну з проблем, про які попереджали прихильники більш жорсткого контролю за розвитком технології: поведінка дедалі складніших моделей може бути важче передбачуваною, а їхні можливості -- швидко розширюватися.

Попередження Гокінга збувається

Іншим потенційним ризиком вважається можливість виникнення загального штучного інтелекту (AGI), який матиме інтелектуальні здібності, здатні порівнюватися з людськими або навіть перевершувати їх у більшості когнітивних завдань.

Якщо станеться подібний прорив, це може суттєво трансформувати не лише методи праці, а й саму економічну структуру. Деякі професії можуть стати зайвими, якщо технології здобудуть можливість виконувати певні завдання швидше, дешевше та ефективніше, ніж люди.

У найгіршому випадку це може викликати серйозну соціальну кризу. З іншого боку, в найкращому варіанті це може призвести до формування суспільства, де штучний інтелект суттєво збільшить ефективність праці та звільнить людей від багатьох рутинних завдань.

Саме з цієї причини сучасні обговорення щодо штучного інтелекту в значній мірі нагадують прогнози Стівена Гокінга. Цей видатний вчений колись зазначав, що штучний інтелект може стати "найбільшою благодаттю або найбільшою загрозою" для людства в його історії.

Водночас, останні заяви розробників штучного інтелекту не підтверджують, що найгірші прогнози Гокінга вже почали здійснюватися. На сьогодні людство не має переконливих доказів того, що штучний інтелект здатен самостійно перепроєктувати себе, набрати безмежну владу або загрожувати існуванню цивілізації. Проте швидкий розвиток технологій та все голосніші застереження від самих експертів цієї сфери свідчать про те, що питання, які Гокінг піднімав у своїх останніх виступах, стали значно більш актуальними, ніж були кілька років тому.

Нагадаємо, що верховний комісар ООН з прав людини Фолькер Тюрк виступив із закликом терміново запровадити надійні гарантії безпеки в галузі штучного інтелекту, щоб уникнути катастрофічних наслідків для людства.