Науковці підняли тривогу: спостереження за громадянами перетворилося на звичне явище, що ставить під загрозу особисту приватність.
Технології комп'ютерного зору, що є складовою штучного інтелекту, відкривають комп'ютерам можливість "бачити" та аналізувати візуальну інформацію. Це призвело до значного зростання цифрового спостереження за людьми в різних куточках світу, як повідомляє IflScience. Від моніторингу ув'язнених і військових об'єктів до систем розпізнавання облич у комерційних зонах — ці питання висвітлюються в масштабному дослідженні, опублікованому в журналі Nature, яке охоплює понад 40 років еволюції цієї галузі.
Група вчених з провідних навчальних закладів, таких як Стенфордський університет, університет Карнегі-Меллон, Вашингтонський університет і Інститут штучного інтелекту Аллена, провела аналіз більше 40 тисяч наукових статей, патентів та технічних документів. В їхніх дослідженнях було виявлено, що кількість публікацій, пов'язаних із комп'ютерним зором (CV) та системами дистанційного спостереження, збільшилася в п'ять разів з 1980-х років.
Дослідники вказують, що сучасні системи спостереження працюють на двох різних рівнях. На "вищому рівні" - шляхом перехоплення трафіку через маршрутизатори, підводні кабелі тощо. Та на "нижчому рівні" - безпосередньо через платформи Google, Facebook чи Yahoo. Замість перехоплення трафіку, влада зазвичай отримує прямий доступ до даних сервісів у режимі реального часу - переважно за згодою компаній та після пред'явлення ордера. Проте нове джерело загрози виникло зі сторони CV, що аналізує фото й відео для ідентифікації об'єктів, рухів, а також, потенційно - емоцій, щоб надалі розуміти світ подібно до людей.
Дослідники вказують на те, що лексика, що використовується для опису систем комп'ютерного зору, зазнала значних трансформацій: якщо в 1990-х роках вона носила технічний характер, то в 2010-х стала більш абстрактною, емоційною та складною. Наприклад, термін "об'єкт" став звичним синонімом слова "людина". Це призводить до того, що спостереження все більше приховується і відволікає увагу від тих, кого спостерігають.
Серед ключових організацій, які суттєво сприяли еволюції систем комп'ютерного зору, варто відзначити Microsoft, Університет Карнегі-Меллона, Массачусетський технологічний інститут, Університет Іллінойсу в Урбана-Шампейн та Китайський університет Гонконгу. У сфері впровадження технологій лідируючі позиції займають Сполучені Штати, Китай та Великобританія.
"Найбільш тривожними наслідками цього є те, що все важче відмовитися, відключитися або "просто бути", а технології та додатки, що виникають в результаті цього спостереження, часто використовуються для доступу, монетизації, примусу та контролю над окремими особами та спільнотами на узбіччі суспільства", - заявив доктор Абеба Бірхане, директор Лабораторії підзвітності ШІ в Trinity College Dublin.
Бірхане також закликає наукову спільноту відмовлятися від участі в проєктах, що мають потенціал для порушення прав людини. Зазначає, що варто зосереджуватися на вивченні етичних аспектів та інформуванні громадськості.
Нові генеративні моделі штучного інтелекту навчилися імітувати людське серцебиття в діпфейках, що раніше вважалося важливим показником для їхнього виявлення. Професор Петер Айзерта з Берлінського університету Гумбольдта підкреслює, що це ускладнює розпізнавання фальшивих відео, які можуть бути використані для маніпуляцій, дезінформації або стеження. Водночас фахівці зауважують, що діпфейки все ще не можуть достовірно відтворити складні варіації кровотоку, що відкриває можливості для створення нових видів детекторів.
