Штучний інтелект і етичні цінності: чому AI-системи не завжди відповідають моральним нормам
Штучний інтелект і людство. Зображення - Pexels.
Цю інформацію наводить "Kreschatic", посилаючись на The Conversation.
Дослідження, яке провела команда з Purdue University, виявило значну диспропорцію в людських цінностях, закладених у системах штучного інтелекту. З'ясувалося, що ці технології переважно акцентують увагу на інформаційних та утилітарних аспектах, в той час як просоціальні, добробутні та громадянські цінності мають менший акцент. Штучний інтелект навчається на великих обсягах даних, але ці дані не завжди відображають різноманіття моральних та етичних принципів, які є важливими для суспільства.
В рамках дослідження було створено таксономію людських цінностей на основі літературного огляду з моральної філософії та досліджень у сфері науки, технологій та суспільства. Ці цінності включають добробут, мир, пошук інформації, правосуддя, права людини та тварин, обов'язок, мудрість, знання, ввічливість і емпатію. Використовуючи цю таксономію, вчені вручну анотуювали один із відкритих наборів даних і використовували отримані дані для навчання мовної моделі штучного інтелекту.
Вчені з'ясували, що більшість даних, які використовуються для навчання систем штучного інтелекту, значно ефективніше справляються з інформаційними запитами та наданням допомоги, ніж з питаннями, пов'язаними з емпатією, правами людини або справедливістю. У цих наборах даних пошук знань і мудрості виступають найбільш поширеними цінностями, тоді як такі поняття, як правосуддя, права людини та права тварин, виявляються найменш представленими.
Це дослідження акцентує увагу на необхідності врахування суспільних цінностей при створенні систем штучного інтелекту, особливо в таких галузях, як медицина, правознавство та соціальні мережі. Усвідомлення цих цінностей дозволяє забезпечити етичну взаємодію між AI та людьми, а також гарантує, що ці технології працюють на благо всього людства.
Нагадаємо, раніше ми писали про те, що оксфордські вчені створили перший квантовий суперкомп'ютер.
