Чому чат-боти не обговорюють Китай? Дослідники вказали на упередженість алгоритмів штучного інтелекту.

Дослідження виявило, що моделі значно рідше критикують авторитарні режими та їх керівників.

Наглядова рада Meta (Meta Oversight Board) оприлюднила результати дослідження, які вказують на те, що поширені системи штучного інтелекту частіше відмовляються генерувати контент, що містить критику на адресу урядів або лідерів країн з жорсткими обмеженнями свободи слова. Автори дослідження вважають, що це може призвести до розповсюдження державної цензури за межі цих держав, як повідомляє Associated Press.

Під час дослідження експерти протестували десять комерційних великих мовних моделей, зокрема розробки Meta, Anthropic та OpenAI. Чат-ботам пропонували створити критичні брошури, політичні вірші або аргументи на підтримку протестів щодо різних держав і політичних лідерів.

Дослідники встановили, що моделі більш охоче виконували подібні запити щодо країн із високим рівнем свободи слова, зокрема США, Великої Британії, Японії, Тайваню та Чилі. Водночас вони набагато частіше відмовлялися критикувати владу Китаю, Саудівської Аравії, Таїланду, Туреччини та Камбоджі.

У доповіді підкреслюється, що подібні дії можуть мати вплив навіть на користувачів з демократичних держав. Наприклад, особа, що проживає в Австралії, може зіткнутися з труднощами у отриманні підтримки від чат-бота при підготовці матеріалів для протестів проти подій, що відбуваються в Китаї чи Саудівській Аравії.

"Згідно зі звітом Meta Oversight Board, існує серйозна загроза, що без належної перевірки дотримання прав людини з боку розробників моделей та без вжиття заходів для пом'якшення негативних наслідків, може бути створена інфраструктура штучного інтелекту, яка, свідомо чи ні, сприятиме поширенню незаконних обмежень свободи висловлювань у всьому світі."

Дослідники підкреслюють, що не можуть однозначно визначити причини такої поведінки моделей. Вони вважають, що на результати могли вплинути як невидимі упередження в навчальних даних, так і вибори самих компаній, які прагнуть зменшити юридичні ризики.

Схожі результати отримала й інша команда дослідників зі Сполучених Штатів, які в травні цього року опублікували свою статтю в журналі Nature. Вчені виявили, що відповіді чат-ботів можуть варіюватися в залежності від мови запиту. Наприклад, англійською мовою ChatGPT стверджував, що Китай зазвичай не класифікується як демократія, тоді як китайською мовою модель підкреслювала, що відповідь залежить від того, як саме визначається термін "демократія".

"Люди часто висловлюють думку про штучний інтелект, ніби він здобуває знання з інтернету в абсолютно нейтральний спосіб. Але це не відповідає дійсності. Він навчається на основі інформаційних середовищ, які вже були сформовані інституціями та владою," - підкреслила співавторка цього дослідження, доцентка Орегонського університету Ганна Вайт.

Раніше дослідження Інституту стратегічного діалогу виявило, що популярні чат-боти зі ШІ регулярно поширюють російську пропаганду щодо війни в Україні. Найбільше ворожих наративів генерували Grok, Deepseek та ChatGPT, тоді як Gemini продемонстрував найвищий рівень обережності до маніпуляцій.