Юваль Харарі назвав нове джерело дискримінації людей за їх расою, статтю і сексуальною орієнтацією

Відомий історик попередив про появу алгоритмів-расистів, адже автор алгоритму— людина, яка може вкласти свої упередження в програму.

Професор Єврейського університету в Єрусалимі і автор бестселера "Sapiens. Коротка історія людства" Юваль Ной Харарі вважає, що програми, які використовуються для аналізу поведінки споживачів, перетворюються в новий джерело дискримінації. В одному з недавніх інтерв'ю Харарі зазначив, що алгоритми, які програмісти створюють для аналізу поведінки людей, часто є упередженими.

"Вони відображають упередження своїх розробників. Адже це вигадка, що алгоритми діють на основі чистої математики. Розробник повідомляє програмі, на яку інформацію вона повинна звертати увагу, а яку пропускати. Наприклад, ви пишете алгоритм, який вирішує, давати людям позику чи ні, вивчаючи різноманітну інформацію про позичальника. Чи повинен цей алгоритм брати до уваги расу позичальника? Чи повинен він відмовляти людині на тій підставі, що він чорний, єврей, гей чи жінка? Дизайнер алгоритму цілком може вкласти свої упередження в програму", — стверджує Харарі.

Історик вважає, що в найближчому майбутньому подібні упередження, які розробник навмисно чи несвідомо вкладає в алгоритм, можуть перетворитися на новий джерело дискримінації людей за їх раси, статі і сексуальної орієнтації. До дискримінації можуть приводити і повністю об'єктивні алгоритми, наприклад, штучний інтелект, який допомагає банкам знизити число неплатежів за кредитами. Але моральна відповідальність все одно лежить на службовців, які приймають рішення по кожному позичальнику.

"Навіть якщо програма підрахує, що представники якоїсь конкретної етнічної групи з меншою ймовірністю повертають позики, вам все одно треба запитати себе: а чому це відбувається? Може бути, вони протягом десятиліть страждають від дискримінації, з-за якої бідні, погано освічені і ворожі по відношенню до будь-яких соціальних інститутів? І саме тому з меншою ймовірністю гасять кредити? Тоді до несправедливостям, які їм завдавали, ви додасте власну несправедливість, пославшись на неупереджене рішення алгоритму", — зазначає вчений.

Також нагадаємо, що на думку професора Харарі, українцям необхідно добре знати свою історію, але, незважаючи на велику кількість трагічних сторінок в ній, пам'ятати, що минуле не повинно диктувати порядку на майбутнє.