By 
Цього року в видавництві Массачусетського університету вийшла чудова книжка під назвою How Humans Judge Machines (українською – “Як люди оцінюють машини”). Розмова про стосунки людини і машинних чи механізованих створінь стара, як європейський романтизм, але залишається напрочуд актуальною. Видавці пишуть на своїй сторінці в мережі: “Як би ви почувались, втративши роботу на користь машини? Чи реагували б ви по-різному на прояви дискримінації залежно від того, здійснює їх машина чи людина? А як щодо громадського нагляду за людьми – чи ви згодні, що машини за вами постійно стежать?” Ця книжка актуальна, бо порівнює наші реакції на дії людей і машин, показує наші тенденційності щодо машинної частини світу. Використовуючи дані, зібрані в десятках соціальних експериментів, книжка розкриває упередження, які пронизують взаємодію людини й машини.
Якщо ви зацікавлені в емпіричному вивченні стосунків людина-машина, займаєтеся методологією побудови сценаріїв або вас турбує оцінювання майбутнього штучного інтелекту з перспективи судження людини, то ця книжка саме для вас. Вона проводить читача через емпіричну подорож суджень, намірів і результатів, показуючи, як люди реагують на різні сценарії (поведінки). Експерименти здебільшого свідчать, що люди оцінюють інших людей за їхніми намірами (а що він хотів цим сказати?), а машини – за їхніми результатами (і що воно таке зробило?). Можна дізнатися про змодельовані сценарії, починаючи від алгоритмічної упередженості і відчуття/розуміння справедливості, конфіденційності, дилем про шкоду й наміри, визнаючи контекстну природу цих сценаріїв. Вивчаючи стосунки машини й людини, ми дізнаємось, як формуються наші упередження, етика, моральний вимір окресленого наміру та судження. Тут немає вказівок, “як люди повинні оцінювати машини”, а радше спроба показати, як вони це насправді роблять.
Чи є умови, за яких ми несправедливо оцінюємо машини? Зазвичай люди не довіряють “техне” і висловлюють неприязнь до машинних помилок легше, ніж до людських Водночас ми можемо елементарно відмовитися від технологій, які мають потенціал покращити соціальний добробут. Наприклад, медичний діагностичний інструмент чи програма, яка конструює діагноз, не є абсолютно точними витворами, але все-таки більш точними, ніж численні діагнози лікарів-людей. Ми можемо відхилити таку техніку, бо несправності машин люди оцінюють суворіше або обговорюють із безжалісним негативним упередженням. З іншого боку, ми можемо не помічати наслідків дії технології, коли проявляємо надмірну прихильність до алгоритмів.
У різних сценаріях, починаючи від самокерованих транспортних засобів, розпізнавання облич у поліції, вступу до вишів і перевірки людських ресурсів, люди оцінюють людей і машини з перспективи справедливості, точності, розрізнення чи упередженості. Люди, як правило, схильні вибачати машинам проблеми, що передбачають високий рівень шкоди та намірів, і менше прощають, коли шкода та наміри були низькими. Натомість люди більше вибачають іншим людям у випадкових сценаріях (коли щось сталося без наміру), але суворіші тоді, коли наміри того, хто вам зашкодив, не можна відкинути. Спираючись на численні моральні виміри шкоди, справедливості, лояльності, авторитету й чистоти, вчені показують кількісну природу етики. Іншими словами, наші морально-етичні судження теж мають алгоритмічну природу, і їх можна симулювати. Уже зараз можна створити статистичний інструмент, який надаватиме пріоритет пояснюваності над точністю, себто створити машину, яка буде імітувати моральне судження людей у таких аспектах, як шкідливість, намір і несправедливість.
Проте варто розуміти, що людські судження та оцінювання формуються в певній культурі й можуть не передаватися іншим культурам. Якби “творчий” штучний інтелект співпрацював із людьми мистецтва, наприклад художниками чи режисерами, то як би ми оцінювали штучних асистентів у питаннях розподілу відповідальності за кінцевий продукт? І тут немає однозначного трактування, бо відповідальність – не лише морально-етична дія, вона також закорінена в певну культурну практику. Наприклад, усі ми належимо до європейського культурного простору, але культурна практика відповідальності за певну дію буде сильно відрізнятися, наприклад, у Португалії й у степах Дніпропетровщини.
Маргарет Боден, яка ще з кінця 1980-х років займається проблематикою штучного інтелекту і видала низку книжок на цю тему, зазначає, що навіть якщо інтелектуальний комп’ютер був би таким же творчим, як Бах чи Айнштайн, люди б лише його таким вважали, але насправді ніхто б належно не оцінив цю творчість Річ у тім, що людина оцінює інтенційність, себто скерованість, націленість, як важливий чинник креативного мислення. Брак наміру в машини є очевидним. Його часто артикулюють через аргумент Джона Серла, який стверджує, що комп’ютерні програми здатні лише виконувати синтаксичні маніпуляції із символами, але не можуть дати їм жодної семантики. Іншими словами, машина не бачить сенсу в тому, що творить, а людина в усьому шукає смисл.
Дійсно, умисність чи скерованість творчості можна пояснити з погляду причинно-наслідкових зв’язків: людина має особливі мотивації до творчості, які вибудовуються через унікальні зв’язки в її мисленні. У комп’ютерних програмах бракує занадто багато відповідних причинно-наслідкових зв’язків, щоб проявити намір, але, можливо, майбутні штучні інтелекти, оснащені не тільки складним програмним забезпеченням, а й різними типами вдосконалених датчиків, що даватимуть їм змогу взаємодіяти з довкіллям, матимуть достатньо причинно-наслідкових зв’язків, щоб надати значення символам і мати власні наміри.
Причини, через які ми так неохоче приймаємо, що машини можуть бути творчими, закорінені в людських практиках оцінювання небіологічних агентів. Машинна творчість не має природного місця в нашому суспільстві, а рішення прийняти її нарівні з людською спричинить важливі соціальні наслідки. Тому нам набагато простіше сказати, що машини здаються розумними чи креативними, бо імітують живих людей, замість того, щоб стверджувати, що вони такими є. Одним словом, це питання моралі та етики, а не науки. Ще одна причина відмови комп’ютерним програмам у творчості полягає в тому, що машини не усвідомлюють своїх досягнень. Однак те, що вони не мають і, можливо, ніколи не матимуть свідомого мислення, не є основною причиною заперечення потенціалу їхньої творчості чи інтелекту.
Книжки на кшталт How Humans Judge Machines дають змогу вкотре задуматися про те, що керує живими організмами. Якою має бути етика майбутнього й чи маємо ми пристосовуватися до того, що творчість стане наскрізно синтетичною? Про це добре думати, коли дивишся на великому технологічному екрані гру, у якій понад 20 здорових чоловіків ганяють м’яча, а велика частина світу цьому співпереживає. А чи будемо ми так співпереживати футболістам-кіборгам?
