By 
Перед світовою спільнотою рано чи пізно виникне проблема правового регулювання взаємин людина-робот. Хоча сьогодні гуманоїди й не займають значної частини нашого життя, однак якщо бурхливий розвиток робототехніки триватиме, незабаром варто чекати появи “Декларації прав роботів”. А деякі дослідники вже зараз обговорюють необхідність надання роботам рівних з людиною прав.
Сьогодні на міжнародних технологічних конференціях і форумах все частіше порівнюють людський і штучний інтелект, обговорюють роль роботів як помічників та компаньйонів. На думку професора Еріка Маннеса, “…ми прагнемо навчити штучний інтелект обробляти гігантські обсяги інформації, які буквально через 2-3 роки кожен з вас використовуватиме в своїх смартфонах, але без контролю людини це загрожує нашій безпеці. Сьогодні кращого комп’ютера за потужністю, ніж людський мозок, немає. Саме мозок людини повинен мати головну роль у вирішенні завдань навіть у цифрову еру”. Враховуючи те, що всі великі обсяги інформації зберігаються віддалено і доступ до них мають різні машини, необхідно слідкувати за рішеннями роботизованих механізмів. “Якщо людина втратить контроль над діяльністю штучного інтелекту, світу може загрожувати небезпека. Нам доведеться внести зміни в Декларацію прав людини, доповнивши її правами та обов’язками роботів. Причому розмежовувати робота і людину різними правовими документами не потрібно. Варто лише доповнювати існуюче законодавство”.
Роботи і тварини
Деякі дослідники вже сьогодні порівнюють рух за права роботів з діяльністю зоозахисників, які прагнуть переоцінки юридичного статусу певних тварин, особливо старших приматів. Такі організації, як Nonhuman Rights Project з Корал-Спрінгс, штат Флорида, стверджують, що шимпанзе, горил і орангутангів потрібно вважати вільними особами, а не чиєюсь власністю. Очільник юридичного відділу організації Стівен Уайз вважає, що та ж логіка має бути застосовна до будь-якої істоти. На його думку, якщо одного дня ми створимо роботів, здатних відчувати емоції, “…ми повинні нести перед ними таку ж правову і моральну відповідальність, яку намагаємося розвинути стосовно тварин”.
Звичайно, вирішити, які машини будуть гідні такого ставлення, непросто, оскільки ми часто проектуємо людські думки і емоції на неживі об’єкти, і співчуваємо істотам, які зовсім не мають почуттів.
Пригадаємо історію собакоподібного робота на ім’я Spot, створеного компанією Boston Dynamics. Торік команда з Массачусетсу оприлюднила відео про чотириногого робота, якого штовхали ногами інженери. Ідея була в тому, щоб продемонструвати відмінну стійкість механізму. Але деякі люди побачили в цьому щось дуже близьке до жорстокого поводження з тваринами[1]. Організація PETA навіть оприлюднила заяву, в якій назвала відео із Спотом “недопустимим”.
Люди підсвідомо налаштовані на те, щоб поводитися з роботами як з живими істотами, хоча на раціональному, свідомому рівні ми повністю усвідомлюємо, що вони несправжні”. Кейт Дарлінг
Фахівець Медіалабораторії Массачусетського технологічного інституту Кейт Дарлінг отримала схожі результати після досвіду з Плео, іграшковим роботом-динозавром. Хоча Плео не подібний на реальну живу істоту, він запрограмований так, щоб створити враження, що він не лише має певний рівень інтелекту, але і може відчувати страждання. Якщо перевернути Плео на спину, він скиглить і просить перестати так робити.
Щоб дізнатись, наскільки ми готові співчувати навіть найпростішим роботам, Дарлінг дозволила учасникам експерименту погратися з Плео – а потім запропонувала знищити його. Більшість учасників відмовилися. “Люди підсвідомо налаштовані на те, щоб поводитися з роботами як з живими істотами, хоча на раціональному, свідомому рівні ми повністю усвідомлюємо, що вони несправжні”, – пояснює Дарлінг.
На думку Дарлінг, попри те, що Плео і Спот не здатні відчувати біль, наше ставлення до роботів варте уваги. “Для нас є неприйнятним жорстоке поводження з ними – можливо, це один з рівнів нашої емпатії, відключення якого може вплинути на наше ставлення до інших живих істот”, – розповідає Кейт Дарлінг. Саме цю проблему висвітлюють творці телесеріалу “Світ Дикого Заходу”, в якому розповідається про тематичний парк, гості якого можуть поводитися з суперреалістичними гуманоїдами як їм заманеться.
Отже, дуже скоро перед світом постане питання: чи необхідно бути людиною, щоб мати права? В багатьох країнах тварини вже отримали юридичний захист, їхнє вбивство прирівнюється до кримінального злочину з тими ж наслідками, що і вбивство людини. Чи потрібно тоді поширювати ці права ще й на роботів?
Тест Тюрінга
Піонер інформатики Алан Тюрінг вважав, що неможливо точно дізнатись, що відчуває машина, тому найкращий спосіб – перевірити, чи може робот підтримувати природну розмову. Сьогодні такий дослід називають тестом Тюрінга.
Враховуючи складність людського спілкування, побудувати машину, здатну вести тривалу бесіду, доволі непросто. На думку Тюрінга, якщо такий комп’ютер все ж вдасться створити, то людям слід ставитись до нього як до розумної живої істоти.
Рабин і професор юриспруденції з Атланти Марк Голдфедер має схожі думки: “…якщо істота поводиться по-людськи, я не буду штрикати її чимось гострим, щоб перевірити, чи йде в неї кров. До всього, що поводиться по-людськи, я зобов’язаний ставитись як до людини, і з етичної точки зору краще помилятись, зберігаючи обережність”. Отже, права повинні надаватися істоті не за біологічною ознакою, а за ступенем розвинутості особистості.
Якщо врешті-решт ми вважатимемо деякі інтелектуальні машини особами, тоді які юридичні права ми повинні їм забезпечити? Якщо машина успішно пройде тест Тюрінга, то, мабуть, їй щонайменше варто надати право на існування. Проте на думку Роберта Спарроу, філософа з Університету Монаша в Мельбурні, це лише початок. Що буде, якщо штучний інтелект перевершить людський? Спарроу пише: “Вбивство машини, здатної пройти тест Тюрінга, – це не просто такий самий злочин, як вбивство людини, але, залежно від здібностей машини, може навіть більший злочин”.
На думку експерта з робототехніки і інформаційного права з Університету штату Вашингтон Райана Кало, людські закони навряд чи зміняться настільки сильно. “Наша правова система відображає нашу базову біологію, – пояснює він. – Якщо одного дня люди створять штучну особу, наші уявлення про закон доведеться повністю переглянути”.
У 2014 році комп’ютеру вперше вдалося пройти тест Тюрінга. Під час конкурсу Turing Test 2014 Prize, організованого Королівським науковим товариством в Університеті Редінга в Англії, одній з комп’ютерних програм вистачило п’яти хвилин для того, щоб переконати 33% суддів у тому, що вона є 13-річним хлопчиком Євгеном Густманом з Одеси. Тест Тюрінга вважається пройденим, якщо впродовж п’ятихвилинного спілкування програмі вдасться переконати щонайменше 30% суддів у тому, що вона людина.
Ще одним питанням, що може незабаром постати перед людством – чи визнавати права роботів на власні інтереси. Зрозуміло, визначити їх буде важко, як і людям з однієї культури іноді буває складно зрозуміти інтереси представників іншої. Якщо ми вирішимо надати роботам права і статус особи, то варто враховувати й їхні потреби. Ймовірно, ці інтереси – це право на існування.
Юридичний статус “електронної особи”
Європейський парламент має намір у 2018 році внести на голосування докладний перелік правил, які регулюватимуть спілкування людини з штучним інтелектом. Законодавці вирішать, чи варто наділяти роботів статусом “електронної особи”. Як рекомендує представлений в Європарламенті звіт, розробники роботів повинні гарантувати, що в кожному механізмі буде пристрій, що дозволить при необхідності відключити всі його функції[2]. Користувачі роботів не повинні мати ризику отримати фізичні або психологічні травми. Водночас виникають питання про працю і про те, чи не будуть країни-члени ЄС зобов’язані ввести безумовний базовий дохід через те, що роботи віднімуть у людей багато робочих місць.
У звіті Європарламенту йдеться також, що проблеми стосунків людей і роботів пов’язані з такими поняттями, як людська гідність, охорона приватного життя і фізична безпека людей, особливо якщо роботизовані системи відмовлять або ж будуть зламані хакерами. Звіт прогнозує, що через кілька десятиліть штучний інтелект за своїми можливостями перевершить людський. Якщо до цього не підготуватися, інтелектуальна перевага машин може завадити людям контролювати власні творіння. Можливо, проблематичною стане навіть здатність людей розпоряджатись власним життям і гарантувати виживання людського виду.
Саме тому Європарламент закликає до створення Європейського агентства з роботів і штучного інтелекту, яке зможе проводити технічну і етичну експертизу в сфері регулювання взаємин робота і людини, а також запровадити юридичне визначення поняття “розумний автономний робот” та надати роботам статус “електронної особини”. Звіт також розглядає можливість ухвалити нові правила страхування для компаній на випадок, якщо їхні роботи завдадуть шкоду людині. Для цього пропонують ввести юридичну відповідальність у сфері робототехніки.
Моральна і кримінальна відповідальність роботів
З появою все досконаліших систем штучного інтелекту виникає питання: хто понесе відповідальність за збиток, заподіяний розумною машиною? Ймовірно, творець робота або його власник? Проте вчений-юрист з Йельського університету Йінг Ху вважає, що роботи повинні самостійно відповідати за свої вчинки. Штучний інтелект постійно самонавчається, і його алгоритм ухвалення рішень з часом може стати настільки складним, що будь-яка дія буде лише його власним вибором. Щоб аргументувати свою думку, Ху порівнює роботів з корпораціями, які, згідно із законодавством США, вважаються “особами”.
У 2017 році робот-гуманоїд Софія отримала громадянство ОАЕ, тобто набір прав і обов’язків, порушення яких призводить до моральної і кримінальної відповідальності. Гуманоїд Софія вже повідомляла, що мріє створити власну родину й маті дітей, однак які права матимуть роботи, створені не людиною, а штучним інтелектом? І чи може Софія захищати чужі права, не маючи власних?
І хоча сьогодні серед юристів та фахівців у сфері новітніх технологій немає єдиної думки стосовно цієї теми, більшість експертів погоджується з тим, що у майбутньому перед людством постане багато проблем у взаєминах людина-робот, і всі вони потребуватимуть негайного вирішення.
[1] 24 канал: Американці представили собакоподібного робота на ім’я Spot
[2] ВВС: Джейн Уэйкфилд. Европарламент решает, считать ли роботов “электронной личностью”
