Роботи вже вбивають людей. Чому закони робототехніки Азімова не працюють

У 1942 році Айзек Азімов вперше сформулював три закони робототехніки у науковій фантастиці, за яким робот не може своїми діями або бездіяльністю заподіяти шкоду людині. 81 рік потому роботи стали частиною нашої реальності і вже вбивають людей. Нещодавно у промисловому центрі розподілу сільськогосподарської продукції у Південній Кореї промисловий робот вбив працівника, який перевіряв його датчики. І це далеко не перший випадок в історії.

Liga.Tech розповідає, чому це відбувається та як мають працювати правила роботехніки в ідеалі.

Як працюють закони робототехніки Азімова

Три закони робототехніки — обов’язкові правила поведінки для роботів, які письменник Айзек Азімов описав у своєму оповіданні “Я, робот”, яке вийшло 1941 року. Власне, термін “робототехніка” теж належить йому.

Обкладинка книги Азімова 1958 року

Ці три закони звучали так:

• Робот не може нашкодити людині або через свою бездіяльність допустити, щоб людині було завдано шкоди.
• Робот мусить підкорятися наказам людини, коли ці накази не суперечать Першому закону.
• Робот повинен дбати про свою безпеку доти, поки це не суперечить Першому і Другому законам.

Попри те, що ці закони – вигадка, згодом вони стали частиною наукових дискусій. Вчені з Техаського університету спробували уточнити та переписати ці закони.

За версією Азімова, перший закон передбачає, що люди самі конструюють роботів. Другий допускає обмежену здатність роботів розуміти накази людей і реагувати на набір команд від певних осіб. Останній закон найбільш комплексний. Роботи повинні мати незалежність, щоб вміти діяти в реальній ситуації — приймати рішення для захисту себе, але також повинні вміти передавати управління людям, коли це відповідає моменту, тобто проявляти гнучкість.

Водночас Королівське товариство та Британська академія кілька років тому виступили з пропозицією скоротити ці три закони до одного: “Поліпшувати добробут людини”. На їхню думку, принципи Азімова також в ньому закладені.

Крім того, вчені закликали пильнувати за тим, щоб машини служили людям, а не прагнули підпорядкувати їх собі. Водночас роботи з “позитронним мозком”, свідомістю та вбудованими трьома законами все ще залишаються фантастикою.

Перша у світі людина, вбита роботом

З 1992-го до 2017 року лише в США роботи спричинили смерть 41 людини на робочому місці. Ймовірно, ця цифра неповна, якщо взяти до уваги інші побічні ефекти від автоматизації.

Однак перші подібні випадки були зафіксовані ще у 1980-ті та навіть наприкінці 1970-х. 25 січня 1979 року 25-річний Роберт Вільямс співробітник Ford Motor Company у штаті Мічиган став жертвою індустріального робота, який функціонував на цьому підприємстві. Він вважається першим у світі робітником, вбитим роботом.

Вільямс працював оператором п’ятиповерхової системи для доставляння відлитих деталей. У її складі були візки на гумових колесах, оснащені механічними маніпуляторами для переміщення деталей на полиці та з них. За однією з версій, робот помилково зчитав показники деталей, через що зупинився або просто почав робити це недостатньо швидко.

Робітника попросили піднятися на стелаж, щоб дістати деталі вручну. І в цей момент один з візків вдарив чоловіка в спину і розчавив.

За подібних обставин помер і працівник Kawasaki Heavy Industries Кендзі Урада. Цей випадок описується у книзі “Коли роботи вбивають: штучний інтелект згідно з кримінальним правом”.

Урада загинув під час перевірки робота: чоловік намагався вимкнути живлення машини, але випадково його запустив.

Робот притиснув його до сусідньої машини: та чи то розчавив, чи то вдарив промисловим ножем у спину. Інші працівники не змогли зупинити машину, оскільки вони не були знайомі з її роботою.

Розслідування дійшло висновку, що працівники недостатньо підготовлені до роботи з машинами, а машини важко регулювати. Робот був видалений із заводу, а навколо двох інших роботів там звели огородження.

Ці приклади змальовують тільки інциденти, до яких причетні небойові роботи. Мало хто замислюється, що більшість сучасної зброї вже є роботизованою. Вона вибирає цілі, повертається на позиції та очікує, поки людина “натисне на курок”.

Проте час від часу подібна зброя починає стріляти сама собою. Так, роботизована зенітна гармата вбила дев’ятьох південноафриканських солдатів і поранила 14 у 2007 році, коли через збій програмного забезпечення машина почала шалено розгойдуватися та випустила десятки смертоносних снарядів менш ніж за секунду.

Як штучний інтелект збільшує загрозу роботів

Сучасні напрацювання у сфері штучного інтелекту значно збільшують потенційну загрозу роботів. На вулицях світових мегаполісів з’являються безпілотні таксі, а, наприклад, поліція залучає робособак. Цього достатньо для розуміння, що сучасні роботи виходять далеко за межі складів та підприємств. Водночас безпека їх використання не до кінця врегульована.

Мешканці Сан-Франциско, де нещодавно запрацювало безпілотне таксі, скаржаться на те, що ці машини створюють небезпечні ситуації на дорогах. Зокрема ці таксі не встигають швидко відреагувати на необхідність пропустити швидку допомогу. Через це нещодавно сервіс звинуватили у смерті людини, хоча пряму провину так і не вдалося довести.

Помилки минулого мали б стимулювати людство передбачати можливі наслідки великих катастроф. Однією з найбільших техногенних катастроф минулого століття став вибух на взуттєвій фабриці Гровера, через який загинуло 58 осіб. Це змусило ухвалити правила, які регулюють безпечну роботу парових котлів. Так само пожежа на фабриці Triangle Shirtwaist у 1911 році – тоді загинуло 116 людей – призвела до введення правил щодо спринклерних систем і аварійних виходів.

Цього разу у людства є шанс уникнути трагедії, встановивши обмеження, поки смертельні інциденти з роботами не набули більшого масштабу.

Три закони робототехніки Азімова та їхня актуальність

Автори наукової фантастики роками задумуються над питанням, а що якщо одного дня “розумні” роботи перевершать людину на фізичному та розумовому рівні, зможуть осягнути себе, та вирішать що люди їм просто не потрібні? У відповідь на ці питання приходять три правила роботехніки Азімова. У минулому столітті, письменник фантаст Айзек Азімов, у своїх роботах неодноразово розбирав принципи робототехніки та пропонував розв’язання проблеми у вигляді певних законів.

Три закони робототехніки Азімова та їхня актуальність, в наш час, викликають багато заперечень. На початку своєї роботи виробники роботів Nanit Robots неодноразово замислювались над тим як зробити так, щоб робот не нашкодив людині, був корисним та функціональним? Бо, наприклад, існує багато роботів, що вже зараз не потребують втручання людини. Ті, що збирають автомобілі на заводах, негайно вимикаються, щоразу як до них наближається людина. Самокерований автомобіль навпаки продовужє рухатись, аби уникнути зіткнення, а робот-доглядач – швидко налаштований на швидке реагування аби підхопити літню людину, якщо та ось-ось впаде.

Колись роботи стануть нашими компаньйонами та колегами, та ми повинні бути готові до складніших ситуацій, які вони створюватимуть, передбачити етичні питання та питання безпеки, які можуть виникнути у процесі роботи.

Три закони робототехніки Азімова та їхня актуальність

Азімов – відомий у всьому світі письменник-фантаст, за освітою – професор біохімії в Бостонському університеті. За час своєї літературної кар’єри, яку він розпочав у 1939 році, Айзек Азімов випустив понад 500 опублікованих томів на додаток до 90 000 листів, листівок та інших наукових книг.

У 1942, в рамках циклу фантастичних творів “Я, робот” Айзек Азімов, для свого вигаданого світу створив звід правил, яких мав дотримуватися кожен робот під час взаємодії з людиною. У своїх роботах автор надихався історією та принципом «злочин і покарання» як у «Фаусті».

20 років потому автор зізнався, що починаючи писати в 1940 році, він виявив один головний сюжет наукової фантастики – роботи були створені та знищені їх творцем. Виходить, що знання мають свої небезпеки, чи можуть бути знання перешкодою для небезпек, які воно несе? В його історіях про роботів йдеться про незвичайну та неінтуїтивну поведінку як ненавмисний наслідок того, як робот застосовує Три закони до ситуації, в якій він опинився. Саме тому письменник вирішив, що в його оповіданнях робот не буде «дурно накидатися на свого творця без жодної мети».

3 закони Азімова:

• Робот не може заподіяти шкоду людині або своєю бездіяльністю допустити, щоб людині було завдано шкоди.
• Робот повинен підкорятися наказам, відданим йому людиною, за винятком випадків, коли такі накази суперечать Першому Закону.
• Робот повинен захищати своє існування до тих пір, поки такий захист не суперечить Першому або Другому законам.

Хоча, ці закони звучать правдоподібно, численні аргументи науковців демонструють неактуальність ідей. В оповіданнях Азімова відстежується деконструкція цих законів, та неможливість створення безпечних, сумісних і надійних роботів. Розглянемо три закони робототехніки більш детально.

Перший закон

В реальному світі він може стосуватись не тільки нещасних випадків на виробництві, але й абсолютно навмисних сценаріїв вбивств. Історія знає декілька таких нещасних випадків. У 1979 році, на заводі Ford у Мічигані робот вбив працівника. Два роки по тому, робот, на заводі в Кавасакі, штовхнув робітника в шліфувальний верстат із гідравлічним важелем.

Так, такі ситуації трапляються рідко, але роками роботи розчавлювали, били й навіть обливали людей розплавленим алюмінієм. Причиною того є недостатня модернизованість ранніх моделей, вони не були обладнані для того, щоб зупиняти свої рухи в небезпечних умовах, і не могли відчувати присутність людини в межах свого робочого діапазону.

Другий закон

У другому законі йдеться про слухняність робота. Шкода мінімальна, якщо він запрограмований вдало. Роботи дуже добре виконують накази людей, але також можна стверджувати, що це “завдає шкоди” на економічному рівні. Розвиток робототехніки, ймовірно, призведе до кризи, коли буде важко знайти нові способи використання людської праці.

Третій закон

Люди створюють роботів подібних до себе, наділяючи їх людськими властивостями. Та чи можна наділити робота почуттями? І взагалі, чи може робот захистити своє існування, якщо він не знає, що він існує?

Після вивчення робіт Айзека, багато науковців задумувались над питанням самозбереження роботів. Вартість такого продукту висока. Конфлікт створення багатьох комерційних роботів неодмінно викличе занепокоєння інвестицій їхніх власників. Захист засобів та відшкодування збитків у процесі створення роботів – можливий, але має багато нюансів. Будь-яке застосування Третього закону в сучасних умовах буде спрямоване на захист людей від фінансового і фізичного збитку.

Парадокс 3-х законів робототехніки

Три закони робототехніки Азімова та їхня актуальність роками випробовуються на міцність. До прикладу, створення керованих людиною військових безпілотників. З одного боку – рятування життя, з іншого – вбивство.

Парадокс першого закону Азімова, в тому що, можна покласти вину на людські плечі, адже він керує роботом в цьому випадку.

Висновок: армії, оснащені бойовими роботами значно зменшать кількість людських жертв загалом, тож використовування роботів як гарматне м’ясо – можливий вихід у вирішенні багатьох конфліктів світового рівня.

У випадку з допомогою літнім людям – робот може бути запрограмований на мінімальну допомогу, аби людина намагалась втримати незалежність, яка для багатьох літніх людей дуже важлива. Виходить, що люди мають змогу ухвалювати власні рішення, зокрема ті, що можуть призвести до заподіяння шкоди собі, наприклад, внаслідок падіння. Робот, що дозволяє своїй людині приймати незалежні рішення, які призвели до травми внаслідок падіння, порушував би Перший Закон через бездіяльність.

Які є рішення?

Проблематика трьох законів робототехніки полягає в форматах та будь-яких керівних принципах. Вчені з Техаського університету A&M та штату Огайо, переглянули три закони Азімова, намагаючись виправити неясності у виразах. Та розробили свої, де головна мета – емпауермент, протилежність безпорадності.

Вчені займаються розробкою та моделюванням ситуацій, де роботи будуть використовувати принцип розширення можливостей в різних сценаріях, та можуть діяти напрочуд “природно”.

Захищати та підтримувати людину, і так само бути безпечним та автономним аби підтримувати свої власні можливості, наприклад, гарантуючи, що у нього достатньо енергії для роботи, і він не застрягне і не буде пошкоджений.

Натомість старим законам роботехніки, вчені виявили нові:

– Людина не може створити робота без робочої системи “людина-робот”. Робототехніки та виробники повинні нести відповідальність за дії робота на юридичному, професійному та етичному рівнях.

– Робот повинен відповідати людям залежно від їхньої ролі. Необдумані інструкції можуть викликати хаос, не порушуючи жодного з трьох законів, але і сліпе підпорядкування не бажане.

– Робот зобов’язаний дотримуватися достатньої автономії для захисту свого існування, але, незалежно від обставин, люди завжди повинні бути в змозі взяти гору, якщо вони відчувають у цьому необхідність.

Висновки

Впродовж багатьох десятиліть три правила робототехніки Азімова були константою для робототехніків. Зараз вчені займаються удосконаленням роботи системи «людина-робот» та технології штучного інтелекту в усьому світі. Хоча, розширення прав і можливостей забезпечує новий спосіб мислення про безпечну поведінку роботів, нам ще потрібно багато працювати над підвищенням його ефективності, щоб його можна було легко розгорнути на будь-якому роботі та перетворити на хорошу і безпечну поведінку з усіх боків. Це дуже складне завдання. Але ми твердо віримо, що розширення можливостей може привести нас до практичного розв’язання поточної та дуже дискусійної проблеми.