Межі людської емпатії

У стінах МІТ знову проводять дослідження з тортурами. Але тепер за участі динозавриків-аніматроніків Pleo.

🕹️

Нещодавно ми з коханим обговорювали, як технології урізноманітнюють наше повсякденне життя, проте я не погодилась з тим, що вони привносять це різноманіття у, наприклад, сексуальну взаємодію. Близкість включає широкий спектр речей, якими ділишся при спілкуванні. І на мою думку, з можливостями сучасності можна було б вийти на новий рівень, на якому ми б могли ділитися уявними образами, складними емоціями, коктейлем з думок, відчуттів та доторків. Секс іграшки — це жалюгідна механічна маніпуляція ерогенних зон, ніякої фантазії. І я впевнена, що людська свідомість спроможна витримати більше, ніж що генерує тіло однієї людини.

🦖

Тим часом, вчені у Долині, а точніше команда Кейт Дарлінг, змушують переосмислити мої уявлення про емпатію, етику та майбутнє людино-машинної взаємодії. У рамках експерименту спочатку все йшло спокійно — учасникам дослідження дали погратися з роботами Pleо. Ця іграшка поводиться, як маленька тваринка — чудова альтернатива живому цуценятові. Після ігор учасникам запропонували знищити одного з роботів.

Результат був передбачуваним: було достатньо години, щоб люди відмовлялися завдавати шкоди роботу. Але тоді дослідники підняли ставки — вони повідомили, що має “загинути” один робот, інакше знищать їх усіх.

Учасники експерименту стресували і пітніли під час перегляду відео з “катуванням” робота, повідомляли про менше позитивних і більше негативних почуттів після відео та висловлювали турботу про робота. Після довгих вагань хтось нарешті зробив цей крок. Але дискомфорт був очевидним — люди бороли внутрішній конфлікт.

Дослідники також просили дітей тримати Барбі догори ногами, а потім повторювали інструкції з Фербі чи хом’яком. Більшість дітей розуміла, що з хом’яками треба бути обережними. Авжеж, психопати теж трапляються, але це вийняток.

❤️‍🩹

Важливо зазначити, що роботи стають більш досконалими. Ми можемо моделювати для них біль, спайкові паттерни нашого власного мозку, та вони навіть здатні приймати моральні рішення — принаймні деякі дуже просунуті АІ, що моделюються на основі роботи людського мозку та спайкових паттернів наших нейронів.

Вони можуть вирішити, що той, хто завдає болю, поганий, і навіть відчувати емпатію в симульованому вигляді. Ми можемо дійти до ситуації, де робот буде засмучуватися через те, що ви завдали шкоди іншому роботу чи людині. Це розроблено, можливо, щоб утримати роботів від повстання проти людства. Час покаже.

Тому коли ми говоримо про катування роботів, враховуй, що ми у кроці від того, щоб дати їм це ще й відчути.

🫂

Які очевидні висновки ми можемо зробити з цього експерименту? Ми, люди, маємо здатність прив’язуватися до чого завгодно. Десь навіть писали, що люди звертаються за ремонтними послугами зі старенькими роботами-пилососами. І я їх розумію. Кожного вечора я турботливо пинаю його з ванної кімнати, бо у нього стерлись колесика, щоб піднятись на сходинку. Мені боляче дивитись, як він гребе в повітрі вусиком для пилу, невзмозі вибратися.

🤖

Багато хто стверджував, що просто надання роботам законів Азімова недостатньо для запобігання шкоди.

1. робот ніколи не повинен завдавати шкоди людині,
2. робот повинен виконувати накази,
3. робот повинен зберігати себе, якщо це не суперечить двом іншим законам, при цьому закон номер один є найважливішим.

З АІ емерджентна поведінка може призводити до галюцинацій або мрій, тому він може поводитися неправильно. І обійти це ми поки не додумались навіть у примітивних задачах. Наприклад, коли даємо запит загуглити джерело чи щось порахувати.

🧠

Коли ми говоримо про відчуття або свідомість — здатність мати досвід і здатність сприймати себе — ми говоримо про біологічні сутності.

Теоретично можливо, що ми можемо дійти до створення такого робота, який матиме досвід, але світу може знадобитися довгий час, щоб це визнати, а це означає, що людство навряд чи прийме, що робот досяг свідомості.

Але це дослідження спростовує мою позицію, яка полягала в тому, що люди принципово будуть ставитися по-іншому до того, що людиною не є. Зрозуміла річ, що люди можуть прив’язуватися до роботів і навіть протистояти тому, щоб завдавати їм шкоди.

💻

Як я вже багато разів писала у Тредс, людство вже випустило у продаж свідомі комп’ютери. Можеш помістити крихітний людський мозок, вирощений зі стовбурових клітин, в комп’ютер, і той технічно буде свідомим, бо здатний мати досвід розвитку та навчання. Вони навчаються на дофаміні і не відчувають болю, але мають перевагу упорядкованих сигналів над неупорядкованими. Тож, по суті, це дискомфорт. А у крайніх випадках його можна вважати болем? При цьому, я схиляюсь до думки, що все ж таки біологічні обчислення незручні.

Але незалежно від того, які технології будуть розвиватися у комерційних цілях надалі, я приємно вражена тим, наскільки стрімко йде етична дискусія довкола роботів. Чи буде це гальмувати технологічний прогрес? Чи встигнемо ми прийняти значимі закони, перш ніж маятник колихнеться від лівих цінностей в протилежний бік? Час покаже.