Inside Outside
6
Защита животных

Кто важнее — робот или собака?

Классические законы робототехники не отвечают на этот вопрос. Исправляем ситуацию
Цифры
Позиция компании в
области защиты
животных

Кто важнее — робот или собака?

Классические законы робототехники не отвечают на этот вопрос. Исправляем ситуацию

В прошлом веке знаменитый фантаст Айзек Азимов сформулировал три закона о том, как умные роботы должны вести себя по отношению к людям. Сегодня вместо роботов нас окружил искусственный интеллект, и законы, предназначенные для андроидов, очень пригодились, чтобы понять, как должен вести себя ИИ. Однако в прошлом веке еще не так сильно заботились о животных, и как ИИ правильно вести себя, например, с кошками или собаками, человечество не решило. Зато сейчас — самое время.

История сотрудника «Лаборатории Касперского», которая нас вдохновила

Эксперт «Лаборатории Касперского» Олег Зайцев решил своими руками создать «умный дом». С инженерной точки зрения получился шедевр, не доступный покупателям стандартных решений. Искусственный интеллект контролирует сотни параметров внутри и снаружи коттеджа Олега, выбирает оптимальный режим работы практически всего, что есть в доме, знает, что делать в нестандартных обстоятельствах и способен сохранять свою жизнеспособность в экстремальной ситуации. Кажется, что хозяин дома именно он. Но, конечно же, это не так. В руках Олега всегда смартфон, с которого настоящий хозяин контролирует работу ИИ.

У «умного дома», созданного Олегом Зайцевым еще одна необычная особенность — он заботится не только о людях, но и об их питомцах. В коттедже у Олега животных много: аквариумные рыбки, черепахи, собака и две кошки. ИИ поддерживает нужную температуру и уровень воды в аквариумах, следит за исправностью насосов, фильтров, освещения. А если увидит, что во дворе гуляет собака или кошки, то заботливо проконтролирует, чтобы ворота гаража, закрываясь, кого-нибудь не придавили.

И вот здесь инженерный гений Олега споткнулся о нерешенную этическую проблему. По какому алгоритму должен действовать ИИ в случае острого дефицита ресурсов — отдать последнее тепло аквариумным черепашкам или все-таки подумать о человеке? Олег надеется, что в таких непростых ситуациях он сам примет этическое решение. Но что будет, когда под контроль ИИ мы отдадим целые города? Хватит ли у нас времени и возможностей, чтобы разобраться с каждой подобной ситуацией? Очевидно, что нет. Поэтому давайте вспомним три закона Айзека Азимова и, наконец, учтем в них интересы наших питомцев.

Kaspersky engineer

Разрабатывая «умный дом», я помнил, что у меня живет несколько домашних питомцев, и старался создать для них такой же комфорт и безопасность, как и для людей.

Олег Зайцев

эксперт «Лаборатории Касперского»
Закон №1

Робот не может своим действием или бездействием причинить вред человеку

Наш комментарий

Получается, что запрещено вредить только человеку. А как же животные? Хорошо было бы запретить роботам вредить и всем живым существам. Но пока значительная часть человечества предпочитает пищу животного происхождения, мы столкнемся с невозможностью использовать ИИ, допустим, в рыболовстве. Поэтому придется разграничить понятия «человек» и «живое существо».

! Наша версия
Робот не может причинить вред живому существу без санкции человека.
Закон №2

Робот должен исполнять приказы человека, кроме тех случаев, когда эти приказы противоречат Первому закону

Наш комментарий

А что делать, если робот играет с собакой? Он должен следовать ее воле? Может ли вообще робот исполнять приказы, отданные не человеком, а, например, шимпанзе? Мы считаем, что нет. Человек наделяет машину «полномочиями» сознательно, осознавая возможные последствия. Животные вряд ли готовы нести ответственность перед человеком за свои действия, поэтому давать им власть над машинами нельзя. Все алгоритмы взаимодействия животных с роботами должны быть четко регламентированы человеком. Поэтому Второй закон робототехники оставляем почти без изменений.

! Наша версия
Робот должен повиноваться приказам, которые отдает только человек.
Закон №3

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам

Наш комментарий

Смысл в том, что в ситуации выбора робот должен пожертвовать собой, а не человеком. Но может ли робот пожертвовать животным? Если на летающий беспилотник напал орел, может ли ИИ применить силу для защиты? Проблема в том, что «животные» — понятие очень широкое. Похоже, нам не избежать того, чтобы разделить живых существ на неприкосновенных, то есть тех, которым нельзя причинить вред без санкции человека, и тех, которыми ИИ может пожертвовать ради самосохранения. Принцип этого деления — предмет бурной общественной дискуссии. Зато понятно, как должен звучать Третий закон.

! Наша версия
Робот должен пожертвовать собой ради человека и животных, которые человеку дороги.
Подведем итоги
Новые законы робототехники
1

Робот не может причинить вред живому существу без санкции человека

2

Робот должен повиноваться приказам, которые отдает только человек

3

Робот должен пожертвовать собой ради человека и животных, которые человеку дороги

Читать дальше Outside
6
Защита животных

Как не потерять
свою собаку

Главное — запомнить 12 правил
На главную
Социальный отчет «Лаборатории Касперского»