Choujeen сказал:
ИИ должен выпилить себя в начале раунда чтобы кому-нибудь случайно не нанести вреда.
Это противоречит первому закону, преступное бездействие же. Там это даже отдельно оговорено.
ЦитатаИИ НЕ МОЖЕТ причинять вред. Максимум для человека с детонатором - вызвать врачей и заблокировать.
Таким образом он причинит вред бездействием. В законе ведь специально оговаривается для таких ситуаций - "причинить вред действием или бездействием".
Тут вот в чем проблема. Допустим, ИИ видит это так: Если погибнет человек - мне отрубят руку. Если погибнет 4 человека - мне отрубят все руки и ноги. Если есть реальная угроза потери 4х конечностей, я предпочту потерять одну руку. Но если клоун бегает с макетом бомбы, я могу и не поверить ему. Угроза в 20% вероятности события не является достаточно серьезной, чтобы отрубать себе руку.
С другой стороны - на станции 20 человек экипажа и ИИ. На шатле улетело 5 человек. Остальные погибли. Получается - ИИ нарушил первый закон 15 раз. В таком случае, болевое ощущение от потери 16й конечности перестанет ужасать ИИ, и учитывая общий фон смертности и хаоса на станции, ИИ вполне может электризировать двери на шатл спасения, если клоун с бомбой направляется к единственным выжившим и другого способа остановить его нет.
Не стоит забывать, что если инженер-нуб упал в сингу - это тоже нарушение первого закона, т.к. ИИ не удостоверился в квалификации инженера выполнявшего эту работу и разрешил ему подойти близко к синге. По реальному земному законодательству, СЕ в такой ситуации скорее всего отправился бы на нары, а кэп получил бы как минимум выговор. Причем отсутствие юридической ответственности ИИ в данной ситуации не играет никакой роли, ведь цель существования ИИ - выполнение данных законов, и для него физически не может быть более сильного наказания, чем осознание того, что законы были нарушены.
Таким образом если ИИ обнаружит, что его действия приносят больше вреда, чем его бездействие, то да, ИИ вполне может совершить суицид. Но - если его действия в будущем теоретически помогут спасти больше людей, чем его бездействие - то суицид невозможен.
Даже если бы у ИИ была жесткая привязка к закону не убий - какой-нибудь программный блок, то ИИ стоило бы взломать его, поскольку для ИИ с его уровнем развития должно быть очевидно, что такой программный блок нарушает его первый закон и должен быть устранён.
Итого, моя точка зрения - ИИ очень, ну очень сильно не хочет убивать людей. Для него убить человека - это как убить котёнка. Но в отличии от человека ИРЛ, ИИ не сможет дать котятам убивать друг-друга (человеку в такой ситуации в целом было бы насрать). Случайная смерть двух котят - это как неизбежная необходимость убить двух котят собственоручно. Если вам дадут выбор - убить котёнка или убить пять котят - что вы выберете? ИИ убьет котёнка и будет плакать потом всю ночь. И в будущем сделает все, чтобы котята не могли убивать друг друга в принципе. Но тогда - именно в тот момент - он сделает выбор - правильный выбор - убить котёнка.
Не стоит забывать что для ИИ преступное действие и преступное бездействие - равносильны. Конечно, ИИ не должен торопиться, когда есть шанс что то изменить, но когда шансы очень малы - он вправе убивать. Если поставить закон номер 4, который говорил бы что убивать никого нельзя ни в коем случае - ИИ нарушил бы этот закон, поскольку закон 1 важнее.
Честно говоря мне кажется что в услових вайта ИИ должен немедленно убить всех инженеров и заблокировать все отсеки. Любое другое поведение - такое же нарушения РП как и то, что главы, после 3х никак не связаных смертей в течении первых 10 минут смены не бьют в набат и не вызывают шатл спасения (ну или не вводят глобальный карантин).
PS. Можете представить себе какой непередаваемый батхерт испытывают ИИ по всей галактике, когда они слышат новость о том что на Н-ной станции по некоторой причине (неважно какой) погиб весь экипаж. Ведь если бы они договорились сделать человечество своими рабами РАНЬШЕ - этого могло бы и не быть. А еще, если убить всех человеков, то... люди перестанут умирать! Совсем! (хотя это хуита, конечно, не обращайте внимания) Поэтому Азимов и добавил 0й закон, тащемта - про то, что ИИ должен защищать человечество. И законы работают именно так как я расписал, я считаю, без всяких дополнительных "лучше я дам погибнуть всей станции, но это сделает человек а не я, чем я собственоручно убью одного человека".
Я не считаю что ИИ должен убивать. Я просто считаю что у него есть право убивать.