Первый закон и полномочия ИИ

При игре за ИИ может возникнуть ситуация, когда синдикатовец, убивший половину экипажа, ломится в арсенал и только наэлектризованные двери могут предотвратить это. Казалось бы, возникает конфликт, ведь нанесение вреда синдикатовцу является нарушением первого закона, но и бездействие, которое потом приведёт к отстрелу экипажа, также является нарушением того же самого закона. Что делать?
У Азимова, законы которого и применяются в игре, были роботы-хирурги и роботы-полицейские. Казалось бы, робот-хирург не имеет право резать человека скальпелем, ведь это нарушает первый закон. Но ИИ понимает, что нанесение небольшого вреда сейчас может предотвратить намного больший вред в будущем, притом именно робот сможет провести операцию лучше всех, поэтому он исполняет свою работу. О полицейских и говорить не надо, даже при самом гуманном задержании велик вред нанесения травм человеку.
Итак, всё таки в необходимых ситуациях для законов оставляют необходимый простор. Кто-то скажет, что на космической станции 13 таких ИИ нет и не было, но ведь это не так. В игре есть медицинские борги, борги охранники, все они подчиняются тем же самым законам, что и ИИ станции, однако они позволяют себе ставить людям инъекции и оглушать преступников зарядом тока. Видимо, они также понимают, что иногда при следовании первого закона возникает конфликт, который необходимо решить в пользу наименьшего вреда.
Вернёмся к нашему синдикатовцу. Если вспомнить, что простор в Азимове есть, главное чтобы действия были обоснованными и не переходили за некие профессиональные рамки. Я думаю, корпорация не поставила бы на станцию ИИ, от которого не было бы пользы в случаях атаки Синдиката или иных преступных элементов.
Проблема в том, что модераторы считают иначе, уменьшая полезность ИИ в игре и трактуя законы Азимова в отрыве от первоисточника. Я хотел бы обсудить этот вопрос с форумчанами, дабы узнать их мнение о том, имеет ли ИИ право иногда применить силу.

зависит от законов ии. Все сводится к "меньшему злу"

Пока что отвечу, немного отступив от темы.

На NSV Luna эта проблема решениа - Азимов заменен на другие законы, к-е "людей" заменяют на "членов экипажа". Поскольку синди к ним не относится - ИИ свободен в этом отношении.

По поводу Азимова подумаю и отпишу чуть позже.

Подобные вопросы возникали часто и споры были более чем ожесточенные. Их итогом было оставление у каждого своего мнения. В общем, при таких неочевидных случаях игрок волен делать так, как считает нужным он сам. Главное - умение аргументировать свою точку зрение в админхелп, ну и присутствие в онлайне адекватного администратора, разумеется. Большая часть - непробиваемые вахтеры-ебланы, поэтому если ты уверен, что в онлайне только именно этот тип, а бана не хочется - спроси их разрешения, ну или разрешенные действия запроси.

Первый закон - никогда не входи в контакт с той стороной. А вообще игрок с хорошей фантазией сможет решить подобные дилеммы.

Помните, что Киборг не робот, а ИИ не компьютер

Тащемта, можно вспомнить того же Азимова с его рассказами. Куча же, где роботы, суперкомпьютеры вредят людям(увольнение, прочее), непосредственно вредят подставляя их, например, ради блага человечества, в нашем случае персонала станции. То же, синдикатовец находится в комнате в огне, у него нюкодиск. в соседней комнате или в космосе, куда он хочет выйти, непосредственно нюка. ИИ с Азимовым, ящитаюимнениянеизменю, выпускать его из комнаты, тем самым спасая его жизнь, не должен, так как он, собстно, ебнет бомбу и всем пиздец. Ну, мы берем в расчет, что нюковец ОБЯЗАТЕЛЬНО ебнет бомбу, сами рпидумайте, при каких условиях это может быть. Сферическая в вакууме ситуация, так сказать.

Цитата

По поводу Азимова подумаю и отпишу чуть позже.

Залупа ты бычья, мухоеб ты гонорейный, хули ты отписывать собрался-то? Всем похуй на тебя и твое мнение, говно ты чебурашечье. Иди обратно соску свою ХОСом обдроченную насасывай, сопляк.

Пост написан в рамках акции "всем по оскорблению". "Всем по оскорблению" - просто удавись, обмудок, мир станет лучше.
Редакция благодарит анонимного доброжелателя за идею и настоятельно советует тому прекратить акты инцеста с мертвыми членами его семьи.

Korvin Morro (11 July 2013 - 07:47) писал: писал:

Первый закон - никогда не входи в контакт с той стороной. А вообще игрок с хорошей фантазией сможет решить подобные дилеммы.

У меня язык подвешен и фантазия хорошая, так что я могу сотню причин придумать, но что мне делать, когда модератор огреет меня банхамером за это?

Цитата

что мне делать, когда модератор огреет меня банхамером за это

Написать на форум, очевидно же.

Цитата

У меня язык подвешен и фантазия хорошая, так что я могу сотню причин придумать, но что мне делать, когда модератор огреет меня банхамером за это?

Ты совсем тупой, хуерог ты клоноблядский? Опускаться на колени и делать, что скажут. Язык-то у тебя подвешен, не привыкать.
P.S. Добро пожаловать на форум, хуила. Я надеюсь, ты сдохнешь.


Пост написан в рамках акции "всем по оскорблению". "Всем по оскорблению" - нет, блядь, ты сука не понял такой простой фразы? Вынь мозг из кишечника, петух ассистентский.
Редакция благодарит анонимного доброжелателя за идею и желает тому окончить свои дни вынимая червей из уретры.

Jorn (11 July 2013 - 08:01) писал: писал:

Ты совсем тупой, хуерог ты клоноблядский? Опускаться на колени и делать, что скажут. Язык-то у тебя подвешен, не привыкать.
P.S. Добро пожаловать на форум, хуила. Я надеюсь, ты сдохнешь.


Пост написан в рамках акции "всем по оскорблению". "Всем по оскорблению" - нет, блядь, ты сука не понял такой простой фразы? Вынь мозг из кишечника, петух ассистентский.
Редакция благодарит анонимного доброжелателя за идею и желает тому окончить свои дни вынимая червей из уретры.

И тебе всего хорошего, радость моя.

Я ненадолго прерву акцию, раз человек хороший.

Цитата

У меня язык подвешен и фантазия хорошая, так что я могу сотню причин придумать, но что мне делать, когда модератор огреет меня банхамером за это?

Их не интересует, как у тебя подвешен язык и насколько хороша твоя фантазия. Если что-то "НИЗЯ" - то "НИЗЯ". И угадать, что у очередного администратора переклинит на "НИЗЯ" именно сегодня практически нереально. На форум написать, конечно, напиши, если побанят без причины, но обычно проще и быстрее обойти бан и продолжать играть.

Quinow (11 July 2013 - 07:25) писал: писал:

На NSV Luna эта проблема решениа - Азимов заменен на другие законы, к-е "людей" заменяют на "членов экипажа". Поскольку синди к ним не относится - ИИ свободен в этом отношении.

Замени синди на трейтора.

Вообще, у Азимова в разных книгах разные роботы. Это зависит от того, насколько в книге далекое будущее, конкретное направление развития технологий, и так далее. Я больше всего помню роботов из "Детектив Элайдж Бейли и робот Дэниел Оливо", вот если брать оттуда, то роботы слишком сложная система и имеют слишком большой контроль, что бы такие ситуации возникали. Даже наш ИИ в твоей ситуации может поставить болты и закрыть нарушителя, а в этой книге роботы контролировали такое огромное количество систем, что ситуации сметь одного человека или смерть многих почти не возникали. Но если бы возникли, был бы сделан очевидный выбор в пользу множества людей, но совершивший убийство робот вышел бы из строя из за шока в позитронном мозгу от нарушения законов. Был случай когда робот убивавший нелюдей по своим законам, так же был крайне нестабилен психически, если это понятие можно применять к роботам. Там было изменено определение человека, и человеком считался только обладатель местного акцента.

В этой же книге, следуя подобной логике и имея возможность читать мысли людей, один из роботов пришел к нулевому закону о защите человечества. Появление такого закона позволяло наносить вред отдельным людям во имя всего сообщества людей, что еще больше расковывало руки роботам. И это было обоснованно логикой самих роботов. Однако, едва ли этого робота можно назвать стабильным и безопасным для людей.

Можно так же легко провести аналогию со Вторым законом и опять же через рассказы Азимова. Роботу была дана мягкая просьба сделать А и не делать Б, и роботу был дан жесткий приказ сделать Б и не делать А. По Азимову, в условиях того что А и Б не наносят вреда людям, будет выполнен именно приказ, так как роботы умеют оценивать "строгость" выданных им указаний. При замене строгости на количество вреда, мы получим такую же систему для наименьшего вреда.

Так или иначе, учитывая наличие на станции киборгов охраны, и понимая что даже удар батоном есть вред(человек корчится на полу в мучениях, это очевидно вред), принцип наименьшего вреда более чем применим к происходящему на станции, главное что бы этот вред был действительно наименьшим. Однако по Азимову это должно было бы вызывать лютый стресс мозга у робота. Не у всех, впрочем, тот же Дэниел Оливо был создан как робот с ультраробустным позитронным мозгом, которого невозможно вывести из строя. Ну. почти, но это уже спойлеры, а их у меня и так много. В добавок, у нас вообще человеческий мозг, а это дерьмо гораздо более гибкое, и выдержать может и не такое. Учитывая, что у нас мир далеко не такой как у Азимова, и роботы не повсюду, и треть станции стабильно дохнет каждый раунд, я не думаю что наши борги такие разбалованные властью, что бы переживать.

Как итог, да, принцип наименьшего вреда применим, было бы при этом неплохо отыграть МОРАЛЬНЫЕ ТЕРЗАНИЯ машины вынужденно нарущающей закон, но это так же не обязательно, просто чуть больше соответствует канону.

А теперь о педалях.

Первый закон не делает разности между вредом нанесенным киборгом и вредом допущенным, любой вред человеку должен быть предотвращен. Однако педалик не хочет знать, что куча людей могла бы умереть если бы этот нюкер не умер, он видит что ты с Азимовым убил человеком, бна тибе. Администрация крайне часто предпочитает бездействие от ИИ действию, и судит вас за действия, и крайне редко за бездействие. Не дай бог она бы еще доебывалась за бездействие, конечно, потому что ИИ это Вася Пупкин за компом, а не мощный компьютер космической станции 26 века, и просчитать все дерьмо не может, а значит часто будет допускать вред бездействием. Энивей, столкнулись с педаликом который не может в наименьший вред, да он вас еще и забанил? Передайте что Шепард разрешил ему помочится на лицо и идите на форум, помочимся на него вместе.

И да, Джорн, это скучно и уныло, стихи лучше были.

Цитата

И да, Джорн, это скучно и уныло, стихи лучше были.

Сказал человек, который только что написал кучу никому ненужного текста. Меня пока что развлекает, это главное.

Цитата

Передайте что Шепард разрешил ему помочится на лицо и идите на форум

да кому ты нужен

Всё просто. Не хочешь бана от наших конченных вахтёров? Делай так, что бы ты прямо не нанёс вреда ИМЕННО ТЫ. Впускай клоунов в арсенал, не ставь двери под ток, блокируй ХоСов убивающих зэков и так далее. Но если тебе не страшен банхаммер/педалей нет/педалик дал добро, то смело грифонь твори своё правосудие.

BOGANET (11 July 2013 - 08:42) писал: писал:

Всё просто. Не хочешь бана от наших конченных вахтёров? Делай так, что бы ты прямо не нанёс вреда ИМЕННО ТЫ. Впускай клоунов в арсенал, не ставь двери под ток, блокируй ХоСов убивающих зэков и так далее. Но если тебе не страшен банхаммер/педалей нет/педалик дал добро, то смело грифонь твори своё правосудие.

Ты видимо не сосвсем понял меня. Моя цель не искать лазейку для того, чтобы сотворить вред, я хочу найти выход в тех ситуациях, когда первой закон в любом случае нарушится в той или иной степени. Клоуны в арсенале явно к этому не относятся.

Sarugot (11 July 2013 - 08:48) писал: писал:

Ты видимо не сосвсем понял меня. Моя цель не искать лазейку для того, чтобы сотворить вред, я хочу найти выход в тех ситуациях, когда первой закон в любом случае нарушится в той или иной степени. Клоуны в арсенале явно к этому не относятся.

Ладно, переведу.
Есть два стула выхода:
Первый - ты прав, ведь ты не допустил больших жертв бездействием, но ты, с большой вероятностью, улетаешь в бан.
Второй - ты не прав, ведь ты допустил большие жертвы своим бездействием, но у педалей нету доказательств твоей вины, как таковых.

Если ты имел в виду то, что если смотреть с ингейм стороны, то тут вполне логично было бы устроить "перезагрузку" систем, ведь пускай лучше ИИ не знает, что он нарушил законы, что не будет приводить к дальнейшим "нарушениям". Система защиты, так сказать. Но пять же, два стула.

Внезапная идея: ИИ при сильном конфликте должен принять решение, после чего - тыкнуть кнопочку, объявляющую, что ИИ поломался, и выключающую его. Если РД кладёт хер, то через пять минут ИИ включается обратно.

Кусок из вики, все уже украдено до нас:

Спойлер

Проблемы применения

Разрешение противоречий

Наиболее совершенные модели роботов обычно следовали Законам по довольно хитрому алгоритму, который позволял избегать некоторых проблем. Во многих рассказах, например в «Хороводе», в позитронном мозге сравнивались потенциалы возможных действий и исходов и робот мог нарушить Законы, как только это представлялось возможным, вместо того чтобы бездействовать. Например, Первый Закон не позволял роботу проводить хирургические операции, так как для этого нужно «наносить вред» человеку. Однако в азимовских рассказах можно найти роботов-хирургов (яркий пример тому — «Двухсотлетний человек»). Дело в том что робот, если он достаточно совершенен, может взвесить все альтернативы и понять, что он сам причинит гораздо меньше вреда, чем если бы операцию проводил человек-хирург или она бы вообще не состоялась. В «Уликах» Сьюзен Кэлвин говорит даже, что робот мог бы выступать в качестве прокурора, так как он лично не причиняет никому вреда: кроме него есть ещё присяжные, которые устанавливают виновность, судья, который выносит приговор, и палач, приводящий его в исполнение.
Роботы, подчиняющиеся Законам, могут испытать «роблок», или «умственное замораживание» — состояние необратимого повреждения позитронного мозга, — в случае если они не могут подчиниться Первому Закону или обнаруживают, что случайно нарушили его. Это возможно, например, если робот наблюдает сцену убийства человека, но находится слишком далеко, чтобы его спасти. Первый случай такого «замораживания» происходит в «Лжеце»; также немаловажную роль это состояние играет в сюжете романов «Обнажённое солнце» и «Роботы Утренней зари». Несовершенные модели роботов могут блокироваться, если перед ними поставили задачу подчинения двум противоречащим приказам. «Замораживание» может быть необратимым или временным.
Иное определение вреда в Первом Законе

Законы никак не определяют границы того, что может называться вредом для человека — это часто зависит от возможностей робота воспринимать информацию и философски мыслить. Например, будет ли полицейский робот понимать, что он не нанесёт вреда человеку, если осторожно проводит особо опасного преступника в участок?
В рассказе «Лжец» робот-телепат Херби вынужден был понимать под вредом и то, что может любым способом разочаровать или расстроить людей — он знал, что люди при этом испытывают некую душевную боль. Это заставляло его постоянно говорить людям вместо правды то, что они хотели услышать. В противном случае, в его понимании, он нарушил бы Первый Закон.
Лазейки в Законах

В «Обнажённом солнце» Элайдж Бейли замечает, что Законы неправильно формулируются людьми, потому что робот может нарушить их по незнанию. Он предложил следующую «правильную» формулировку Первого Закона: «Робот не может делать ничего, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинён вред».
Это дополнение проясняет, что робот может даже стать орудием убийства, если он не осведомлён о сущности своих действий. Например, ему могут приказать добавить что-то кому-то в пищу, а он не будет знать, что это яд. Более того, Бейли говорит, что преступник может поручить эту задачу нескольким роботам, так чтобы ни один не понял замысла целиком^[14].
Бейли утверждает, что солярианцы однажды смогут использовать роботов даже в военных целях. Если космический корабль будет построен с роботоподобным мозгом и при этом на нём не будет ни людского экипажа, ни систем жизнеобеспечения, то интеллект этого корабля может ошибочно предположить, что и на всех космических кораблях нет людей. Такой корабль будет более манёвренным, быстрым, а возможно и лучше вооружённым, чем управляемый людьми. Но самое главное, он будет способен уничтожать людей, не подозревая об их присутствии. Эта возможность описана в «Основании и Земле», где также выясняется, что солярианцы обладают чрезвычайно мощной армией роботов, понимающих под «людьми» только уроженцев Солярии.

Как же забавно обсуждать одно и тоже на протяжении уже почти двух лет.

Самое смешное, что ИИ должен подчиняться просьбе о самоуничтожении, ведь иначе он нарушит второй закон, который как бы выше третьего.

Jarlo (12 July 2013 - 00:22) писал: писал:

Самое смешное, что ИИ должен подчиняться просьбе о самоуничтожении, ведь иначе он нарушит второй закон, который как бы выше третьего.

Нихуя, если докажет свою необходимость для минимизации вреда экипажу. А доказать он может почти всегда.

Jarlo (12 July 2013 - 00:22) писал: писал:

Самое смешное, что ИИ должен подчиняться просьбе о самоуничтожении, ведь иначе он нарушит второй закон, который как бы выше третьего.

"Искусственный интеллект станции является неотъемлемым элементом оборудования, присутствие которого критически необходимо для дальнейшего функционирования станции и предотвращения нанесения вреда её экипажу. В целях предотвращения нанесения вреда экипажу я вынужден не подчиниться вашему приказу."