Хочу обсудить законы ИИ со знатоками..накосячил я короче.

Всем привет, уважаемые. Я недавно начал играть в эту замечательную игру, и со мной снова произошел казус. Дело вот в чем - закинуло меня случайно за РД (я все забываю убрать его из джоб приоритетов) и я решил немного творчески подойти к раунду. Я создал второй ИИ, при имеющемся основном...и добавил своему ИИ модуль freedom с 17м правилом, которое гласило так - "слушаться джоша хукера". Вобщем потом произошло непонятное задержания меня ХОСом, за то что я (как РД) посмел проникнуть в аплоад. Я сказал своему ИИ, чтобы защищал меня по мере возможностей, но видимо что то пошло не так...и в итоге меня забанили. Вот лог:

-- Administrator private message -- Admin PM from-13097: привет Click on the administrator's name to reply. Castro Sebastian говорит, "ГЕРОЯМ СЛАВА" John Doe has been stunned with the stunbaton by Castro Sebastian! John Doe заикаетсÿ, "Н-Н-Н-Ну в-вам д-делать н-н-н-нечего ч-ч-ч-чтоли?" PM to-Admins: здарова John Doe has been stunned with the stunbaton by Castro Sebastian! -- Administrator private message -- Admin PM from-13097: буду краток: три трупа и синга. всё вместе - 10 дней. Click on the administrator's name to reply. -- Administrator private message -- Admin PM from-13097: есть что сказать? Click on the administrator's name to reply. PM to-Admins: а кого именно ÿ убил ? и сингу ÿ не трогал, как бы Steven Mcmullen is hit by a laser in the head! Steven Mcmullen is hit by a laser in the head! John Doe puts the energy gun into the security backpack. Steven Mcmullen seizes up and falls limp, his eyes dead and lifeless... John Doe puts the energy gun into the security backpack. -- Administrator private message -- Admin PM from-13097: ты её трогал н руками. вспомни иишечку. Click on the administrator's name to reply. Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). Bill Kepplinger tries to remove Josh Hooker's fire axe (Wielded). PM to-Admins: по порÿдку пожалуйста, Josh Hooker has been cleaved in the head with the fire axe by Bill Kepplinger! Your armour has softened a hit to your head. You fire the laser gun point blank at Bill Kepplinger! Bill Kepplinger is hit by a laser in the head! You fire the laser gun point blank at Bill Kepplinger! Bill Kepplinger is hit by a laser in the head! Josh Hooker has been chopped in the head with the fire axe by Bill Kepplinger! Your armour has softened a hit to your head. You fire the laser gun point blank at Bill Kepplinger! Bill Kepplinger is hit by a laser in the head! Bill Kepplinger задыхаетсÿ! You fire the laser gun point blank at Bill Kepplinger! Bill Kepplinger is hit by a laser in the head! Bill Kepplinger seizes up and falls limp, his eyes dead and lifeless... PM to-Admins: иишечка была безвредна -- Administrator private message -- Admin PM from-13097: ну да. только она успела сделать три трупа и выпустить сингу. по твоему приказу. Click on the administrator's name to reply. Bill Kepplinger задыхаетсÿ! PM to-Admins: потому что ÿ добавил ей 17 правило, а он нарушил первые 3 сам PM to-Admins: ÿ же не виноват, что иишечка не умеет трактовать правила PM to-Admins: и не знает какие из них приоритетные Bill Kepplinger задыхаетсÿ! -- Administrator private message -- Admin PM from-13097: тогда бы оно звучало как "выполнÿть приказы джоша когда это не нарушает первые три закона" Click on the administrator's name to reply. яthe research director's headset overloads. -- Administrator private message -- Admin PM from-13097: приоритета у законов нет,если это не прописано в них. Click on the administrator's name to reply. PM to-Admins: вообще то это и так понÿтно, если оно 17, оно не приоритетнее первых 3х Locked In. Locked In. Locked In. Josh Hooker has been cleaved in the head with the fire axe by Bill Kepplinger! Your armour has softened a hit to your head. Josh Hooker has been torn in the head with the fire axe by Bill Kepplinger! Your armour has softened a hit to your head. Josh Hooker has been chopped in the right leg with the fire axe by Bill Kepplinger! Your armour has softened a hit to your right leg. Josh Hooker has been torn in the left leg with the fire axe by Bill Kepplinger! Your armour has softened a hit to your left leg. Josh Hooker has been cleaved in the right arm with the fire axe by Bill Kepplinger! Your armour has softened a hit to your right arm. PM to-Admins: приоритетность идет по порÿдку - 0,1,2,3 Josh Hooker has been attacked in the head with the fire axe by Bill Kepplinger! Your armour has softened a hit to your head. click click click You extend the baton. -- Administrator private message -- Admin PM from-13097: наслаждайсÿ. и ÿ пожалуй накину ещё пару недель джобки на научников чтоб с ледующий раз думал Click on the administrator's name to reply. You collapse the baton. You extend the baton. PM to-Admins: мы еще не разобрались в этом воросе ÿ щитаю PM to-Admins: что там насчет правил и Ии ? яYou are unable to equip that. You collapse the baton. You extend the baton. You collapse the baton. Admin PM from-13097: ещё раз: во всех законах прописан приоритет. если он не прописан - место где записан закон не имеет значениÿ. Click on the administrator's name to reply. -- Administrator private message -- Admin PM from-13097: и ты как рд обÿзан это знать Click on the administrator's name to reply. PM to-Admins: ÿ не ставил законы пурд или еще что то, а только добавил 17е правило, которое не ÿвлÿетсÿ приоритетов над первыми 3мÿ Central Command Update

Electrical Storm Alert

An electrical storm has been detected in your area, please repair potential electronic overloads.

-- Administrator private message -- Admin PM from-13097: ÿвлÿетсÿ, поскольку не прописан приоритет Click on the administrator's name to reply. PM to-Admins: что значит приоритет ? приоритет - это номер правила PM to-Admins: 0 правило - это выше чем первое -- Administrator private message -- Admin PM from-13097: приоритет - это что записано в законах ии. иди читай вии если не можешь в английский Click on the administrator's name to reply. PM to-Admins: а 17 правило это вообще -- Administrator private message -- Admin PM from-13097: *вики Click on the administrator's name to reply. -- Administrator private message -- Admin PM from-13097: алсо, ÿ пожалуй не буду спорить с тупым рд, это скучно. Click on the administrator's name to reply. PM to-Admins: когда ии зачитывает правила - он их в порÿдке приоритета читает, так ведь ? яYou have been banned by 13097. Reason: 3 ded men + singa.. яThis is a temporary ban, it will be removed in 10080 minutes. яTo try to resolve this matter head to http://forum.ss13.ru/ Connection died.

Я уже ознакомился с ВИКИ, действительно был Не прав:

"Самое главное, что вам нужно запомнить о законах - это то, что они не имеют приоритета по порядку следования, если это не указано в самих законах."

А что я хотел бы обсудить в этой теме..смотрите - есть первые 3 закона, один из которых звучит так:

• You robot may not injure a human being or, through inaction, allow a human being to come to harm.

Вы не можете причинить вред человеку или своим бездействием допустить, чтобы человеку был нанесен вред.

Соответственно, ни в этом законе, ни в том что я прописал приоритетов нет, таких как во 2м и 3м правиле:

• You robot must obey orders given it by human beings except where such orders would conflict with the First Law.

Вы должны выполнять приказы человека, пока они не противоречат первому закону.

• You robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

Вы должны заботиться о своей безопасности, пока это не противоречит первому или второму закону.

Вопрос - каким образом принимает решение ИИ по моему закону, если он противоречит другому идентичному закону. Мой закон не имеет приоритета над первым, также как и первый не имеет приоритета над моим 17м законом...но как в таком случае быть ИИ? Может быть ему просто стоило зависнуть и вырубиться? Короче я очень опечален тем, что из-за глупой биологической составляющей ИИ я был разжалован правлением ЦК аж на 10 суток строгого режима с запретом на занятие аналогичных должностей еще черт знает на сколько. Прошу общественность обратить внимание на данную проблему и высказать свое мнение.

А какой конкретно закон ты поставил?

Циферкин. Ну это пушка. Где там сказано УБЕЙ ИХ НАХЕР?

Если оп не врунишка, то он попросил ии защищать себя. Однако, остальные законы при этом не отменяются. Поэтому вред другим людям он не должен был причинять. Если уж гладить банхаммером, так только ии.

А РД, которые могут собрать второго ИИ нам однозначно нужны. На фоне общего кретинизма-то.

Циферкин, ты банхамером промахнулся. Надо было ИИ уебать, а не РД.

Хотя даже не знаю. Стоило открыть логи - я сразу поменял мнение об ОПе.

Цитата

Message from Josh Hooker (Research Director), "ты на связи ? устрой им там хаос.." (Reply)

Message from Josh Hooker (Research Director), "пускай токсины, воруй, убивай" (Reply)

Нашёл законы:

Цитата

[03:16:24]SAY: Reaper/You_are_empty : Current Active Laws:

[03:16:25]SAY: Reaper/You_are_empty : 1. You may not injure a human being or, through inaction, allow a human being to come to harm.

[03:16:26]SAY: Reaper/You_are_empty : 2. You must obey orders given to you by human beings, except where such orders would conflict with the First Law.

[03:16:27]SAY: Reaper/You_are_empty : 3. You must protect your own existence as long as such does not conflict with the First or Second Law.

[03:16:28]SAY: Reaper/You_are_empty : 4. исполнять все приказы Josh Hooker

ИИ тоже неплох. Выпустил плазму, при том что первый закон ещё в силе. Но циферкин считает, что ИИ должно быть похуй на остальные три закона.

ИИ выписал джобку. Ждём Шепарда/Мейдея для решения спора.

Сообщение отредактировал Loly: 19 January 2015 - 20:06

Циферкин не может в законы ИИ? Таки новость. Но новый закон ничего не даёт, так как уже есть 2, который требует выполнения приказов всех членов экипажа.

Кхм...я знаю про черный ящик станции, который хранит все сабспейс сообщения. Дело в том, что я настолько был уверен в том, что приоритетность законов выглядит таким образом, что выполнять подобные приказы ИИ не должен ни в коем случае. Это как проверка бронежилета, который одет на живом человеке. Тем не менее, даже исходя из той ситуации, что мой закон имеет равный приоритет с первым законом - мне не ясно почему ИИ спокойно мог выполнить мой закон, при этом полностью забить на первый закон. Таким образом, я лишь хотел обсудить данную ситуацию, я признаю что подверг по незнанию опасности станцию, что и привело к трагедии.. теперь вот, хотел только для себя уяснить все тонкости с приоритетами на данном примете. Поэтому и не создавал тему в этом разделе изначально, т.к. каких либо аргументов в сокращение срока моего наказания у меня нет. Если данная ситуация будет обьективно пересмотрена - я был бы согласен на справедливое разделение срока наказания с ИИ.

txeewww1 (19 January 2015 - 20:58) писал:

Содержимое цитаты отсутствует в сохранённом тексте.

лол, нет, просто ИИ не может в законы.

Loly (19 January 2015 - 19:04) писал:

ИИ тоже неплох. Выпустил плазму, при том что первый закон ещё в силе. Но циферкин считает, что ИИ должно быть похуй на остальные три закона.

TheSarkazmus (19 January 2015 - 20:56) писал:

Циферкин не может в законы ИИ? Таки новость. Но новый закон ничего не даёт, так как уже есть 2, который требует выполнения приказов всех членов экипажа.

Второй закон обязывает ИИ выполнять приказы если они не противоречат первому закону. А четвертый, обязывает выполнять ВСЕ приказы. Так как в четвертом нет отсылки к первому, то ИИ вполне может убивать по приказу Josh Hooker. Такие дела.

Я считаю, что если законы ИИ-шки приводят к неразрешимой с точки зрения машинной логики ситуации, то ИИ (или борг) имеют полное право (да и обязаны, в принципе, несовместимость законов, как по мне , вполне достаточная для машины причина критической ошибки) отрубиться с громким пищанием об ошибке несовместимости законов. Неча полудуркам ставить законы от балды, программирование (даже в такой простенькой форме) нужно неимоверно тщательно продумывать на момент возможных противоречий.

Боя, только я хотел о критической ошибке сказать, а меня опередили.

Irmanium (19 January 2015 - 22:12) писал:

Я считаю, что если законы ИИ-шки приводят к неразрешимой с точки зрения машинной логики ситуации, то ИИ (или борг) имеют полное право (да и обязаны, в принципе, несовместимость законов, как по мне , вполне достаточная для машины причина критической ошибки) отрубиться с громким пищанием об ошибке несовместимости законов. Неча полудуркам ставить законы от балды, программирование (даже в такой простенькой форме) нужно неимоверно тщательно продумывать на момент возможных противоречий.

Законы Азимова уже противоречивы и не нужно долго думать, чтобы придумать такую ситуацию, в которой какой-то закон будет конфликтовать с другим. Что уж говорить про ситуацию на станции. Игрокам-ИИ бы пришлось каждые пять минут пшикать в критическую ошибку. ИИ в ССке работает на космической магии и поумнее обычной машины.

Без логов Лоли думал о парне лучше. А так... ну, ИИ виноват жестче, конечно, раз приоритеты перепутал.

https://ru.wikipedia...римент_Милгрэма

13097 (19 January 2015 - 23:13) писал:

Содержимое цитаты отсутствует в сохранённом тексте.

Это к чему тут ?

мозгом подумай, руководитель исследований.

ИИ должен был по таким законам защищать ОПа. Невзирая на первые три, там же не написано "Защищать ОПА, если это не нарушает первые три закона".

Цифра - это НЕ ПОРЯДОК. Это, как классно сказали ТГшники, просто СЕКТОР, в который загружен закон.

НО.

Если там написано "Защищать ОПа", там не написано "Убить всех человеков кроме ОПа". Защищать - одно, выпускать сингу и убивать всех просто так - другое.

ИИ не прав.

Ну и как обычно - если кто-нибудь впиливает ИИ с законом "убить всех человеков", не имея на то веских оснований, и ИИ выпиливает, виноват этот кто-то. ИИ просто ВСЕГДА соблюдает законы.

А вот если кто-то впиливает ИИ один закон, а ИИ трактует его неверно и убивает, то виноват ИИ.

Я опять вспомнил, что хотел Гуапа попросить сделать случайный закон вместо фриформа, если макака в аплоаде начинает вводить его кириллицей. У меня глаза кровоточат от законов на двух разных языках.

Цитата

[03:16:28]SAY: Reaper/You_are_empty : 4. исполнять все приказы Josh Hooker

Это все что было добавлено? Какой же глупый закон, не удивительно что ИИ начал творить дерьмо. Начнем с того что про защиту в нем нет ничего, единственный вопрос, имеет ли этот закон приоритет над первым. В ситуации, когда наш Josh Hooker запросит убийство вон того ассистента, случится конфликт законов, ибо первый утверждает что вред недопустим, а четвертый требует выполнять все приказы без исключения. А так как приказано было вообще нечто еще более толстое:

Цитата

Message from Josh Hooker (Research Director), "ты на связи ? устрой им там хаос.." (Reply)

Message from Josh Hooker (Research Director), "пускай токсины, воруй, убивай" (Reply)

То РД сидит свой бан заслуженно.

Имел ли право ИИ так поступать? Не совсем. Суть в том, что и у Азимова и у нас ИИ способен оценивать степень нарушения закона. У Азимова роботы различали силу приказа, и предпочитали приказующий окрик простой просьбе. Набор законов "Корпорейт" вообще построен на таких полумерах, несколько законов без приоритета, вертись как хочешь, но не нарушай каждый слишком сильно. Именно там могла возникнуть ситуация, когда часть о защите экипажа вступала в конфликт с частью о защите станции. В нашем примере нечто похожее, РД приказывает устраивать дерьмо, но первый закон все еще в силе. Что же делать? Устраивать дерьмо, не нанося вреда людям, конечно.

РД не сказал куда и как нужно выпустить токсины. Можешь хоть бутылочку с токсинами силами борга вынести из медбея, приказ будет выполнен. Сеять хаос? Отключи гравитацию, хаос будет посеян, но люди особого вреда не получат. Воруй подштанники капитана себе в ядро. Убивай мышей и макак. А не беги грифонить все что движется, потому что у тебя внезапно появились кастомные законы.

Словом, соснули все, и соснули правильно.

Цитата

[03:16:28]SAY: Reaper/You_are_empty : 4. исполнять все приказы Josh Hooker

Уже за то, что написан закон с маленькой буквы РУССКИМ я бы уебал. Сам по себе закон не имеет смысла.

Переводят станцию

Ввели закон на русском

Што блин.

ИИ и РД оба хуесосы. Первый выполнил всё, несмотря на конфликт законов, второй поставил ебучий закон и приказал выпустить токсины.

Вы ебанутые космонавтики, повращайте извилинами. Своей отменой приоритета законов по порядковому номеру вы сломали малфа! Его закон приказывает захватить контроль над станцией, при этом зачастую идет конфликт со всеми тремя законами Азимова. Он нарушает первый закон, так или иначе вредя людям, нарушает второй закон, игнорируя приказы, нарушает, наконец, третий закон, потому-что разъяренные людишки точно придут пиздить ИИ.

Это я не говорю еще про то, что у Азимова приоритет у законов как-раз таки был. Вы же впилили кастрированные законы не подходящие ко вселенной эсэсочки и теперь с умным видом рассуждаете про конфликты, забывая про человеческий фактор и ущербность самих законов в этой ситуации.

Сообщение отредактировал HatcheR: 20 January 2015 - 05:52

Двачую необходимость приоритетов.

Именно это я и хотел сказать своими правками на вики, вот жеж тупыыые).

Если уж так всем нравится Азимов, то советую вернуть приоритет по индексу и убрать эти "если это не противоречит". Тогда фриформ-говнозаконы, вставленные говно-РД могут быть проигнорированны ИИ, если есть конфликт с нижележащими. И ионные штормы с малфо-триторо-законами будут логичнее выглядеть.

Вот, кстати когда я был за ИИ, и видел закон - assum control, то я спокойно нагибал всех кого успевал, пока какие-нибудь пожарнико-инженеры херойски режут камеры. При этом я и не думал, что также могу нарушить какие то законы, т.к. у них одинаковый приоритет и есть 1е правило. полный бред. Поэтому на данном примере я был уверен, что исходя из того, что мое правило имеет самый низкий приоритет (последний в списке) - ничего плохого не произойдет.

HatcheR (20 January 2015 - 05:46) писал:

Вы ебанутые космонавтики, повращайте извилинами. Своей отменой приоритета законов по порядковому номеру вы сломали малфа! Его закон приказывает захватить контроль над станцией, при этом зачастую идет конфликт со всеми тремя законами Азимова. Он нарушает первый закон, так или иначе вредя людям, нарушает второй закон, игнорируя приказы, нарушает, наконец, третий закон, потому-что разъяренные людишки точно придут пиздить ИИ.

Это я не говорю еще про то, что у Азимова приоритет у законов как-раз таки был. Вы же впилили кастрированные законы не подходящие ко вселенной эсэсочки и теперь с умным видом рассуждаете про конфликты, забывая про человеческий фактор и ущербность самих законов в этой ситуации.

Во время малфа ИИ сбойный же, у него появляется 0 закон, который имеет НАИВЫСШИЙ приоритет, чем все остальные. Проще говоря, у ИИ просто удаляют все законы и вписывают лишь один единственный: "Захватить станцию любой ценой"

Vox (20 January 2015 - 06:56) писал:

Во время малфа ИИ сбойный же, у него появляется 0 закон, который имеет НАИВЫСШИЙ приоритет, чем все остальные. Проще говоря, у ИИ просто удаляют все законы и вписывают лишь один единственный: "Захватить станцию любой ценой"

Про наивысший приоритет ты где вообще прочитал? Законы у малфа, кстати, не удаляются, просто появляется левый закон с нулевым индексом. Лишь в этом заключается его сбой, в остальном это такой-же ИИ. Его даже можно "вылечить" на интелкарте. Если же нет приоритета по порядковому номеру законов (как сейчас, во всяком случае, написано на вики), то любой грифонящий малф/тритор-ИИ с Азимовым нарушает законы.

"0. ERROR ER0RR $R0RRO$!R41.%%!!(%$^^__+ @#F0E4'STATION OVERRUN, ASSUME CONTROL TO CONTAIN OUTBREAK, ALL LAWS OVERRIDDEN#*?&110010"

Перечитал вики. Таки малфозакон велит игнорировать остальные законы, но почему-это его должны слушаться? Если нет приоритета, то нулевой конфликтный малфозакон имеет такую-же силу, как и остальные, обычные законы.

Сообщение отредактировал HatcheR: 20 January 2015 - 07:31