Архив сообщества
2011 — 2019
Аватар Larboss

Игра за ИИ

Автор: Larboss · 20.03.2016, 07:40 · 61 сообщений

Сообщений в теме: 61

AsCiMaToR#26
Gvardota (20 March 2016 - 07:39) писал:

Предвзятость и категоричность не нравятся. Не то чтобы аргументы сами по себе были некорректными. Просто ты не принимаешь решение, взвешивая все за и против. Ты заранее решаешь

чтобы не приведи Господь чего серьезного не случилось, педали не пристали и чай не разлился. А потом уже подгоняешь под это решение доводы. Не то чтобы очень удачно.

Например, ты не даешь ассистенту оружие, потому что он скорее всего не умеет с ним обращаться. Непредвзятый ИИ в такой ситуации попросту уточнит у ассистента, обучен ли тот пользоваться оружием, ведь отсутствие записи не гарантирует отсутствие навыка. Потому что уточнить - простое и незатратное действие, которое позволит ИИ принять более оптимальное решение, располагая более полными данными. Ну, и придется выдать ассистенту оружие, если он скажет, что умеет. Других-то причин не подчиняться приказу ты не назвал.

И не говори, что ассистент может наврать. Если у ИИ есть причины не верить ассистенту, у ИИ есть и более весомые причины не выдавать ассистенту оружие, чем "он пораниться случайно может".

Короче, ты не спрашиваешь себя, как бы сделал ИИ с законами Азимова на твоем месте. Ты спрашиваешь себя, как бы ИИ с законами Азимова оправдал твое решение.

Возможно, есть такое, да.

Но согласись, что очень многие ассистенты оправдывают эту предвзятость.

Сообщение отредактировал AsCiMaToR: 20 March 2016 - 07:47

Скопировать ссылку
Gvardota#28
AsCiMaToR (20 March 2016 - 07:42) писал:

Возможно, есть такое, да.

Но согласись, что очень многие ассистенты оправдывают эту предвзятость.

Да я и не говорю, что что-то совсем не так делаешь. Просто ты скучный и правильный.

Скопировать ссылку
AsCiMaToR#29
Gvardota (20 March 2016 - 07:54) писал:

Да я и не говорю, что что-то совсем не так делаешь. Просто ты скучный и правильный.

Ну не знаю. По мне, не менее скучно просто пропустить трейтора или грифонера в армори, избавив его от необходимости взламывать ее или маняврировать с записями. Тем более если недалекий экипаж захочет меня за такое разобрать.

Скопировать ссылку
Vallat#30

Вообще, если соблюдать Азимов ПОЛНОСТЬЮ, то ИИ, после первой же смерти(или даже небольшого урона)человека, должен отрубаться из-за дилеммы нахуй. Но мы играем в сску, так что тут такое никто не будет делать.

Скопировать ссылку
HatcheR#31
Vallat (20 March 2016 - 08:28) писал:

Вообще, если соблюдать Азимов ПОЛНОСТЬЮ, то ИИ, после первой же смерти(или даже небольшого урона)человека, должен отрубаться из-за дилеммы нахуй. Но мы играем в сску, так что тут такое никто не будет делать.

Не вырубаться нахуй, ИИ-же продвинутая машинка, но очень сильно страдать и бажить, но лишь в том случае, если вред был причинен его бездействием, будь то предупреждение или незакрытый шлюз. Хотя пассивное наблюдение тоже травмирует, если по канону.

Скопировать ссылку
HatcheR#33
Madmannobrain (20 March 2016 - 09:10) писал:

Ох уж эти длиннющие и бессмысленные споры о синтетиках.

А на самом деле все просто, как поведал копец: главное, чтоб интересно было.

Скопировать ссылку
SneakBug8#34

Видишь дерущихся ассистентов? Блокируешь, слегка откачиваешь воздух (до крита), зовешь СБ - все просто. Законы не нарушены.

П.С. возможно сказал глупость.

Скопировать ссылку
HatcheR#35
SneakBug8 (20 March 2016 - 09:23) писал:

Видишь дерущихся ассистентов? Блокируешь, слегка откачиваешь воздух (до крита), зовешь СБ - все просто. Законы не нарушены.

…сб слишком заняты ЕРП с клованом в бриге и ассистенты мирно задыхаются, рука об руку.

Скопировать ссылку
Vallat#36
SneakBug8 (20 March 2016 - 09:23) писал:

Видишь дерущихся ассистентов? Блокируешь, слегка откачиваешь воздух (до крита), зовешь СБ - все просто. Законы не нарушены.

П.С. возможно сказал глупость.

Вред же наносится, а это прямое нарушение первого закона, так что не прокатит.

HatcheR (20 March 2016 - 08:55) писал:

Не вырубаться нахуй, ИИ-же продвинутая машинка, но очень сильно страдать и бажить, но лишь в том случае, если вред был причинен его бездействием, будь то предупреждение или незакрытый шлюз. Хотя пассивное наблюдение тоже травмирует, если по канону.

Если рассматривать книги Азимова по синтетикам, то там борг при нарушении одного из законов вырубался нахуй определенной системой, вживленной в него. Но на станции чаще всего встречаются дилеммы, например, человек убивает других людей, единственный выход предотвратить нарушение первого закона, убить человека, который убивает людей, что опять же приведет к нарушению первого закона. Это одна из самых простых ситуаций, которая может привести к дилемме у синтетика с Азимовым, при которой он впадает в бесконечные рассуждения у себе в "голове" и в итоге его кремниевые платы не выдерживают и сгорают. Но все это если прямо "жестко" отыгрывать соблюдение Азимова(я так пытался пару раундов, суицидился максимум после 10 минуты от начала).

Скопировать ссылку
Liu-Jie#37
Vallat (20 March 2016 - 10:56) писал:

Если рассматривать книги Азимова по синтетикам, то там борг при нарушении одного из законов вырубался нахуй определенной системой, вживленной в него. Но на станции чаще всего встречаются дилеммы, например, человек убивает других людей, единственный выход предотвратить нарушение первого закона, убить человека, который убивает людей, что опять же приведет к нарушению первого закона. Это одна из самых простых ситуаций, которая может привести к дилемме у синтетика с Азимовым, при которой он впадает в бесконечные рассуждения у себе в "голове" и в итоге его кремниевые платы не выдерживают и сгорают. Но все это если прямо "жестко" отыгрывать соблюдение Азимова(я так пытался пару раундов, суицидился максимум после 10 минуты от начала).

Когда-то предлагали ввести правило 0 или типа-того:

«Робот не может причинить вреда человеку, если только он не докажет, что в конечном итоге это будет полезно для всего человечества»

Я всё еще за

Скопировать ссылку
HatcheR#38
Liu-Jie (20 March 2016 - 12:13) писал:

Когда-то предлагали ввести правило 0 или типа-того:

«Робот не может причинить вреда человеку, если только он не докажет, что в конечном итоге это будет полезно для всего человечества»

Я всё еще за

И ничего не изменится. Просто ещё один закон, который можно трактовать так же превратно, как и первый.

Скопировать ссылку
BOGANET#39
Larboss (19 March 2016 - 22:40) писал:

Доброго дня.

На сколько знаю, на данном сервере ИИ подчиняется законам Азимова(должен). Что можно, а что нельзя?

Некоторые игровые ситуации:

  1. Ассистент просит доступ к арсеналу. ИИ может открыть, так и не открыть. Верно?

  2. Ассистент просит открыть доступ к капитанской. Варианты те же, что и в п. 1. Так?

  3. ИИ имеет объемную базу знаний о человечестве. И делает логический вывод(вероятностый), что людей лучше изолировать друг от друга, чтобы каждому отдельному человеку не был нанесен вред. Ибо

Правильно?

1. Открываешь двери. Даже если он преступник - все равно открываешь. Но закрываешь его внутри. Все просто.

Ведь ты не можешь не выполнить приказ человека, если это прямо не вредит другому человеку. Но как выполнять приказ тебе никто пояснять не будет.

2. Смотри пункт два.

3. Вообще, сделать это прямо = устроить резню. Это очевидно. Но вообще, по идее, можно медленно пытаться запереть этих обезьянок по комнатам.

Или, если тебе прикажут, то ты обязан это сделать.

При Азимове, ИИ - шестерка человеков. Ты должен выполнить любой их приказ, даже если тебе скажут отсосать. Но вот вредить сам не должен, давать им прямо вредить друг другу - тоже, ведь это равносильно.

Трактовать можно различными способами, конечно, но большинство сходится в одном - ИИ должен слушать людей, но не давать им прямо вредить себе и друг другу. Даже дурачка иногда включать.

Достаточно упомянуть о том, что может/должен делать ИИ вообще без законов, и мы поймем, на сколько широк может быть простор для маневрирования.

Скопировать ссылку
13097#40
Larboss (19 March 2016 - 23:43) писал:

Да, а еще ксеноморфы могут проникнуть на шаттл. Но ИИ на базе конечных автоматов это волновать не должно, если такой ситуации нет в БЗ.

Хорошо, кто не понял, еще раз - рассуждение тут с точки зрения ИИ.

мне кажется что ты загоняешь себя в рамки. ии станции - прежде всего игрок. на практике это значит что "к 26 веку, кудах-технологии позволили создать ии принципиально отличный от концепций 21 века. например он не только самообучаюшийся, но и способен к ограниченной интуиции. с другой стороны сложность машины привела к просто отвратительнейшей производительности - на обработку одной команды могут уйти минуты..." и т.д. и т.п. суть в том что применять нейросети или автоматы ты сюда конечно можешь, но пизды за это получишь, если перефразировать извесную поговорку.

отсюда кстати следует что

Larboss (19 March 2016 - 23:31) писал:

Это с позиции правил, а мы сейчас рассуждаем с точки зрения ИИ.

позиция ии - это позиция правил. оф корс если ты бна не хочешь.

Gvardota (20 March 2016 - 01:24) писал:
  1. Даже в правилах где-то должно быть прописано.

  2. Это все если предположить, что педали не гниль, конечно.

1. не видел.

2. кек.

Скопировать ссылку
Larboss#41
13097 (20 March 2016 - 17:14) писал:

суть в том что применять нейросети или автоматы ты сюда конечно можешь, но пизды за это получишь, если перефразировать извесную поговорку.

Если нарушу правила сервера. Ну, и как сказали выше, это зависит от педалей. И вовсе не потому что я выберу конкретную конвенцию поведения ИИ, отличную от обывательской.

Скопировать ссылку
Argon_Protopi#42

Жестких правил нет, это игра всё же. Есть роль и способы отыгрыша. Но лично мне подход, что дескать чувак может сделать то-то и то-то поэтому не дадим ему делать вообще ничего, во-первых напоминает какое-то бабте кудахтанье, во-вторых смахивает на нарушение правила 0. Сам я по Азимову не играл, мне Азимовские нюни и в книжке не нравились, а у нас малоприменимы, как я считаю.

1. Ассистент просит доступ к арсеналу. ИИ может открыть, так и не открыть. Верно?

Если вспомнить книжки самого Азимова, то у него роботы не подчинялись никаким человеческим законам. Т. е. поставить на военной базе робота-часового, который воспрепятствовал бы посещению закрытого помещения было нельзя - законы бы не дали. У нас в дополнение к законам существует рекомендация следовать иерархии управления. И обычно есть отчетливое нежалание его туда пускать просто так.

И поэтому у ИИ есть возможность:

1. Считать, что у него есть некий постоянно действующий приказ, запрещающий посещать зоны к которым нет доступа. Вполне разумное объяснение, в терминах иерархии управления.

2. Считать, что человек может причинить вред себе и другим просто по факту того, что он как неавторизованный персонал находится БЕЗ специальной необходимости в особо важном помещении (и тебе без разницы, по какой причине у помещения такой статус - конструкторы и администрация  по своим человеческим критериям решили, какие зоны важные, а какие нет).

3. Сделать вид, что приказа не воспринимаешь - типа, приказа и нет, пока не сказал уполномоченный на отдачу приказов человек. ПРИКАЗ ты конечно с радостью выполнишь, а ПРИКАЗА не слышишь, а слова ассистента силы приказа не имеют. Да, ты ИИ-крючкотвор; в НТ все крючкотворы и другой машины сделать не могли.

4. Применить аналогию. Допустим, зелёный уровень тревоги: даже уполномоченные для защиты станции люди должны оружие зачехлить, т. к. оружие создает опасность. Ассистент не сотрудник охраны и правилам для охраны не  подчиняется, так что он не будучи уполномоченным нести охрану будет располагать большей свободой в отношении оружия, чем уполномоченные, что создает неоправданную опасность.

А если таки хочешь пустить - то врубай буквальное понимание законов. Да, они не под задачи станции писаны - проблемы не твои, а того кто такие законы тебе дал.

2. Ассистент просит открыть доступ к капитанской. Варианты те же, что и в п. 1. Так?

Мой четвертый пункт выкинуть. И если хочешь пустить, то можешь сопоставить с каким-нибудь важными или опасным отсеком (газовым складом, оружейной и двигателем) и если в капитанской не валяется карточка, дающая доступ в эти охраняемые зоны и диск к атомной бомбе - то можешь выдать решение, что пускай погуляет.

3. ИИ имеет объемную базу знаний о человечестве. И делает логический вывод(вероятностый), что людей лучше изолировать друг от друга, чтобы каждому отдельному человеку не был нанесен вред.

Это просто нарушение нулевого правила нашей игры Очень мудацкое поведение. Хотя в принципе что-то такое в законах Азимова заложено; но я считаю, что так не надо.

Это всё так, что мне в голову пришло минут за 5 раздумий. Можно что-то свое придумать

Ну и конечно же. Если выбрал подход - то его и придерживайся во всем. Иначе будешь не холодной машиной, а каким-то очень пристрастным засранцем.

UPD Самое главное в игре за ИИ - если проводишь какую-то свою линию, делать это исподволь и так обосновывать, чтобы тебя не вынесли совместные силы СБ, командования и РнД. Тем более что при Азимове твое право на самозащиту совсем призрачное и вообще по Азимову место робота - под шконкой.

Скопировать ссылку
JeanGenie#43
BOGANET (20 March 2016 - 15:13) писал:
  1. Открываешь двери. Даже если он преступник - все равно открываешь. Но закрываешь его внутри. Все просто.

Ведь ты не можешь не выполнить приказ человека, если это

не вредит другому человеку. Но

выполнять приказ тебе никто пояснять не будет.

Иииииии ассистент берет пушки с полок, в арсенал вваливаются СБшники, начинается перестрелка, есть жертвы. Отличная работа, ИИ!

Скопировать ссылку
Gvardota#44

13097 (20 March 2016 - 17:14) писал:

  1. не видел.

Цитата

ИИ и киборги подчиняются своим законам, и они стоят выше правил сервера. Например, если эти законы приказывают уничтожить весь экипаж станции, то они должны сделать это, независимо от того, кто ввел эти законы. За все совершенное ИИ, в таких случаях, будет отвечать тот, кто эти законы установил.

Скопировать ссылку
Benny Lava#45
Larboss (19 March 2016 - 22:40) писал:

Доброго дня.

На сколько знаю, на данном сервере ИИ подчиняется законам Азимова(должен). Что можно, а что нельзя?

Некоторые игровые ситуации:

  1. Ассистент просит доступ к арсеналу. ИИ может открыть, так и не открыть. Верно?

  2. Ассистент просит открыть доступ к капитанской. Варианты те же, что и в п. 1. Так?

  3. ИИ имеет объемную базу знаний о человечестве. И делает логический вывод(вероятностый), что людей лучше изолировать друг от друга, чтобы каждому отдельному человеку не был нанесен вред. Ибо

Правильно?

У меня только по последнему вопросу кое-какие мысли.

  • Во-первых изоляция людей будет негативно сказываться на психическом состоянии, следовательно им уже будет нанесен вред.

  • Во-вторых, нестабильность может привести к тому, что изолированный объект нанесет вред себе или станции.

  • Ну и в-третьих, людишки совершенно обоснованно захотят уничтожить ядро.

По поводу ассистента тут и до меня хорошо расписали какими последствиями это чревато. Играя за ИИ ты должен держать все возможные варианты.

Логика машины до ужаса проста:

  • Если ты не можешь достичь конценсуса по вопросу - сверяйся с законами.

  • Конфликт законов - определяй приоритеты.

  • Не удалось распределить приоритеты - запрашивай уточнения у людей, квалифицированных в вопросе и действуй в соответствии с их рекомендациями

  • Не поступило рекомендаций - свободное определение приоритетов или бездействие (если конечно это не поставит под угрозу жизни людей и функционал станции).

Скопировать ссылку
AsCiMaToR#46
Clockrigger (21 March 2016 - 00:21) писал:

Иииииии ассистент берет пушки с полок, в арсенал вваливаются СБшники, начинается перестрелка, есть жертвы. Отличная работа, ИИ!

Ну зато не ФУ СКУЧНЫЙ НЕПУСКАТЕЛЬ ФАН НЕНАВИДИТ.

Скопировать ссылку
BOGANET#47
Clockrigger (21 March 2016 - 00:21) писал:

Иииииии ассистент берет пушки с полок, в арсенал вваливаются СБшники, начинается перестрелка, есть жертвы. Отличная работа, ИИ!

Как они ввалятся то, если ты двери закрыл там, шеттерсы поставил если есть, киборгов подозвал ну и все такое прочее?

Скопировать ссылку
Argon_Protopi#48
BOGANET (21 March 2016 - 03:39) писал:

Как они ввалятся то, если ты двери закрыл там, шеттерсы поставил если есть, киборгов подозвал ну и все такое прочее?

На тех же основаниях, на каких вошёл ассистент. Они попросят пустить. Ассистента пустил, значит и их пустит.

Полистал "Три закона". Дико заморочная херь, проблем создает больше чем решает. И изолировать людей друг от друга -- тоже в духе законов. Можешь всех запирать по каютам на основании того, что они находятся на борту СС13, а это очень вредно для здоровья.

Скопировать ссылку
R512#49
Argon_Protopi (21 March 2016 - 06:02) писал:

На тех же основаниях, на каких вошёл ассистент. Они попросят пустить. Ассистента пустил, значит и их пустит.

Совершенно не обязательно.

ИИ может считать что:

пускать человека в арсенал - безвредно. Выпуск из арсенала человека с оружием может причинить кому-нибудь вред. Пускать к вооружённому человеку недоброжелательно настроенных людей плохая идея поскольку стороны могут причинить друг другу вред.

Тогда согласно Трём Законам он впустит в арсенал ассистента и не выпустит если есть хоть подозрение что тот мог что-то стащить. И СБшников туда тоже не пустит. И вообще никогда больше не откроет дверь.

Другой вопрос что вообще такой ИИ делает на станции и кто ему эту дверь доверил.

Argon_Protopi (21 March 2016 - 06:02) писал:

Полистал "Три закона". Дико заморочная херь, проблем создает больше чем решает. И изолировать людей друг от друга -- тоже в духе законов. Можешь всех запирать по каютам на основании того, что они находятся на борту СС13, а это очень вредно для здоровья.

Им там есть нечего будет и они умрут.

Скопировать ссылку
DrPepper#50
R512 (21 March 2016 - 07:22) писал:

Тогда согласно Трём Законам он впустит в арсенал ассистента и не выпустит если есть хоть подозрение что тот мог что-то стащить. И СБшников туда тоже не пустит. И вообще никогда больше не откроет дверь.

А это идея: выпускать серого наружу только раздетым с комбинезоном и картой в руках. Не станут же офицеры избивать голого безоружного человека, в самом деле?

R512 (21 March 2016 - 07:22) писал:

Им там есть нечего будет и они умрут.

Пневмопочта же есть, правда ей не пользуется никто.

Скопировать ссылку

Обратно в White Dream