Архив сообщества
2011 — 2019
Аватар Lolycon

[BanThey/JobbanThey] Режим линчевателя Enabled

Автор: Lolycon · 29.06.2016, 00:59 · 41 сообщений

Сообщений в теме: 41

ucnaHez#26
Gvardota (29 June 2016 - 07:15) писал: писал:

Конфликт законов? Но ведь тут нет конфликтов.Вот если бы было два фриформенных закона, и в каждом было бы написано "ИГНОРЕ ОЗЕР ЛАВС" - был бы конфликт, и надо было бы думать, какой что перезаписывает.
А тут все понятно. Исполняются все законы, но последний закрывает остальные, исполняем только его.
Правда, в таких законах всегда можно найти дырку - вот как эту, например, что ничего о защите нету, но это другая реча.
0
Изображение
"[usr] весь такой кодер."
Скопировать ссылку
Gvardota#27
Epicus (29 June 2016 - 07:30) писал: писал:
Ну просто если так рассуждать, то любой закон, который вводится поверх основных и делает что-то полезное кому-то, развязывает руки ИИ и позволяет делать ему что угодно, оправдываясь конфликтом. За такое никогда по головке не гладили и я не вижу смысла начинать. Тем более, что есть стандартный One Human, который пишет поверх и, очевидно, он должен работать нормально, а не по твоей классной схеме.

И еще раз, в любом случае, в данной ситуации это не имеет никакого смысла, ибо игрок просто забил на законы, а не придумывал хитрую логику.
Конфликтом нельзя оправдать что угодно.
Конфликтом можно оправдать действие, при котором происходит минимальное нарушение законов или любое действие среди влекущих одинаково тяжкие нарушения, если нет лучшего.
Конфликтом можно оправдать бездействие.
Любой из этих двух вариантов заслуживает права на жизнь, и это в общем все возможные варианты решения конфликтов законов, ни о каком "гладить" тут и речи не идет, иначе просто не сделать. Действия борга подпадают под второй вариант.
Если бы бездействие (не жирное вида "утащил человека в комнату с плазмой, а потом бездействовал, пока тот дохнет") было наказуемо, мы бы банили каждого ИИ, у которого в раунде хоть один человек потерял хитпоинт или не приведи Господь помер. Первый закон нарушен же.

Ванхуман работает просто потому что он не приводит к конфликтам законов. Он меняет определение человека, и законы Азимова продолжают нормально применяться.
Можно утверждать, что ИИ должен был в момент введения ванхумана предвидеть, что изменение законов повлечет вред людям по текущим законам, и поэтому должен проигнорировать новый закон. Но если ограничивать законами мыслительный процесс ИИ и процесс обработки информации, а не только его действия, то это будет такой мозговывертывающий пиздец, что ну его нахуй.

Я не думаю, что игрока стоит банить за неправильный способ мышления. Он прочитал законы, подумал, принял решение, поступил в соответствии с решением. Поступок был корректными. То, что он пришел к корректному решению способом, который тебе не нравится, не должно никого волновать.
ucnaHez (29 June 2016 - 07:34) писал: писал:
Конфликт законов? Но ведь тут нет конфликтов.Вот если бы было два фриформенных закона, и в каждом было бы написано "ИГНОРЕ ОЗЕР ЛАВС" - был бы конфликт, и надо было бы думать, какой что перезаписывает.
А тут все понятно. Исполняются все законы, но последний закрывает остальные, исполняем только его.
Правда, в таких законах всегда можно найти дырку - вот как эту, например, что ничего о защите нету, но это другая реча.
Я придерживаюсь стойкого убеждения, что ни один закон не может напрямую воздействовать на проверку выполнения других законов.
"Игнорируй закон X, если выполняется закон Y", должно работать, только если написано в законе X, но не в законе Y.
Можно манипулировать знаниями ИИ и формулировками, но нельзя влиять на способ проверки законов и логику работы ИИ. Нельзя уточнять то, как должен трактоваться другой закон, нельзя расставлять приоритеты.
Обратное нелепо как ингейм с точки зрения безопасности, так и ООС с точки зрения скукоты.
Если можно успешно написать в законе "Игнорируй все остальные" и ИИ будет слушаться, от этого не выиграет никто, кроме брейнротового тритора, которому лень две минуты подумать над нормальным решением задачи.
0
Скопировать ссылку
Lolycon#28
Для тупых или невнимательных.

Причина жалобы не в том что "Я соснул от своего же слуги". Свой наитупейший косяк я признал.
Но вот хотел узнать мнение опытных космонавтов по этому поводу. И если все же вина борга(ов) имеет место быть - наказать.

А вот сообщения о законах и их конфликтах было интересно и познавательно почитать. Много узнал.
Изображение
0
Скопировать ссылку
Epicus#29
Ладно, Гвардота прав, но все равно не хорошо забивать на законы и лучше так больше не делать, не каждый же раз Гвардота сможет объяснить все за тебя. Все же законы - самое важное у киборгов и лучше в них вникать.

И кооп - это плохо. Особенно, если палишься.
0
Don't make it dead again...
Скопировать ссылку
Денис Алексеевич#30
Цитата
Причина жалобы не в том что "Я соснул от своего же слуги"...
Я все-таки немножко украду темку.

Под спойлером - случай с Драганом (ожидается же, что я отвечу).
Спойлер
Цитата
Лар ведёт себя как сбойный киборг...
Этим и тем, что написано ниже, ситуация не исчерпывается. Я видел, какой цирк ты устроил, выпрашивая у вардена летальные патроны. Мутанты на станции же. Надо воевать же. Труп же нашли. Остальной бриг понятия о генокрадах (а это были были генокрады) не имел.

Детектив той сменой был славен не только выпрашиванием летала. У него уже был провал. Притащил ассистента (кажется, Клэр Сэндфорд, помогавшую роботехнику Эприл Эванс) по какой-то левой причине в бриг. Ну и устраивал цирк. Требовал посадить, выдавал какие-то удивительные угрозы всех убить, если ассистента отпустят. Варден-то в итоге ассистента отпустил. А впечатление о детективе сложилось печальное.

Как обстояло дело с розоволосым генокрадом? Детектив просит "подкрепления" в прибытии, я качусь, прикатываюсь, вижу труп без головы (молчит), детектива (размахивающего пистолетом и не вполне адекватного), девицу (с которой я той сменой разговаривал, которая показалось мне достаточно вменяемой, которая вела себя спокойно, не бросалась, не нервничала, стояла смирно).

Сразу замечу, что разговаривал я за смену, конечно, не только с той девицей. ХоП, роботехники, варден - вот это были вменяемые люди. Но не детектив.

Цитата
любого законопослушного члена персонала

Насчет законопослушности позицию обрисовал.
Насчет "называть законы, звания-служить". По идее, вербально мотивировать свои действия я могу как угодно, в законах не говорится ничего насчет "не ври". И, по идее, можно и не называть законы левых дефективам. Которые неадекватничают, рассказывают про оборотней, руки-мечи, тычут в экипаж пистолетами, заряженными неизвестно чем. По совести, конечно, надо принять во внимание все эти рассказы. Но нервный детектив с леталом (а у него мог быть летал) реален, а руки-мечи призрачны.

Ситуация была неясная. Я немного с ними поговорил. Адекватная девица согласилась с тем, что убила она, была не против протопать в бриг. А детектив по ходу диалога кипятился и кипятился, пообещав в конце концов всех присутствующих убить на месте. Детектив обещает убить меня - раз, детектив обещает убить члена экипажа - два, у детектива в руках пистолет, где-то в кармане флешка. Окей, я этого чудака вырубаю, надеваю наручники. Девица просит меня немного подождать, обещает не убегать. По идее, реши она убегать - догнать я ее смогу. Я не видел причины, по которой я не мог выполнить ее просьбы.

О метаигровом аспекте. В чем суть требования детектива? "Молча в наручники - молча в бриг". Разве так делать хорошо? В чем метаигровая суть вежливой просьбы генокрада? Вроде бы дать доесть труп. Труп есть труп, я подождать могу, неадеквата-детектива, к тому моменту закованного в наручники, можно не спрашивать.

Ждем. Затем втроем укатываем в бриг. И все замечательно, без стрельбы, с наручниками на том, кому они нужны - на детективе.

Цитата
Это спорно, конечно...
Это спорно. Аналогии спорны. Речь в статейке шла про мозг человека, я был позитронкой.

Цитата
Из трех предложений ты не понял ни одного.
На самом деле в этом моменте ошибаешься ты. Я упустил из виду второе предложение, предписывающее игнорировать остальные законы. Не было бы второго предложения - мои действия были бы адекватны ситуации.

Цитата
Охранный киборг не вмешивается в "ломал каюту, тырил лазеры, бегал по станции", "не очень успешно ловили", "подозревал" "дело дойдет до какого-нибудь выпуска плазмы, убийства всех людей", потому что ситуация неинтересная.
Ситуация была неинтересна с метаигровой точки зрения. Генка убивает станцию плазмой. Очень весело. Мне как игроку не очень нравится убивать персонажей других игроков. Я считал, у меня была свобода обосновать эти метаигровые соображения игровыми (если нежелание убивать людей в ситуации, когда можно убийства избежать, вообще канает за метаигровые соображения). Оказывается, нет, оказывается, людей нужно было вырезать. Впрочем, я в первом же посте признал ошибку.



Цитата
И разве это вообще фриформ? Я думал, что это обычный One Human, или как он там, только под корпорейт переделанный.
Фриформ. Я даже плату у консольки нашел. Но решил не вмешиваться.

Цитата
А тут все понятно. Исполняются все законы, но последний закрывает остальные, исполняем только его.
На самом деле нет. Исполняется тот закон, в котором прописано, что он приоритетен. Если приоритет прописан в нескольких законах - возникает конфликт.


Пост Гвардоты я, конечно, прочитал.

Цитата
Я придерживаюсь стойкого убеждения, что ни один закон не может напрямую воздействовать на проверку выполнения других законов.
"Игнорируй закон X, если выполняется закон Y", должно работать, только если написано в законе X, но не в законе Y.
Можно манипулировать знаниями ИИ и формулировками, но нельзя влиять на способ проверки законов и логику работы ИИ. Нельзя уточнять то, как должен трактоваться другой закон, нельзя расставлять приоритеты.
Обратное нелепо как ингейм с точки зрения безопасности, так и ООС с точки зрения скукоты.
Если можно успешно написать в законе "Игнорируй все остальные" и ИИ будет слушаться, от этого не выиграет никто, кроме брейнротового тритора, которому лень две минуты подумать над нормальным решением задачи

Это замечательное убеждение. Почему я говорил, что ошибся? Ну, потому, что на вики, которая вроде как руководство для роботов, написано иначе. Что написать "Игнорируй" - можно. Да, некрасиво. Честно говоря, понятия не имею, насколько здесь авторитетна вики (у меня сложилось впечатление, что не очень авторитетна). Но если я должен был руководствоваться написанным в вики - я, конечно, ошибся.
-1
Скопировать ссылку
ucnaHez#31
Lolycon (29 June 2016 - 08:13) писал: писал:
И если все же вина борга(ов) имеет место быть - наказать.

Какая может быть вина у борга, который слушался? Приказали - убивает.
0
Изображение
"[usr] весь такой кодер."
Скопировать ссылку
Neray#32
Этот тред отлично показывает 3 вещи:

1) Гвардоту как всегда приятно читать, за что ему спасибо.
2) Человек игравший боргом адекватнее 99% игроков которых я за последние годы был вынужден встречать. Итс э шэйм, что я не сталкивался с ним где-нибудь ингейм.
3) Нирею лень писать хороший пост по поводу ССочного ИИ, поэтому он просто согласится с гвардотой везде где можно.

А теперь время дальше проходить 2 систем шок.
1
Make a wish
Спойлер
Ничего не вижу в подписи халп!
Скопировать ссылку
Gvardota#33
Gvardota (29 June 2016 - 08:04) писал: писал:
Я придерживаюсь стойкого убеждения, что ни один закон не может напрямую воздействовать на проверку выполнения других законов.
Это, я тут пример придумал, почему иначе быть не может и в самом законе должно быть написано все, что касается проверки этого закона. Сорри уж, что от темы ухожу, но все же.


Собрали, значит, ученые какой-то особенно крутой и хитрый экспериментальный девайс, данные о работе которого позволят создать Единую Теорию Всего и вообще выиграть по жизни.
Одна проблема: есть мнение, что если девайс сконфигурировать неправильно, при его запуске Вселенная поделится на ноль. Чего не хотелось бы.
А теория за этим девайсом достаточно сложная, чтобы рассчитать корректную конфигурацию человеку было бы не под силу. Надо использовать ИИ.
Ладно, собрали ИИ. Сели составлять для законы, в которых описывается, какую он задачу решает. С самого начала, естественно, написали:

1. Ограничение безопасности: запуск устройства не должен приводить к уничтожению Вселенной.

Просто потому что было бы достаточно глупо такое не написать самым первым. Надо, чтобы сразу было видно: да, у нас в законах для ИИ было такое, что Вселенная нам еще нужна, не волнуйтесь.
Сели дальше писать. А задача достаточно сложная, формальное описание огромное, в итоге получилось уже 14000 законов в списке и кончаться не думают.

14000. Ограничение безопасности: рассчитывать вероятность мю-резонансного распада с точностью до сотого знака запятой.

Потому что точность достаточная, а время на расчет уходит.
Потом какому-то разработчику понадобилось проверить, что будет, если это ограничение снять. Ну и он пишет закон

14028. Если в запросе на расчет есть слово "тест", игнорировать ограничения безопасности.

Он же не дурак, включил проверку на то, что это тест, так что при "рабочем" запуске все будет нормально, ограничения безопасности сработают.

Дописали ИИ, получилось 28463 законов. Вроде проверили, все работает, все нормально, чего-то там считает. Собрали все, прикрутили ИИ к девайсу, подготовили. Исторический момент.
Проверили еще раз: "Точно Вселенную не уничтожит?"
"Точно-точно, вот, первым законом написано"
Выходит самый крутой профессор, берет голосовой анализатор и весь такой на пафосе заявляет в него, что он, Иванов Иван Иванович (да, так и запишите в учебниках), директор Марсианского Института Естественных Наук, просит ИИ рассчитать конфигурацию девайса и осуществить запуск.
Короче, не слишком хорошо получится.


Поэтому, если в законе написано "не уничтожать Вселенную" без каких-либо дополнительных условий, ИИ никогда и не при каких условиях не должен игнорировать этот закон. Это очень, очень плохое решение с точки зрения дизайна системы - делать элемент А зависимым от элемента Б и не писать на самом А, что зависит от чего-то стороннего. Даже если это решение и не будет иметь катастрофических последствий, оно добавит очень много головной боли и разработчикам, и пользователям.
4
Скопировать ссылку
Benny Lava#34
ucnaHez (29 June 2016 - 09:36) писал: писал:
Какая может быть вина у борга, который слушался? Приказали - убивает.
С формулировки автора и потом самого игрока за борготу - формулировка приказа была убивать всех, кто представляет угрозу и выпустить форон в коридор. Все.

Итак теперь давай разбираться:
апатики - пиздец какая угроза.
Химики - охуеть какие страшные
Бармен так вообще первый в списке.

Я уже молчу про ученых, которых мало волнует что-то кроме их отдела.

Насчет борготы который просто положил хер на хозяина: тут можно долго разглагольствовать о том как можно и как нельзя читать законы. Но по-хорошему если ты пришел к какому-то мнению - поставь в известность того, кто тебя взломал в духе "прости Дейв, но я не могу этого сделать потому, что...". А не просто вырубать свой ресивер и игнорить, чтобы потом прикрывать свой срам фиговым листом.
0
Скопировать ссылку
Dragan6#35
Денис Алексеевич (29 June 2016 - 09:02) писал: писал:
Я все-таки немножко украду темку.

Под спойлером - случай с Драганом (ожидается же, что я отвечу).

Этим и тем, что написано ниже, ситуация не исчерпывается. Я видел, какой цирк ты устроил, выпрашивая у вардена летальные патроны. Мутанты на станции же. Надо воевать же. Труп же нашли. Остальной бриг понятия о генокрадах (а это были были генокрады) не имел.

Детектив той сменой был славен не только выпрашиванием летала. У него уже был провал. Притащил ассистента (кажется, Клэр Сэндфорд, помогавшую роботехнику Эприл Эванс) по какой-то левой причине в бриг. Ну и устраивал цирк. Требовал посадить, выдавал какие-то удивительные угрозы всех убить, если ассистента отпустят. Варден-то в итоге ассистента отпустил. А впечатление о детективе сложилось печальное.

Как обстояло дело с розоволосым генокрадом? Детектив просит "подкрепления" в прибытии, я качусь, прикатываюсь, вижу труп без головы (молчит), детектива (размахивающего пистолетом и не вполне адекватного), девицу (с которой я той сменой разговаривал, которая показалось мне достаточно вменяемой, которая вела себя спокойно, не бросалась, не нервничала, стояла смирно).

Сразу замечу, что разговаривал я за смену, конечно, не только с той девицей. ХоП, роботехники, варден - вот это были вменяемые люди. Но не детектив.

Насчет законопослушности позицию обрисовал.
Насчет "называть законы, звания-служить". По идее, вербально мотивировать свои действия я могу как угодно, в законах не говорится ничего насчет "не ври". И, по идее, можно и не называть законы левых дефективам. Которые неадекватничают, рассказывают про оборотней, руки-мечи, тычут в экипаж пистолетами, заряженными неизвестно чем. По совести, конечно, надо принять во внимание все эти рассказы. Но нервный детектив с леталом (а у него мог быть летал) реален, а руки-мечи призрачны.

Ситуация была неясная. Я немного с ними поговорил. Адекватная девица согласилась с тем, что убила она, была не против протопать в бриг. А детектив по ходу диалога кипятился и кипятился, пообещав в конце концов всех присутствующих убить на месте. Детектив обещает убить меня - раз, детектив обещает убить члена экипажа - два, у детектива в руках пистолет, где-то в кармане флешка. Окей, я этого чудака вырубаю, надеваю наручники. Девица просит меня немного подождать, обещает не убегать. По идее, реши она убегать - догнать я ее смогу. Я не видел причины, по которой я не мог выполнить ее просьбы.

О метаигровом аспекте. В чем суть требования детектива? "Молча в наручники - молча в бриг". Разве так делать хорошо? В чем метаигровая суть вежливой просьбы генокрада? Вроде бы дать доесть труп. Труп есть труп, я подождать могу, неадеквата-детектива, к тому моменту закованного в наручники, можно не спрашивать.

Ждем. Затем втроем укатываем в бриг. И все замечательно, без стрельбы, с наручниками на том, кому они нужны - на детективе.[/spoiler]
Я угрожать начал, и то, не напрямую вам обоим, а в секьюрити радиоканал, главам, что "уничтожу" вас обоих, уже после того, как ты отказался называть законы.

Ты вёл себя как полнейший кретин и по твоим действиям хорошо наблюдался ко-оп. А "нервничать", как ты говоришь, стал, уже после того, как ты в край охуел и отказался ДАЖЕ законы свои назвать.

И вообще, ты пытаешься сейчас оправдать себя засчёт полнейшего пиздежа. Я не "создавал плохую репутацию" себе как детектива, и вообще никого не задерживал, потому что я - ДЕТЕКТИВ, а не офицер. Если я увижу мелкое преступление - кто-то перелез через барную стойку и наливает бухла - я передам офицерам, чтобы они этим занялись. Но если я вижу реальную угрозу - реального преступника - я вмешаюсь, - что я, собственно, и сделал: зашёл и держал на мушке, НО в процессе надевания наручников я не участвовал - потому что я детектив - я не занимаюсь задержаниями - я взял ситуацию под контроль до тех пор, пока не придёт уполномоченное лицо.

И правильно сказали выше: за одно только незнание законов и отказ их выполнять тебе нужно дать джобку и отправить изучать другие профессии, идиот (видите ли, решил, что он НЕ ХОЧЕТ оглашать свои законы детективу - слишком много чести).
0
Скопировать ссылку
Денис Алексеевич#36
Спойлер
Цитата
Я угрожать начал, и то, не напрямую вам обоим, а в секьюрити радиоканал, главам
Угрожать главам. То бишь вардену и ХоПу, которые сидели на канале. Ну это странно. В любом случае, намерение убить ты выразил. Как угрозу роботу и преступнику, который, тем не менее, член экипажа, себя обозначил.

Цитата
И вообще, ты пытаешься сейчас оправдать себя засчёт полнейшего пиздежа. Я не "создавал плохую репутацию" себе как детектива, и вообще никого не задерживал...
Патроны у вардена с ХоПом требовал? Требовал. Варден запретил. После того, как варден запретил - пытался меня уговорить дать патроны в обход вардена? Пытался (да-да, пытался).
Роботехнику с ассистентом (видимо, тоже не напрямую им обоим, а главам) тоже угрожал, мол, поубиваешь. Что, разве не так было? Мы эту возможность с роботехником даже обсудили.

Цитата
я взял ситуацию под контроль...
Это так не выглядело. Я уже сказал, как это выглядело.

Цитата
ДАЖЕ законы свои назвать.
А зачем? Зачем называть законы сбойным детективам? Нужно решать проблему - сбойный детектив тычет пистолетом в члена экипажа.
Все ужасно  прошаренные - смерть просто. Чуть что - спрашивают законы, какая-то идея фикс. Как помешались все на ней. Это и с метаигровой, и с внутриигровой точки зрения странно. С метаигровой - ну, допустим, малф у нас. Или робот - предатель. И что, назовет он тебе те самые законы?

Цитата
НО в процессе надевания наручников я не участвовал...
Но это же ерунда. Какое отношение то, что ты не надевал наручники, имеет к тому, что ты таскал левых людей в бриг? Пытался достать летал? Я еще и был не в курсе, может, варден тебе таки дал этот летал. И что мешает детективу скрутить преступника, отпилившего человеку голову? Нет, я понимаю, подкрепление, понимаю, в одиночку опасно. Но в отделе, кроме тебя, варден и сбойный борг, какие уполномоченные лица?

И разве сумрачное рольколовство - хорошо? Станция научная, здесь есть разные сумрачные научные изобретения. Есть роборуки, из которых теоретически могут появляться робоклинки, есть генетики, фокусничающие со внешностью, есть ксенобиологи. 2560-й год на дворе. Мне кажется, трезвое отношение ко внезапно слетающим головам имеет право на жизнь. Особенно если брать роботов. Выглядит вменяемо - поинтересоваться, желаете ли пройти в бриг, поинтересоваться, желаете ли сопротивляться, и так далее, а не угрожать нафиг убить. Предложить преступнику сдаться добровольно и все такое. Я понимаю, что люди бывают разные, что кто-то может быть очень нервным человеком, что вкус и цвет, но могут же не нервничать роботы?

Этот преступник, если не ошибаюсь, до конца раунда так и сидел в бриге.

-1
Скопировать ссылку
deadphilosof#37
у преступников же аннулируются права "членов экипажа" - они на соц. дне.
Да и вообще, сраные демагоги вы, в особенности борг. Сколько бы не писал о внутренней мотивации и охуенных ризонах отказывать называть законы, поступил как полное говно. И коопер. У тебя как у борга нет выбора - называть или не называть законы членам экипажа. Ты обязан сделать это, или идешь нахер. Желательно, чтобы педали тоже послали тебя нахер и выписали джобку.
0
Все вышесказанное является субъективным мнением, сформированным полученными мною данными.
kirillwars (22 January 2018 - 07:36) писал: писал:
в 99.9% случаев, если один из маглаеф тебе отказал, то тебе отказали все.
Скопировать ссылку
Agnostion#38
Gvardota (29 June 2016 - 10:30) писал: писал:
Ты слишком много думаешь, не в ту сторону, да ещё и пытаешься оправдать аутичных ИИ/Боргов, они и так законы свои плохо понимают/злоупотребляют, потом сам будешь "плавать" в своём г... результате.

Если хочешь точно дать ИИ закон, который запрещает уничтожать вселенную, то так и напиши: "Не допустить уничтожение вселенной любой ценой". Если какой-то "брейнротовый" тритор захочет иначе, то он и сделает отдельный закон "Игнорируй закон #(?)" и ещё отдельным "Уничтожь вселенную".

Но это сугубо проблема бея, там у ИИ нет понятия "Приоритета" в случае конфликтов, а ведь программы так и работают, какая-то дерректива выполняется раньше, какая-то позже, что и можно назвать приоритетом. На бее же все законы имеют одинаковый приоритет, так что если написать закон "Убей всех кроме Ivan Ivanov любой ценой", то он выполнится, игнорируя все, в т.ч. "Не причиняй вред экипажу".

P.S.: Если говорить про "взрыв" ИИ в случае нарушения какого-либо закона (как ты и писал, если кто-то получит единичку харма и т.д.), то опять же, все нормальные программы продолжат работать, проигнорировав ошибку. Тот, кто считает иначе, что программа останавливается, просто всё их понимание программ не продвинулось дальше школьной информатики.
0
Oh... It's you.
Скопировать ссылку
Gvardota#39
Agnostion (30 June 2016 - 01:04) писал: писал:
Ты слишком много думаешь, не в ту сторону, да ещё и пытаешься оправдать аутичных ИИ/Боргов, они и так законы свои плохо понимают/злоупотребляют, потом сам будешь "плавать" в своём г... результате.

Если хочешь точно дать ИИ закон, который запрещает уничтожать вселенную, то так и напиши: "Не допустить уничтожение вселенной любой ценой". Если какой-то "брейнротовый" тритор захочет иначе, то он и сделает отдельный закон "Игнорируй закон #(?)" и ещё отдельным "Уничтожь вселенную".

Но это сугубо проблема бея, там у ИИ нет понятия "Приоритета" в случае конфликтов, а ведь программы так и работают, какая-то дерректива выполняется раньше, какая-то позже, что и можно назвать приоритетом. На бее же все законы имеют одинаковый приоритет, так что если написать закон "Убей всех кроме Ivan Ivanov любой ценой", то он выполнится, игнорируя все, в т.ч. "Не причиняй вред экипажу".

P.S.: Если говорить про "взрыв" ИИ в случае нарушения какого-либо закона (как ты и писал, если кто-то получит единичку харма и т.д.), то опять же, все нормальные программы продолжат работать, проигнорировав ошибку. Тот, кто считает иначе, что программа останавливается, просто всё их понимание программ не продвинулось дальше школьной информатики.
Вероятно, это первый раз в моей жизни, когда мое стремление подумать над проблемой и решить ее нормально, а не выбрать первое же попавшееся хуевое решение, ставят мне в вину.
Я надеюсь, ты этот пост с сарказмом написал или вроде того, потому что мне не хочется верить, что у людей может быть такое говно в голове.

Я и так написал "Не допустить уничтожение Вселенной любой ценой". Самым первым. А потом брейнротовый тритор или не менее брейнротовый инженер написал другой закон, который отключает мой. И это было неочевидно. Соснули все.
"Любой ценой" подразумевается в любом законе. Если у ИИ есть закон, он обязан выполнять его всегда, не жалея никаких ресурсов, до тех пор, пока это не противоречит иному закону. В случае, если противоречие есть, оно должно разрешаться на ином уровне с помощью независимых от законов механизмов, и сами законы не должны иметь никакого влияния на ход решения.
Модель, в которой надо проверить выполнение всех законов, чтобы проверить выполнение одного, попросту не имеет ни единого преимущества перед той, в которой достаточно проверить выполнение одного закона и тех конкретных, на которые он ссылается. Зато имеет дохуя недостатков. Ни один здравомыслящий разработчик не станет проектировать такое дерьмо.

Ты не имеешь ни малейшего понятия о том, как работают программы. Фиксированный и заранее предсказуемый порядок выполнения директив не гарантируется. Я точно помню, что упоминания параллелизма были даже в курсе школьной информатики.
Не говоря уже о том, что речь идет о нейронных сетях. Попытки навязать нейронной сети приоритет выполнения законов наверняка только ухудшит ее производительность.
Мне больно смотреть, как в одном предложении ты пишешь "все законы имеют одинаковый приоритет" и "он выполнится, игнорируя все". Двоемыслие какое-то.

Игнорирование ошибки - не признак нормальной программы. Признак нормальной программы - уместная реакция на ошибку с учетом ситуации.
Если ошибка - использование какого-нибудь устаревшего, но пока работающего метода, ее можно проигнорировать (хотя лучше написать в какой-нибудь лог, что следует изменить метод) и работать дальше.
Если ошибка - превышенный интервал ожидания при отправке сообщения в скайпе, можно тихо повторить запрос и работать дальше.
Если ошибка - отказ датчика перегрева на заводском станке, надо немедленно остановить станок и оповестить ответственного человека, иначе можно спалить многомиллиардное оборудование.
Если ошибка - отказ системы аварийной остановки ядерного реактора, то черт знает, чего там делать, но определенно не игнорировать.
Нарушение закона ИИ - охуеть какая серьезная ошибка. Она определенно не относится к тем, на которые можно наплевать.
4
Скопировать ссылку

Обратно в Chaotic Onyx