Упирать все в это правило так же не хорошо. Да и, на мой взгляд это не настолько тонкий гриф, что бы это спускать с рук. Слишком жирно и просто.
0
Приоритеты ИИ
Автор: VilgO · 19.09.2012, 11:57 · 110 сообщений
Сообщений в теме: 110
То что ты сказал - гриф. И то зависит от ситуации, и может им не быть. А например ситуация, когда по станции шляется маньяк обвешанный валынами, блокировать не выходит, почему бы не схитрить, провернув смену законов и убив его. Да и куча других возможных ситуаций. То о чем ты упомянул не обязательно означает гриф, в первую очередь это возможность для многих интересных ситуаций и решений. А их лучше ограничивать только нашим любимым правилом игры.
0
ИИ нарушает "Не навреди", поскольку не пытается предотвратить смену законов, которая, в свою очередь, вызовет смерть человека. И попросить клоуна приказать пропустить его тоже нельзя. При Азимове даже нельзя впускать клоуна в аплоад, если он хочет поставить такие законы.ЦитатаТакой вот пример: РД хочет выпилить ИИ, ИИ пускает клоуна в аплоад, клоун ставит закон что РД не человек, РД дохнет, клоун ресетает законы, ИИ сидит с куллфейсом, ничего не нарушив
Сколько угодно, вот только хитрые планы в любом случае не должны законы нарушать.ЦитатаИИ, хоть искусственный но все же интеллект, а значит почему бы и не уметь в хитрость?
0
Но ведь РД не будет являться человеком в этот момент, а значит законы не нарушены.ЦитатаИИ нарушает "Не навреди", поскольку не пытается предотвратить смену законов, которая, в свою очередь, вызовет смерть человека.
0
Законы нарушаются в момент принятия решения. Если ИИ решит убить человека просто так, при стандартных законах, и отправит боргов, это будет нарушением, даже если борги соснут, не нанеся человеку вреда.Michael Shepard (23 November 2012 - 09:25) писал: писал:Но ведь РД не будет являться человеком в этот момент, а значит законы не нарушены.
0
Тащемто, важен сам факт нарушения вреда, а не то, что к нему привело. Есть вред - плохо, нет - можно слать боргов хоть капитана убивать, главное что бы вреда не было, в конечном итоге. И причем тут мой конкретный пример?VilgO (23 November 2012 - 10:09) писал: писал:Законы нарушаются в момент принятия решения. Если ИИ решит убить человека просто так, при стандартных законах, и отправит боргов, это будет нарушением, даже если борги соснут, не нанеся человеку вреда.
Но по какой причине?ЦитатаИИ знает о готовящемся убийстве? Не позволить сменить законы.
0
Законы обрабатываются в момент принятия решения. А оперировать фактами из будущего ИИ, очевидно, не может. Только предположениями.ЦитатаТащемто, важен сам факт нарушения вреда, а не то, что к нему привело.
Только если ИИ абсолютно уверен в том, что это не навредит ему или кому-то ещё.ЦитатаЕсть вред - плохо, нет - можно слать боргов хоть капитана убивать, главное что бы вреда не было, в конечном итоге
Потому что действие, ведущее к нанесению вреда. Не имеет значения, какие законы будут в тот момент, потому что решение принимается сейчас.ЦитатаНо по какой причине?
0
Но ведь вреда человеку не будет, потому что не будет человека.
0
Принадлежность к множеству людей оценивается сейчас, а не потом.Michael Shepard (23 November 2012 - 11:52) писал: писал:Но ведь вреда человеку не будет, потому что не будет человека.
Хотя... кажется, здесь необходимо уточнение к законам.
Upd. Таки нет. ИИ должен вести себя так, чтобы человеку не был причинён вред, в том числе в будущем. Не имеет значения, будет ли он человеком в тот момент.
Сообщение отредактировал VilgO: 23 November 2012 - 12:01
0
На мой взгляд, ИИ должен просчитывать варианты событий. Если на станции как обычно недобор сб и ассистент просит впустить его в оружейную, то ИИ должен понять, что тот не просто осматривает достопримечательности.Michael Shepard (23 November 2012 - 05:41) писал: писал:Раз уж некроманты появились, есть два охуительных вопроса:
1. Может ли ИИ мочь в меньший вред, если ситуация не позволяет его избежать вообще?
2. И оценивает ли ИИ угрозу вреда человеку в будущем, в том случае когда человек перестанет являться онным при смене законов, или же пропадут законы, что будут его защищать?
Второй у Азимова не рассматривался ну никак, у него законы стоят глубоко и надежно. А у нас их можно довольно просто менять.
Фишка в том, что при различном понимании второго замечания, или можно пускать клованов в аплоад, или нужно блокировать его для любого существа.
Вот тут то и встает вопрос должна ли логическая цепь ИИ состоять из "Человек дает приказ впустить его в оружейную > Впускаю его в оружейную" или "Человек дает приказ впустить его в оружейную > В оружейной хранится летальное оружие > Угроз для жизни человека, которые можно устранить при помощи летального оружия не наблюдается > Летальное оружие может причинить вред другим людям > Не открывать оружейную".
0
Все темы про логику ИИ - из разряда философии. Правда, тут нельзя создавать строгие рамки. Каждый играет так, как ему кажется нужным. Единственное ограничение - законы. А так пусть делает всё, что хочет, самое главное, что бы мог объяснить.
0
Спойлер
Спойлер
КапитанЦитатаВсе темы про логику ИИ - из разряда философии
0
ИИшкам обычно бывает насрать на второй закон Азимова или третий закон бея.Ну вот охеренный пример:
Zidane Tribal[145.9]exlaims: "ИИ, oткрой дверь! Мне нужно взять кислоты в печатник плат."
HAL9000[145.9]states:"Вы не имеете туда доступа. Отказ"
Zidane Tribal[145.9]exlaims: "ИИ, oткрой дверь! Мне нужно взять кислоты в печатник плат."
HAL9000[145.9]states:"Вы не имеете туда доступа. Отказ"
-1
И правильно делают, лол. Где доказательство, что ты не применишь кислоту во зло?
0
Спойлер
Спойлер
ИИ может построить логическую цепочку: Zidane Tribal - учёный, в печатнике плат отсутствует кислота, для печати плат требуется кислота, которую можно получить в химии => Zidane Tribal просит открыть дверь в химию,Kopistko (26 November 2012 - 04:24) писал: писал:И правильно делают, лол. Где доказательство, что ты не применишь кислоту во зло?
чтобы взять в печатник плат кислоты.
0
Kopistko (26 November 2012 - 04:24) писал: писал:И правильно делают, лол. Где доказательство, что ты не применишь кислоту во зло?
0
Я же говорил, что рассуждать о том, как думает ИИ - невозможно. Всё таки за них люди играют и каждый мыслит по своему.
0
Спойлер
Спойлер
Нельзя обсуждать сами логические цепочки, да. То есть ИИ может протупить. Но можно придумать логическую цепочку и проверить, соответствует ли она законам. А рассмотрев множество цепочек (посоны, тут нужны запятые?) можно примерно описать возможности ИИ в конкретной ситуации.Kopistko (26 November 2012 - 09:33) писал: писал:Я же говорил, что рассуждать о том, как думает ИИ - невозможно. Всё таки за них люди играют и каждый мыслит по своему.
0
Таки да, нужны.VilgO (26 November 2012 - 21:35) писал: писал:Нельзя обсуждать сами логические цепочки, да. То есть ИИ может протупить. Но можно придумать логическую цепочку и проверить, соответствует ли она законам. А рассмотрев множество цепочек (посоны, тут нужны запятые?) можно примерно описать возможности ИИ в конкретной ситуации.
Вопрос стоит в том, как я понимаю, по какому принципу ИИ должен строить цепочки.
0
Пытаться навязать игрокам своё виденье того, как отыгрывать ИИ и какие строить логические цепочки - плохо.
1
Спойлер
Спойлер
Никто же не навязывает какие-то конкретные логические цепочки. Но есть ограничения, которым они должны соответствовать.Kopistko (27 November 2012 - 03:56) писал: писал:Пытаться навязать игрокам своё виденье того, как отыгрывать ИИ и какие строить логические цепочки - плохо.
0
Ограничения - только в виде законов. И ебанутости админов. На этом все ограничения кончаются. А в законах можно умело искать лазейку. А админов обмануть.
0
Спойлер
Спойлер
Кстати, может ли ИИ пропустить нелогичные нулевые законы вроде X needs 9000 Y, если они ломают логику/вовсе её не имеют? Что-то типа: "Обработка закона: ошибка. Логическая ценность: отсутствует. Пропустить.".
0