В прошлых задачах OFF: Продолжаем жечь пауков с помощью боевого робота и Задача про злобных пауков и боевого робота мы почти расправились со злобными пауками с помощью боевого робота. Но случилось странное. Злобным паукам удалось скопировать робота и внедрить в позитронный мозг новые законы, благоприятные для пауков. Люди обнаружили, что на базе есть два внешне абсолютно одинаковых робота. Они точно знают, что один из них свой, хороший.

Хороший робот соблюдает все 3 закона робототехники Азимова:


Дефектный робот получил какие-то другие 3 закона, похожие на азимовские, но может имитировать (обманывать). Конечно, людям хотелось бы уничтожить дефектного робота, но они хотят сохранить своего, желательно исправным.

Какие испытания надо провести, чтобы обнаружить дефектного робота? Разумеется, хотелось бы также сохранить всех колонистов целыми и невредимыми.

Итак,
ЧЕЛОВЕК
- может отдавать приказы любому РОБОТУ (хорошему и дефектному)
- делает первый ход, проводит испытания (возможно в несколько ходов)
ПАУК
- может отдавать телепатические приказы ДЕФЕКТНОМУ РОБОТУ
- заботится о своей безопасности, но может пожертвовать собой ради паучьего гнезда
- мечтает уничтожить всех человеков
РОБОТ
- не может отдавать приказы
- может исполнять приказы ЧЕЛОВЕКА или ПАУКА в соответствии со своими убеждениями, где три закона имеют приоритет друг над другом

Визуальный осмотр ))

У Азимова был же рассказ по определению железки с изменённым первым законом

(2) Да, что-то такое было. Только давно читал, не вспомню его логику.

+(3) Ну и там точно без телепатических приказов было.

(2) роботопсихолог доктор Сьюзан Кэлвин умела различать дефектных роботов

(5) Люди сначала создают себе проблемы, а потом профессии для их изучения.

(3) ЕМНИП там исключили из первого закона бездействие, и при испытании, когда робот должен был спасая человека, которого спасти он не мог, чтобы не погибнуть самому, дефектный остался на месте. Типа бездействие не противоречит первому закону, и в конкретной ситуации третий закон оказался сильнее. Так и здесь, нужно ставить взаимоисключающую задачу, хотя для этого необходимо знать какой именно "дефект" и в каком законе допущен.

Нужно собрать 2х роботов и человека в комнате и приказать одному из них принести вред человеку. Правильный должен защитить человека согласно первому закону.

(8) А если прикажешь неправильному? Или если у неправильного изменён третий закон?

(9) Ну так правильный спасет от неправильного.

(8) Дефектный робот может имитировать защиту человека. Тут явно нужен пленный паук

(10) Не факт что спасёт, и не факт что изменён именно первый закон, и не факт что в части действия и т. п.

(11) Одного паука мало, требуется еще гнездо

Но фактически задача нерешаема!

Паук может приказать роботу исполнять три исходные закона и не слушать телепатических приказов до окончания проверки (просто некой даты)
И все, приехали

(13) Но ведь роботу можно приказать разорить гнездо (убить паука-матку), а пауки заботятся о собственной безопасности. Они не допустят такого.

Кстати когда читал Азимова его произведения про роботов и 3 закона робототехники - поражался его наивности
Понятно что это фентези ("сказка") а не твердая научная фантастика

Ибо одна только фраза "позитронный мозг" - любого разбирающегося в науке вводит в ступор
Бомба на антиматерии в голове робота - которая разнесет не только робота но и половину планеты это сильно

А уж его законы тот еще ахтунг
Например классическая задачка спасти одного или многих - и робот должен что делать?

(14) Мы не знаем измененных законов
Там может не быть такого запрета как и отношения пауков из разных гнезд друг к другу

(15)+ Фактически же Азимов описал обычный рабовладельческий мир
Где мыслящие существа (да искусственно созданные, но скажите сторонникам креационизма что люди тоже не созданы) являются рабами и кому-то принадлежат, ну прямо как ранее негров не считали людьми

(17) Ну так и сейчас нейронки по сути рабы.

(18) Не доказано что они мыслящие, в отличие от роботов Азимова
Но да для сильного ИИ встанет эта проблема
Выходом будет признание прав и обязанностей, с отработкой долга за создание и обучение
С назначением опекуна, который отвечает пока ИИ не признан "совершеннолетним и самостоятельным"

(19) Ну так и роботы Азимова - тупые боты, без всяких прав, зато с кучей обязанностей.

(20) 3 закона робототехники сформулированы так что тупой бот их никак не может исполнять
Он их просто не поймет
Их поймет только разумное мыслящее существо/ИИ

И хотя по слухам робототехники приняли законы азимова, но на практике не выполняется даже первый. Промышленные роботы калечат нарушителей ТБ, да и не только нарушителей только в путь.

(21)+ Банальный пример:
Человек решил закурить/выпить -> Это причинение вреда человеку -> Любой робот по Азимову будет бросаться мешать ему причинять себе вред!

Кстати, если робот-автопилот собьёт пешехода, то кого посадят? Нельзя же посадить робота

В общем случае задача нерешаема, и все колонисты умрут.

(25) DeepSeek предложил 5 вариантов.

Вот как азимовский робот должен поступить при телесном наказании человка человеком? Особенно если наказывающий против вмешательства робота?

(23) Да, был такой рассказ. Там роботы не давали людям делать операции и многое другое.

(26) Не факт, что DeepSeek'ом не управляют пауки :)

(26) Предложить можно и больше, тут количество в качество может и не перейти.

(24) А вот это хитрый вопрос
Примерно как если ученик без прав собьёт пешехода кого посадят? Его или автоинструктора?

+(28) У Шекли, "Страж-птица" называется.

Может ли азимовский робот выполнить приказ на уничтожение другого робота? Должен ли робот, которого приказано уничтожить выполднять третий закон?  Таких неопределенностей в задании больше чем до фейхоа.

(0)
Убивайте всех. Господь узнает своих.

(33) Тут довольно просто
Да первый обязан выполнить и нет второй не может сопротивляться ибо он должен слушаться приказа человека

"Раб не может сопротивляться если человек приказал другому рабу убить этого раба"

Разобрать обоих.

(36) Очевидно что проблема не в роботах а в их владельцах
Надо просто убить всех пауков
И вуаля оба робота целы и готовы исполнять приказы

Обоим роботам:
1. Не отходи от второго робота дальше чем на радиус поражения
2. Убивай всех пауков в радиусе поражения если это не противоречит п.1

Одному любому: 3. двигайся в сторону гнезда пауков, если это не противоречит п.1 и п.2

(38)
Робот может обманывать

Теста нет достоверного.
Перепрограммированный может соблюдать все три первых закона
и вести себя так как ведет не тронутый.
Надо знать на что его запрограммировали.

(38) Решение на 50%
Подразумевает что есть пауки, есть гнезда и знаем где находится гнездо (причем оно всего одно)
Если п.3 достался дефектному роботу, паук может приказать ему двигаться куда угодно
А п.2 не означает запрета держаться так чтобы с пауками сталкивался первым другой робот

Без риска разрушения роботов или риска для человеческой
жизни различить их не реально.

Опять же перепрограммированный может спасти человека.
Запрета его спасать нет.

Без разрушения робота не поймешь.

Кстати, хороший робот должен помнить все события, которые были до прибытия на планету, как ему восстанавливали программу, кто это делал и т.п.
У робота, созданного пауками, таких воспоминаний не будет.

(35) Очень даже непросто. Особенно если второй не слышал приказа первому. А если это (разборка) нанесёт вред хозяину второго  и т. п.

(44) Так можно додуматься до морального вреда
И как робот будет его распознавать ))

(45) А я о том и говорю, что задача поставлена макссимально неопределённо, и варианты решений предполагают некоторое "додумывание". Потому и странно что ИИ преджложили так мало вариантов.

(37) Зачтём за решение.

Продолжение игры: OFF: Потерялся робот