To remind, just in case:
A robot may not injure a human being, or, through inaction, allow a human being to come to harm.
A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
Isaac Asimov
Now that I`m reading Штрихи к портрету кудесника (another book to sincerely recommend!) by Евгений Лукин I am wondering at my own stupidity. The Three Laws cannot work, and I should have seen it right away, even without being explained. Here`s the truth revealed by an old warlock:
/.../Умудрились: три закона роботехники выдумали /.../ И, главное, сами же теперь удивляются, почему не работает /.../ оказывается, робот не имеет права своим действием или бездействием причинить вред человеку! А теперь прикинь: выходит робот на площадь, а там спецназовцы несанкционированный митинг дубинками разгоняют. Да у него сразу все мозги спекутся /.../ А второй закон того хлеще: робот обязан выполнять приказы человека, если они не противоречат первому закону /.../ Да как же она будет работать, железяка ваша, если каждый приказ - либо во вред себе, либо ближнему своему! /.../ Робот должен заботиться о собственной безопасности. Но опять же! Через первые-то два не перепрыгнешь... Они б еще в гранатомет эти свои законы встроили!
I`m not game enough to translate the above into English, but here goes what seems to be the gist: Imagine a robot entering a square where an unauthorized demonstration is being dispersed by paramilitary police...
When asked by his apprentice what should poor doomed robots do, the old warlock explains:
Как мы законы соблюдаем - так и роботы пускай!
The robots should observe the laws the same way we humans observe our human laws!
:D