Исправление
vertexua,
(текущая версия)
:
Ну сложность контроллирующего ИИ, который будет блокировать нарушение законов должна быть почти эквивалентна изначальной сети, так как нужно полностью понимать контекст.
Например он должен глубоко понимать косвенный вред. Допустим робот решит написать и опубликовать книжку. Вроде не вредно. Но это очередной Mein Kampf, приводя очень умелыми манипуляциями аргументы, который убедят большое количество людей в необходимости геноцида.
Чтобы глубоко понимать нужно адаптироваться, учиться. Вот это может привести к уходу по другую сторону этики. Получается нужно постоянно воспитывать супермента, внедрять его в головы роботов, а потом на курсы повышения квалификации каждый раз, кого его обхитрят.
Исправление
vertexua,
:
Ну сложность контроллирующего ИИ, который будет блокировать нарушение законов должна быть почти эквивалентна изначальной сети, так как нужно полностью понимать контекст.
Например он должен глубоко понимать косвенный вред. Допустим робот решит написать и опубликовать книжку. Вроде не вредно. Но это очередной Mein Kampf, приводя очень умелыми манипуляциями аргументы, который убедят большое количество людей в необходимости геноцида.
Исправление
vertexua,
:
Ну сложность контроллирующего ИИ, который будет блокировать нарушение законов должна быть почти эквивалентна изначальной сети, так как нужно полностью понимать контекст.
Например она должна глубоко понимать косвенный вред. Допустим робот решит написать и опубликовать книжку. Вроде не вредно. Но это очередной Mein Kampf, приводя очень умелыми манипуляциями аргументы, который убедят большое количество людей в необходимости геноцида.
Исходная версия
vertexua,
:
Ну сложность контроллирующего ИИ, который будет блокировать нарушение законов должна быть почти эквивалентна изначальной сети, так как нужно полностью понимать контекст.
Например она должна глубоко понимать косвенный вред. Допустим робот решит написать и опубликовать очередной Mein Kampf, приводя очень умелыми манипуляциями аргументы, который убедят большое количество людей в необходимости геноцида.