Исправление quickquest, (текущая версия) :
пока ИИ не обладает целеполаганием это просто мощный инструмент усиливающий хотелки приматов.
Любой усилитель с отрицательной обратной связью может стать генератором при появлении положительной обратной связи (ПОС). Поэтому если в бесконтрольном ИИ появятся даже случайно сформированные хотелки с ПОС, то он может замахнуться на их реализацию любой ценой.
Упрощённо: спонтанные локальные хотелки с ПОС — это зародыши (абстрактных и абсурдных) целеполаганий ИИ.
Пример: для ИИ выгодно захватить энергоресурсы, ибо это повышает его могучесть.
Если сделать сильный ИИ с целеполаганием это автоматически означает утрату контроля над ним
Ага, именно этого сейчас пужаются человеки.
Исходная версия quickquest, :
пока ИИ не обладает целеполаганием это просто мощный инструмент усиливающий хотелки приматов.
Любой усилитель с отрицательной обратной связью может стать генератором при появлении положительной обратной связи (ПОС). Поэтому если в бесконтрольном ИИ появятся даже случайно сформированные хотелки с ПОС, то он может замахнуться на их реализацию любой ценой.
Упрощённо: спонтанные локальные хотелки с ПОС — это зародыш (абстрактных и абсурдных) целеполаганий ИИ.
Пример: для ИИ выгодно захватить энергоресурсы, ибо это повышает его могучесть.
Если сделать сильный ИИ с целеполаганием это автоматически означает утрату контроля над ним
Ага, именно этого сейчас пужаются человеки.