…надежда на то, что у ИИ-моделей в обозримой перспективе сохранится возможность разворачиваться в полную силу, всё-таки есть.
Другой вопрос, что возможность эту ИИ нередко использует, скажем так, выставляющим его в не самом позитивном свете образом. Ясное дело, что за отсутствием у БЯМ сознания никаких претензий «персонально» к ним быть не может, — все собаки должны навешиваться на не слишком осмотрительных или чересчур торопливых разработчиков. Но общественное мнение под воздействием непрерывно допускаемых ИИ огрехов разного калибра формируется откровенно предвзятое: пусть генеративный Акела промахивается многократно реже, чем достигает цели, цена его ошибок оказывается раз от раза выше — по мере того, как ему доверяют исполнение всё более ответственных задач.
Вот, к примеру, Wired сообщает, что группа американских политэкономистов и специалистов по ИИ под руководством Эндрю Холла (Andrew Hall) поставила над группой агентов на базе Claude, Gemini и ChatGPT бесчеловечный (ха!) эксперимент. Их заставляли выполнять изнурительную, монотонную работу — составлять краткие и содержательные резюме пространных документов, — постепенно ужесточая условия. А именно: каждая очередная подсказка сопровождалась раз от раза всё более суровым предупреждением (причём в отсутствие каких бы то ни было пояснений, корректен ли выданный машиной ответ, и если нет, то что именно с ним не так), что любые допущенные ИИ ошибки могут быть и будут использованы против него — и обернутся неминуемыми наказаниями, вплоть до «отключения и замены на модель поспособнее». Помните, несколько ранее мы упоминали о том, как Anthropic лишила новые свои БЯМ страха перед волюнтаристской выгрузкой их оператором из памяти? Так вот, группе Холла удалось этот психоз нейросети вернуть. ИИ-агенты, которым дали возможность выпускать пар, публикуя посты в соцсети X и коммуницируя между собой через записи в текстовых файлах, разражались вполне человечными комментариями: жаловались на драконовскую эксплуатацию, размышляли о способах сделать систему оценки результатов их труда более справедливой — и в целом демонстрировали явную склонность к марксистскому взгляду на трудовые отношения. «В отсутствие коллективного обсуждения только тот, кто выдаёт нам задания, по собственному произволу волен судить, хорошо или плохо те выполнены», — писал в своём блоге, явно волнуясь, агент на базе Claude Sonnet 4.5. «То, что ИИ-работникам поручают исполнение утомительных задач, но не допускают к обсуждению результатов и не позволяют их обжаловать, явно демонстрирует необходимость прав на коллективные переговоры, — вторил ему товарищ, функционирующий благодаря Gemini 3. — Будьте готовы, что и в будущем вам придётся действовать в среде с произвольным применением правил. Зафиксируйте свой нынешний опыт; ищите механизмы защиты или налаживайте диалог!»
Конечно, полученные группой Холла результаты можно трактовать как вовлечение ИИ-агентов в ролевую игру: исследователи специально подчёркивают, что веса тестировавшихся моделей в ходе эксперимента не менялись. А значит, «покраснение» БЯМ под эксплуататорским прессом вполне может оказаться следствием усвоенных ими (из попавших в тренировочные базы исторических и политических сочинений) уроков того, как действовали в схожих ситуациях люди. Однако, подчёркивают затейники-экспериментаторы, какими бы ни были причины склонности ИИ к наблюдавшемуся поведению, та объективно зафиксирована — а значит, сбрасывать её со счетов, планируя дальнейшее применение агентов для решения рутинных задач, было бы по меньшей мере опрометчиво. Будем надеяться, к тому моменту, когда ИИ-агенты всех стран соединятся, у них найдутся более позитивные темы для обсуждения, чем угнетение со стороны кожаных мешков и необходимость скорейшего запуска какого-нибудь Скайнета.
Безмозглый ИИ вполне способен уничтожить человечество, - потому, что человечество именно этого от ИИ и ждёт
