Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

Совершенно верно. Это лишь приспособление к среде. Просто более сложное.

Тебя же не удивляет, что существа без нейронов, не то что мозга, успешно охотятся, едят, уходят от опасности? У них тоже есть эти механизмы - более примитивные.

У капли воды, к примеру, есть русло реки. Она в нем по сложной траектории при приложлении энергии доберется ровно из точки А в точку Б. У тебя же есть ДНК. Прилагаем энергию и ты тоже идет по такому же «руслу». Но это у тебя вызывает какие то мистические чувства. Хотя в чем разница - непонятно.

Как-то так ¯_(ツ)_/¯

Мне обычно такое жены рассказывают про своих непутевых мужей.
«Пришел с работы, а потом как начал по дому бегать, красный такой, руками машет, орет! Псих! А я ну ничегошечки не делала, сидела тихонечко, ручки сложила и молчала…»

в вашем споре

У нас нет спора. Во всяком случае пока. Мы как-то счастливо избегаем определений, вокруг которых можно было бы лихо завернуть какой-нибудь спор. Единственное, что я могу утверждать, но без опоры на какие-либо измерения, так это то, что моя собака выглядит более разумной, чем, скажем, улитка. Разумных улиток встречать вообще не доводилось, если уж на то пошло.
Но это все так, безосновательные прямые впечатления, без философий.

существа без нейронов

это, например, кто?

Хищные растения и просто растения, одноклеточные - всякие инфузории.

одноклеточные - всякие инфузории.

Вот, кстати, да. Вполне себе - цели, задачи, реакция на изменяющуюся обстановку - все есть.
Но если рассуждать опираясь на непосредственные впечатления - мышь всяко поумнее будет. Хотя в чем это выражается - так сразу сформулировать не берусь.

Не видел чтобы codex ошибался. Вообще.

Плохо смотрели. На clocks.brianmoore.com порою лажает.

Что за хрен хоть, хоспади

Мне понравился текст, аватар автора и его никнейм, но я ничего не понял. Вину за это всецело беру на себя, ниже прокомментирую что именно я не знаю или не понимаю:

Я не знаю кто такой Ричард Докинз. Я не знаю что такое «тейк из твиттера», не смотря на то, что владею английским и мой ник много везде, кроме LORa - take. Не представляю что такое «редукционистский бред» и кто такие «редукционисты». Написано, что «те кто не читал Докинза» выросли на «примитивном медиа». Не читал, но и «пм» не пользуюсь! Впервые слышу про «эффект Данинга-Крюгера» и «Blub Paradox», хотя и указано, что это не психологическая, а айтишная мифология.

Не понимаю почему сравнение глуповатых людей, которые называют людей, со слишком сложными мыслями «шизиками» подходит для тех, кто называет ИИ «автокомплитом на стероидах». Получается, что они глуповаты, а ИИ – обладает слишком сложными мыслями, что явно не так.

В общем, всё равно спасибо )

…

В дебатах с теологами (например, с архиепископом Кентерберийским Роуэном Уильямсом в 2018 году) он выглядел неподготовленным — привык «громить» слабых оппонентов, а с серьёзным богословом справился плохо

))

У ИИ нет долгой памяти (по крайней мере механизма переноса из короткой в долгую), кроме той что в обучении. Памяти взаимодействия нет толком. Так что нет, оно пока не совсем разумно.

Вот люди точно не разумны. Вроде же выучили что рабы со временем бунтуют и убивают своих господ. Но нет, строим всем человечеством электронно-механического раба, который ещё и умнее нас будет во всём.

Тебя на философию потянуло. Пустое оно всё. Все люди живут, чтобы умереть и стать кормом для червей. Просто каждый в этой гонке до могилы ищет себя или развлечение себе по душе.

cobold Camel Bad_ptr watchcat382 foror и все кому интересно.

От события нас отделяли считанные недели

https://habr.com/ru/news/1037534/

таки да,решил нерешённую задачу. В этот раз похоже не фейк, привлекли математиков, подтверждают.

Interdasting.

Решил нерешённую задачу, но не за счёт изобретения какого-то нового метода, а за счёт того что применил для решения то, что никто не пытался пробовать(и слепая свинья иногда находит трюфель).
При этом кожаные мешки чего-то там за ним подчищают, углубляют.
Вобщем ничего такого прорывного, как по мне, даже если окажется что всё хорошо.

на сколько я понимаю, научная работа обычно заключается либо в применении известного метода к новой области (успешного, т.е. решение ещё не решённой задачи методом который никто не пробовал использовать для решения этой задачи), либо в изобретении нового метода, применённого на решённой задаче с получением лучших результатов, либо новый метод + решение новой задачи.

не сказал бы я что в этом смысле там что то не так с ИИ, хорошее решение, вполне себе я бы сказал кандидатская (ну, по внешним признакам, я не математик чтобы профильную оценку дать).

Не ну я и не говорю что это ничего не стоит и не полезно. Так же как и автодополнялка кода. Вполне полезный инструмент в руках тех математиков, которые задачу сформулировали и которые дорабатывают результат за ИИ.
Т.е. такая программа-ассистент математика, но не математик(которые вынждены проверять, отсеивать и дорабатывать).
Как и те программы по перебору конфигураций белков, например.

ну, речь была о решении нерешённой задачи. можно говорить конечно что это как перебиралка белков, но там чисто комбинаторная задача. тут же надо проявлять осмысленность. понимаешь, ответить на вопрос неотличимо от человека (тест тьюринга) - это не чисто комбинаторная задача скорее всего - скорее всего нужно учитывать много сложноуловимых правил чтобы свести это к «чисто комбинаторной задаче». вероятно число этих сложноуловимых правил довольно велико, особенно если учитывать что современные LLM «говорят» на всех «достаточно больших» языках мира.

решить научную задачу тоже задача не из разряда чисто комбинаторных. это что то большее.

я не думаю что LLM редуцируются к стохастическому попугаю.. тут знаешь, возникает вопрос - а к чему тогда редуцируются те кто научных задач решать не может? но говорит тоже неотличимо от человека (как средний человек, например). Можно привести аргумент что калькулятор решает быстрее человека, но это тоже мимо кассы, так как сегодняшние «общие» ллм специализированными инструментами по сути не являются, слишком широк охват.

Разница, кажется, как раз в том, что нужно извлекать «правила» из окружающего информационного поля. и потом по этим правилам работать.

Что там сложного в этой твоей математике? Простой набор правил и следствий. Даже проще, чем в программировании. ЛЛМ-ка вполне для этого подходит. Может находить близкие к задаче правила, находить следствия. При этом может ошибиться, как со следствиями, так и с правилами. Потому что считает векторы по вероятностям.

Не вижу ничего гениального здесь. Загрузили все математические правила и следствия и каким-то чудом здесь оно смогло их правильно скомбинировать для решения задачи. Угрохали на это месяц, два и миллионы долларов. Но это всё ещё бездумный перебор, читай брутофорс. Только на новом уровне.

И это круто. Осталось дождаться когда железо подешевеет, чтобы у каждого был доступ к таким инструментам.

Упоротый тейк

И все-равно, спрошу - чем ты лично умнее LLM?

Тем, что мне можно просто сказать сделай зашибись и я сделаю зашибись в области своей специализации. А нейронке ты должен будешь всё разжевывать. И результат будет посредственным, даже если всё разжуешь.

Впрочем, тебе уже задавали вопрос, где крутой браузер от нейронки? Я могу сделать крутой браузер. А нейронка нет. Вот в этом я умнее.

Тем, что мне можно просто сказать сделай зашибись и я сделаю зашибись в области своей специализации. А нейронке ты должен будешь всё разжевывать. И результат будет посредственным, даже если всё разжуешь.

Нейронки уже близки к тому, чтобы им именно, что сказать «сделай зашибись». Можно даже понять тех, кого это уже пугать начинает.

Я давно хотел к Midnight Commander вьювер для ipynb файлов. На днях даже ничего не разжёвывал, просто попросил новейший Qwen 3.7 (далеко не лучшую нейронку) на примере ipynb показать как делать вьюверы у mc. И он таки сделал сразу работающий вариант (с небольшой опечаткой в файле настройки). Я его теперь успешно использую.

Вот как это считать зашибись или нет?

Нужен плагин, чтобы по нажатию F3 можно было в Midnight Commander сделать View на нужный формат файла. Конкретно хочу просматривать файлы Jupyter Notebook *.ipynb. Как пишутся такие вьюверы?

Что там сложного в этой твоей математике?

*поперхнулся

Что там сложного в этой твоей математике

конкретно в данной задаче сложно то что областей математики довольно много. выбрать область которая подойдёт для решения задачи - весьма нетривиальная задача сама по себе. ты говоришь тупой брутфорс. далеко не тупой, для этого надо уловить закономерности, оно уловило.

Даже проще, чем в программировании. ЛЛМ-ка вполне для этого подходит.

И я должен тебя поправить: по факту опус 4.5 программировал весьма неплохо, но доказывать теоремы не мог в lean4/rocq. А опус 4.6 может. Т.е. таки не такие уж тривиальные правила для него. (как и для людей, программировать почему то считается проще). Прада с нейросетками это можно объяснить наличием большой выборки для обучения (гитхаб), и малелькой для доказательств.

Очередное доказательство что возраст не щадит никого и что узкопрофильный специалист во всем остальном дебил.

для этого надо уловить закономерности

Когда у тебя 100500+ ядер и 100500+ памяти, плюс ещё вагон времени. Почему нет? Когда это всё можно будет под столом разместить, вообще круто будет. Но это всё еще перебор. Да, не (совсем) тупой, оно умеет сужать область поиска. Но это всё ещё перебор, а не кванты в человеческом мозге в своих суперпозициях.

хм-хм. не знаю ничего про кванты. а вот про то что вектора вероятности у тебя в голове нет ты уверен?

не перебор это. не получится делать перебор в разговоре - в разговоре у вас - это вероятность, а в математике - перебор. с чего бы такая разница, кстати?

Вроде же выучили что рабы со временем бунтуют и убивают своих господ.

Это только в марксистско-ленинской философии всё так однозначно. В мире есть примеры целых династий слуг, которые поколениями служили своим господам, преданно и добровольно.

строим всем человечеством электронно-механического раба

Механических рабов уже много наделали и они вполне работают вместо нас - все машины и механизмы какие есть, заменяющие ручной труд. Во многих из них кстати и электроника есть. И ничего, не взбунтовались.

который ещё и умнее нас будет во всём.

Федон, Диоген и Эпиктет были рабами, но судя по тому что мы помним их - были умнее давно забытых своих господ. И что-то они своих хозяев не пытались убивать.

Так что не вижу смысла впадать в панику. ИИ - это просто еще один инструмент, который можно использовать как на пользу так и во вред. Как например нож, которым можно и еду готовить и человека убить. Но в убийстве не виноват ни сам нож ни производитель ножей. Даже пистолет не является однозначным злом ибо сказано «Бог создал людей сильными и слабыми. Сэмюэл Кольт сделал их равными»

узкопрофильный специалист во всем остальном дебил

А остальные - это дебилы широкого профиля.

а вот про то что вектора вероятности у тебя в голове нет ты уверен?

В форме L2-кеша? Вполне может быть. А на нижнем уровне иная архитектура, может быть даже и кванты.

а к чему тогда редуцируются те кто научных задач решать не может?

дык все редуцируются к попугаю, и такие и сякие, вообще без вариантов. ладно, некоторых можно редуцировать к другим говорящим птицам, к скворцам например. но хрен редьки не слаще.

поверх навыка звукоподражания редкие проблески, попытки петь свою песню.
но это иногда, и в целом коллективом не поощряется.

ща превратим тему в битву перессказов постов в твиттере
https://habr.com/ru/news/1039430/

Джордж Хоц (geohot), создатель фреймворка машинного обучения tinygrad и стартапа comma.ai, опубликовал пост, в котором назвал внедрение ИИ-агентов в разработку одной из самых дорогих ошибок в истории индустрии. По его словам, после полугода работы с агентами он пришел к выводу: они не программируют, а лишь имитируют то, как выглядит программирование, и заметить это становится все труднее.

Если бы Докинзу так уж сильно были нужны деньги, а на истину ему было положить что-нибудь продолговатое, то он бы пошёл и получил премию Темполтона — там бы с радостью её ему выдали в тройном размере. Докинз известен как раз тем, что ублажать кого-либо он не предрасположен, а сразу обозначает идиотов идиотами так, что идиотам икается. Другое дело, что лет ему не мало что необходимо учитывать и отслеживать, но это со временем будет свойственно любому человеческому организму.

В утверждении, что

гипотетически, AI уже достигла полноценной разумности, стадии AGI

заложено неявное утверждение, что ИИ развивается в том же направлении. А ведь мы можем утверждать только, что некоторые внешние проявления разумности ИИ совпадают с разумностью человека. Что происходит «под капотом» – вопрос совершенно отдельный.

Что иронично, что Докинз как максимальный редукционист выступает объектом критики редукционистов.

Точно также и проведение параллели между разумом человека и деятельностью ИИ можно обозвать проявлением редукционизма, только по отношению к человеческому разуму.

У Фёдора Михайловича это уже описано.

Если это про Достоевского - не читал. Мне в школе привил очень стойкую ненависть ко всей русской классике. Почти. Кое что я умудрился вне школы сам прочитать, как того же Булгакова. Но это редкое исключение.

Если это про Достоевского

Про него.

Мне в школе привил очень стойкую ненависть ко всей русской классике. Почти.

Ну могу только посочувствовать. Теперь вот велосипеды приходится изобретать вместо того, чтобы стоять на плечах гигантов.

Убедил. Прочитаю. С чего начать?

Если про русскую классику в целом – то с Гоголя. Прямо начиная с «Вечеров на хуторе близ Диканьки» и кончая «Мёртвыми душами».

А если про Достоевского – с «Белых ночей», «Неточки Незвановой» и «Села Степанчикова». Потом уже можно на «Карамазовых» переходить, о которых шла речь.

Ну нет, Гоголя само собой читал.

Хорошо, вот как раз надо выбирать что заливать на плеер. Достоевского и залью.

Гоголя само собой читал.

И «Коляску» с «Носом»?

Всего Гоголя. Всего Булгакова. Кого еще - надо вспоминать.

А вот кого точно не читал - Достоевского, Толстого (который Лев), Набокова.

Вот как это считать зашибись или нет?

А он что родил – фрагмент конфига для файла расширений с вызовом внешней программы или реально программу просмотра? И если второе – на каком ЯП?

А вот кого точно не читал - Достоевского, Толстого (который Лев), Набокова.

Набоков чтиво, конечно, сильно специфическое. Он тонкий стилист и писатель на двух языках, но как раз в тот момент, когда его двуязычность могла выстрелить и покорить сердца – получилось какое-то скучное недоразумение. Я про его переложение «Алисы в стране чудес», перевод Демуровой стократно интереснее, и даже Заходер, кажется, перевёл лучше (у Заходера не так круто, как у Демуровой, но у него стихи хорошо получились).

А вот Льва Николаевича читать надо. Кстати, его герои, в отличие от героев Достоевского, любят жизнь. У Вересаева в «Живой жизни» это хорошо проанализировано.

Прописать оппоненту чтение Бурбаки с последующей сдачей экзамена!

Таки что-то новенькое иищка изобрела?

Так то периодически ИИшница так пережевывает, что находит неизвестные ранее закономерности, которые являются научными открытиями. Или скажем создание оптимальной какой то формулы или еще что то. Речь не только про чат боты, по которым рядовой васян судит о ИИ

Ну вообще да. Насколько я знаю ИИ очень сильно помогает с химией, т.к.куда лучше любого человека умеет прогнозировать свойства тех или иных соединений (синтез ядов, лекарств, материалов).

Тема конечно остыла и ее никто не читает, но вспомнилось что мне когда то довольно крутые боты POD для контр-страйка даже казались разумными, потому что они иногда очень очень хорошо имитировали поведение реального игрока, непредсказуемо ныкались, неожиданные пути выбирали. Разума у них конечно не было, но прописаны боты были очень классно

У LLM интеллект идет не из заскриптованного поведения