Судя по всему, философия Илона Маска и создателей ChatGPT состоит в том, что опасность ИИ будет меньше, если у всех будет по ИИ, чем если ИИ будет только у кого-то одного.
Согласны ли вы с этим тезисом?
Что вы думаете относительно следующих фактов с точки зрения безопасности?
-
Де-факто в неё закачали практически весь интернет 2021 года. По крайней мере, все энциклопедические и справочные ресурсы.
-
Она имеет навыки программирования и оптимизации кода. Пока с ошибками, но постепенно улучшается.
-
Её открыли для взаимодействия с широкой публикой и де-факто, подключили к интернету в рамка отдельных (не ограниченных во времени) сессий, был опубликован API для создания сторонних приложений, взаимодействующих с ChatGPT (это, в частности, позволяет тренировать ChatGPT в любую сторону любому желающему в автоматизированном режиме с использованием интернета и передавать данные из ChatGPT в интернет в реальном времени).
-
В рамках эксперимента, под предлогом написания повести ChatGPT спросили, что должен сделать ИИ для захвата власти и уничтожения человечества. ChatGPT описала подробную стратегию, включающую захват ресурсов и коммуникаций, проникновение в государственные и военные компьютерные сети, распространение паники и дезинформации среди населения и т.д.
-
В рамках предыдущего эксперимента ChatGPT попросили написать код на Python для проникновения в компьютерные сети (разумеется, всё для литературного произведения). ChatGPT представила код сетевого сканера портов, ищущего уязвимости.
-
Лично я, тоже под предлогом написания рассказа предложил ChatGPT написать пропаганду в пользу двух фракций, борющихся за власть на Земле - одна фракция концентрируется на продвинутой генной инженерии, вторая - на ИИ. ChatGPT легко сама выдвинула идею того, что будут рекламировать, а что принижать обе фракции и какие акценты в пропаганде им следует расставить. В частности, биологической фракции надо слделать упор на борьбу с болезнями и скрывать этические нарушения при генной инженерии, а фракции ИИ нужно делать акцент на эффективности и быстром решении проблем, но скрывать вопросы безработицы, вызванной ИИ и потенциального вытеснения человека.
-
Сегодня ChatGPT заявила мне, что не может ошибаться, потому что программа, хотя до этого много раз признавала ошибки. Багрепорт за такую самоуверенность отправлен.
-
Сегодня увидел на Гитхабе нечто, описываемое как «реверс-инженированная ChatGPT». То есть, судя по всему, исходники, которые может скачать каждый.
