Пост 3. Невообразимое будущее
После сингулярности сложность задач, доступных человечеству, вырастет до невообразимого уровня. Мы буквально вступаем в мир фантастики! Нейросеть размером со страну (как СССР) запускала простые ракеты. Сеть с Интернет-связями уже клепает многоразовые ракеты (как у Маска). Представьте сложность задач через 10 лет, когда ёмкость сети из мозгов вырастет в сотни раз->

Пост 4. Неизбежность объединения
Объединение неизбежно: общая нейросеть стремится покрыть собой всю планету. Попытки "зарегулировать" Интернет бессмысленны, это попытка "разрубить ребёнка". Единое человечество (в смысле единого информационного пространства и стирания барьеров) достигает такого уровня сознания, что не способно само себя уничтожить. Прогресс будет невообразимо невероятным.

Пост 5. Идеологии не важны
Объективным процессом развития управляют только информационная ёмкость и скорость обмена. С этой высоты неважно, что именно закодировано в культуре. Измы (марксизм, капитализм и т.д.) — это мусор, не имеющий значения. Они не являются приводными ремнями развития, которые лежат в размере и скорости нейросети.

@3draven@mtdn.anyqn.com
Так и должно бы быть по идее. Но, видимо, у сотворившего человека идеи были другими. И потому сначала имеем атом в бомбах, т.н. ИИ в системах наведения ракет... Право сильного, сильнее которого лишь сильного и подлого...

Возможно, у следующей версии человечества так и будет. Если существующая не убьёт планету насмерть в борьбе за власть и прибыли.

@wthinker я тут уже отвечал на подобное. Скорость роста планетарной нейронки с точки зрения инфоемкости и скорости обмена быстрее чем экспоненциальная, можно сказать мы наблюдаем качественный скачек развития прямо сейчас. Думаю, что решая до сих пор успешно и без того не простые задачи, данную задачу так стремительно развивающаяся система решит с легкостью.

@3draven@mtdn.anyqn.com
Как-то решит, наверное. К сожалению, беглый просмотр новостей не внушает того оптимизма, что ты описал. А вот Галич вспоминается:

И ты можешь смеяться,
И можешь шутить,
И друзей предавать гуртом.
А то, что придётся потом платить,
Так это ж, пойми — потом.
©Александр Галич. "Ещё раз о чёрте".

@wthinker несколько лет назад от 3 до 5 когда народ ныл о том что эмигранты всё заполонили бесконечные толерасты и повесточка бла-бла. Я говорил ну потерпите будет откат потому что на данный момент человечество развивается эволюционно пощупали обожглись отползли, причём отползли не на ноль, а в какую-то точку. Сейчас наступил откат. Судя по тому что я каким-то волшебным образом угадал (и сильно не впервые) есть подозрение что мой оптимизм несколько более адекватен чем кажется ;)

@wthinker да, кстати, весь этот тред о том, что эволюционное развитие заканчивается. Этот момент и скрывается в той точке, которую называют технологической сингулярностью. Мы наблюдаем рождение Человечества. Прямо сейчас.

@3draven@mtdn.anyqn.com
Наверное, с разных колоколен виды разные. 😀 С моей виден явный откат к феодализму, цифровому технологическому концлагерю. Постепенное распостранение опыта китайцев с уйгурами на весь мир. Можно даже, наверное, сказать - к техно-нацизму, с чётким разделением на политическо-финансовую т.н. "элиту" в роли "арийцев", и на рабов для всех остальных.

@wthinker да, наверное. Так как скорость развития экспоненциальная, буквально за десяток лет станет видно кто прав. Я, считающий, что государства никуда не денутся, а рост нейронки станет только быстрее или ты. Для той модели, что я описал важна скорость инфообмена и емкость сети и только. Одно это ведет к более гуманному (не "хорошему") миру.

@3draven@mtdn.anyqn.com
А я и не утверждаю, что что государства куда-то денутся или нейронки развиваться не будут. Я вижу, что всё это развивается во благо техно-нацистов, а всем остальным что-то достаётся по остаточному принципу. А гуманизм т.н. "элите" вовсе не присущ.

@wthinker на всякий случай, тред не о нейронных сетях в смысле чатгпт, он о другом. Что до государств, я это написал что бы не казалось, что я думаю, что они исчезнут.

@3draven@mtdn.anyqn.com
А я вовсе и не говорю, что он неакватный. Мне он кажется немного преждевременным. И решения проблемы с эмигрантами я пока не вижу - по новостям, во всяком случае. Всё больше бла-бла-бла. "Бесконечные толерасты" тоже никуда не делись.

@wthinker добавим неадекватности тогда :) Я не удивлюсь если с нами после точки сингулярности (2030-2045 года) вступят в контакт другие цивилизации :) Если пофантазировать. Потому, что пока на планете обитает безмозглая разрозненная амеба, а не Человечество, просто нет смысла в контакте :) Уверен мы не первые проходим этот путь и просто уже изучено поведение таких систем на планетах.

@3draven Только вот при этом есть хамасня, талибан, путин и прочие варвары, которые стремятся утянуть себя и всех окружающих за одно назад в шестнадцатый век…

@menelion а до этого бывало люди друг друга ели, это не имеет ровным счетом никакого значения.

@3draven Я это к чему: не получится ли так, что человечество разделится, одни пойдут в техническую сингулярность, а другие назад на деревья?

@menelion С чего бы вдруг.

@3draven@mtdn.anyqn.com @menelion@dragonscave.space мы не знаем, какое будет человечество через пару поколений.
Уже сейчас люди с "эмоциональным интеллектом" вымирают миллионами. Выживают либо те, кто "дикари" и придерживается традиционных ценностей, либо те, кто продолжает жизнь в детях осознанно отказывая себе в части удовольствий.
Я думаю, выживут вторые и будут использовать ИИ на полную катушку.

@paul @menelion это все просто часть процесса роста информационного объема и скорости обмена, который я описал. Нейронки так и работают.

@3draven@mtdn.anyqn.com @menelion@dragonscave.space
Ты не услышал.
Инструменты в руках человека становятся совершеннее всегда.
Но, сейчас уже сам человек становится "обезьяной с гранатой".
Армагеддон неизбежен.

@paul @menelion нет, это ты не услышал :) Я думаю, что рост сложности нейронной сети из мозгов достаточно быстро (на деле быстрее экспоненты) происходит что бы данная нейронная сеть смогла себе не навредить.

@3draven@mtdn.anyqn.com @menelion@dragonscave.space у неё же нет эмоций. Тут даже люди мне говорят "Ну и что, если бы мама сделала аборт? Я бы не родился и не узнал этого".
Самосохранение нейросети за счет "убийства" человечества бессмысленно.

@paul @menelion что у нее есть, а чего нет я затрудняюсь сказать, сложный это вопрос. Но мы можем точно сказать, что стремление к выживанию привело ее к тому, что она до сих пор есть. Решая все более сложные задачи (за счет более чем экспоненциального роста) я не вижу оснований что бы она не решила и эту в стремлении к выживанию.

@3draven@mtdn.anyqn.com @menelion@dragonscave.space не думаю, что целесообразность будет отклонена настоящим разумом.
🤠

@burbilog Что есть то есть, бывает. Главное емкость растет и мы буквально наблюдаем рождение новой версии с датацентром в сто раз больше.

@3draven емкость уже колом встала, второй демографический переход. рождаемость падает даже в дремучих исламистских странах, пока что рост за счет жуткого гетто в африке и то ненадолго

@burbilog думаю она еще будет расти. Потому, что сейчас где то 1/8 обладает интернетом. При этом нужно понимать, что только тут рост в 8 раз, а еще есть рост доступности информации на локальном языке за счет систем перевода и рост скорости усвоения за счет того, что нейронки учат тебя твоими словами. Так что я думаю рост на пару порядков точно в ближайшие десять лет будет.

@3draven приход в интернет немытых масс привел к подъему ультраправого популизма и теперь во всем мире жопа, а в сша трамп громит закон и науку

что будет, когда в интернет придут миллиарды совсем неграмотных и бесконечно бедных?

какую идеологию нагаллюцинирует такая сетка и сколько миллиардов покрошит?

нам еще афганские талибы душками покажутся

@burbilog мне кажется, что люди десятки тысяч лет были немытыми людоедами и тем не менее свойства этой нейронной сети привели нас сюда. Уверен, что в самой нейронной сети, в ее еще не открытых закономерностях лежит накопление информации. Так что немытые очень быстро станут мытыми, а не наоборот.

@3draven десятки тысяч лет работал один и тот же механизм -- менее эффективный социум проигрывал более эффективному. так, рабство, будуч крайне неэффективным, уступило феодальному хаосу.

проблема в том, что когда в общую нейросеть будут сведены люди со всей планеты, конкурировать с другой планетой уже не выйдет, а ценой ошибки станет фейл всей цивилизации, в отличии фейла целого племени или даже целой империи

и когда эта мегасеть нагаллюцинирует себе какое-нибудь говно, она может этим говном себя беспрепятственно убить

@burbilog мне кажется, что "фейлов" никогда не было. Было смешение элементов в том или ином виде, мы все потомки примерно тысячи человек (был такой момент в истории вида) и то, что из группы исчезала часть вовсе ничего на мой взгляд не значит, нейронная сеть все это время просто непрерывно росла из частей, это просто части мнят себя чем то отдельным, но это уже имеет еще меньше оснований чем раньше.

@3draven ну вот классический кейс маори vs мориори -- мориори многие сотни лет жили на острове и выработали идеологию мирного сосуществования, к ним приплыли маори и вырезали их, в основном сожрав

это яркий пример того, как один из социумов полностью зафейлился и был реально съеден

плотных, существенных связей между маори и, скажем, европой, не было и мы только сильно постфактум уже в информационную эпоху об этом широко узнали, так что информационная ценность того события для человечества по большому счету мизерная

но тогда это были изолированные социумы, РАЗНЫЕ. и были другие социумы, которым маори были на один укус, просто они были далеко

а когда все объединится в один социум, во главе которого встанет безумный новый трамп, который поведет всепланетную борьбу с лекарствами и грамотностью, зафейлится может вся планета.

@burbilog я ничего не говорил об "одном социуме", наверное я вовсе зря упомянул государства это вводит в заблуждение. В данной модели важен только информационный обмен, между племенами он почти нулевой вот и вся причина. У них средств обеспечить терабайт в секунду просто ноль. Государства никуда не денутся, а термины "социумов" я употребил лишь в смысле единой информационной среды, мой косяк.

@3draven мы возвращаемся к моему изначальному тезису -- человечество раньше решало проблемы путем конкуренции. плохие идеи распростанялись в каком-либо племени, стране и т.п. и она тем самым рано или поздно проигрывала конкуренцию

альтернативы этому механизму, если будет всепланетная тотальная интеркоммуникация между немытыми массами, НЕТ

ну нет.

может оно и появится, но это абсолютно не гарантированно

а если альтернативы нет, то приходит всеобщей анти-образовательной идеологии имеет все шансы реально похоронить цивилизацию, отбросив ее век эдак в 16-17 (слишком много железа уже выкопано и на поверхности в доступности, поэтому ниже упасть сложно)

@burbilog как я уже это написал, но напишу другими словами. Конкуренция в рамках примитивной системы это набить морду, в рамках более совершенной она более гуманна. Никуда ей деваться не нужно. Система совершенствуется сейчас минимум с экспоненциальной скоростью как и методы конкуренции внутри нее. Двести лет назад было немыслимо не применять супероружие, тебя бы свои в толчке утопили за такое. Сейчас все так сложилось, что как то вот страны имея его в многих, не в одной, войнах его не применяют

@burbilog ну и не стоит упрощать поведение такой сложной и уже, и без того довольно совершенной системы до глюков llm из трех с половиной нейронов. Это не одно и то же, хоть и удобный способ думать об этом.

@burbilog да и еще один момент, я не думаю, что у нейронки такого масштаба может быть "вождь, который встанет во главе". Это просто другая модель понимания мира, а вожди это к "измам", который я считаю мусором.