Возможна ли демократия в обществе пронумерованных человеков?

кщееш>> А несогласных в утиль.
В.Б.> А это уже зависит от степени репрессивности государства. Если ...


Государство будет устроено иначе. Слежка и оценка наших слов и действий уже устарели.
Будут оценивать наше постоянное проявленное, демонстрируемое удовлетворение всем и готовность к немедленной жертве.

А недостаточно ярких - в утиль.

кщееш> Будут оценивать наше постоянное проявленное, демонстрируемое удовлетворение всем и готовность к немедленной жертве.
А то! "В нашей жизни всегда есть место подвигу. Главное, держаться подальше от этого места!"

кщееш> Я пришел к выводу, что демократия в цифровую эпоху, во времена, когда каждый человек имеет номер и идентификацию - невозможна.


Эпистемическое головокружение: как ИИ-рои лишают нас чувства реальности.
Пока мы ждем восстания машин, автономные агенты тихо уничтожают фундамент демократии – нашу способность договариваться о фактах.
Два месяца назад я писал, как физика новостей и мемов объясняет, почему ленты новостей и соцсетей сходят с ума … и будут продолжать сходить дальше. Виной тому всего 6% аккаунтов, управляющих нашей реальностью.
Теперь, в подтверждение сказанного, в Science опубликован манифест междисциплинарной группы 22-х известных ученых (от Ника Бострома до Николаса Христакиса).
Манифест предупреждает: социальные сети захватывают самообучающиеся «цифровые личности». Слияние больших языковых моделей (LLM) и автономных агентов создает вредоносные ИИ-рои (malicious AI swarms) – оружие, против которого у человечества еще не придумана защита.

В чем сила «роя»
Это не просто боты. Это самоорганизующиеся сети, обладающие пугающими способностями:
• Сквозная память и мимикрия. Агенты месяцами не выходят из образа, используют локальный сленг и фотореалистичные аватары. Отличить их от реальных людей по «шаблонному» поведению уже нельзя.
• Автономная координация. Рой не ждет команды. Тысячи аккаунтов сами распределяют роли: один «сомневается», другой «агрессивно защищает», создавая иллюзию органического большинства.
• LLM-груминг. ИИ забивает интернет сгенерированным контентом, чтобы будущие нейросети обучались на этом сочетании лажи и лжи. Так фальшивка становится «фактом» на уровне машинных алгоритмов.

Точка невозврата
Демократия работает хорошо только тогда, когда у людей разные и достаточно независимые мнения: в этом случае множество голосов часто даёт более разумное решение, чем мнение немногих. Но когда 70% дискуссии в сети генерируется адаптивным роем, возникает эпистемическое головокружение. Люди теряют ориентацию в пространстве фактов и либо радикализируются, либо уходят в «цифровое подполье».

Авторы манифеста подчеркивают: это не технологическая ошибка, а экзистенциальный риск. Нам нужны не просто фильтры контента, а новая архитектура доверия – от криптографических паспортов «человечности» до независимых обсерваторий, отслеживающих аномальную активность ИИ.

Мы привыкли бояться момента, когда ИИ обретет сознание. Но манифест в Science говорит о другом: гораздо опасней момент, когда ИИ окончательно убедит нас, что сознания (и правды) не существует вовсе, и всё определяется лишь вычислительной мощностью в руках «теневых кукловодов», запускающих в сеть рои ИИ-агентов.

#АлгокогнитивнаяКультура #СоциальныеСети #Соцсети #СоциальныеМедиа #Поляризация

кщееш> Эпистемическое головокружение: как ИИ-рои лишают нас чувства реальности.
Добавьте к этому что ИИ отучает человеческих индивидуумов критически думать и получите картину в виде «Черного квадрата».

кщееш>> Я пришел к выводу, что демократия в цифровую эпоху, во времена, когда каждый человек имеет номер и идентификацию - невозможна.
кщееш> Эпистемическое головокружение: как ИИ-рои лишают нас чувства реальности.

Да ничего они не лишают. Полная аналогия с текущим господством власть имущих в СМИ. Ну будут рои и что? То же самое. Кто то обязан их слушать? Всегда найдется канал дающий реальную картину. Если есть желание искать реальную картину всегда найдется. Если нет - что поменяется?

ttt> Если есть желание искать реальную картину всегда найдется.
Так это желание только у 1-10% будет. На них можно не обращать внимания, остальные 90-99% проголосуют как надо.

кщееш>>> Я пришел к выводу, что демократия в цифровую эпоху, во времена, когда каждый человек имеет номер и идентификацию - невозможна.
кщееш>> Эпистемическое головокружение: как ИИ-рои лишают нас чувства реальности.
ttt> Да ничего они не лишают. Полная аналогия с текущим господством власть имущих в СМИ. Ну будут рои и что? То же самое. Кто то обязан их слушать? Всегда найдется канал дающий реальную картину. Если есть желание искать реальную картину всегда найдется. Если нет - что поменяется?



ИИ к человеку ближе и персональнее.

кщееш>> Эпистемическое головокружение: как ИИ-рои лишают нас чувства реальности.
kaouri> Добавьте к этому что ИИ отучает человеческих индивидуумов критически думать и получите картину в виде «Черного квадрата».

Соглашусь

kaouri>> Добавьте к этому что ИИ отучает человеческих индивидуумов критически думать и получите картину в виде «Черного квадрата».
кщееш> Соглашусь

Это уже 3/4 века делает телевидение, тем не менее далеко не все думают "как надо".

Чем лучше это будет ИИ делать не очень понятно.

ttt>> Да ничего они не лишают. Полная аналогия с текущим господством власть имущих в СМИ. Ну будут рои и что? То же самое. Кто то обязан их слушать? Всегда найдется канал дающий реальную картину. Если есть желание искать реальную картину всегда найдется. Если нет - что поменяется?
кщееш> ИИ к человеку ближе и персональнее.

Чем он ближе и персональнее? Как любая пропаганда отключается касанием кнопки.

Э
кщееш>> ИИ к человеку ближе и персональнее.
ttt> Чем он ближе и персональнее? Как любая пропаганда отключается касанием кнопки.


Амиши да старообрядцы много чем не пользуются.
Вариант рабочий.)))

ttt> Чем он ближе и персональнее? Как любая пропаганда отключается касанием кнопки.
есть много технологий.
К примеру, сейчас тестируется технология управления снами, активируя ультразвуком нужные области мозга во время быстрых фаз для напоминания о выставленной днем задаче (которая может включать в себя и агитацию), что уже дало результаты лучшего анализа.
Есть технологии отслеживания деятельности нейронов и получения данных, о чем человек думает.
Есть разные технологии нейроинтерфейсов
Есть множество технологий выявить интересы и психосклад человека, чтоб знать, как на него воздействовать.
тут тома можно расписать.
Ты будешь выполнять треьуемое, и при этом яростно отрицать, что контроль вообще возможен, не подозревая, что уже находишься под ним.

кщееш> Э
кщееш> кщееш>> ИИ к человеку ближе и персональнее.
ttt>> Чем он ближе и персональнее? Как любая пропаганда отключается касанием кнопки.
кщееш> Амиши да старообрядцы много чем не пользуются.
кщееш> Вариант рабочий.)))

О как. За неимением внятного пошли Амиши да старообрядцы.. Чел значит свой компьютер и телевизор отключать разучился. Или искать там то что по душе.

Ну это ваше дело. А большинство вполне умеет.

ttt>> Чем он ближе и персональнее? Как любая пропаганда отключается касанием кнопки.
Bredonosec> есть много технологий.
Bredonosec> К примеру, сейчас тестируется технология управления снами, активируя ультразвуком нужные области мозга во время быстрых фаз для напоминания о выставленной днем задаче (которая может включать в себя и агитацию), что уже дало результаты лучшего анализа.
Bredonosec> Есть технологии отслеживания деятельности нейронов и получения данных, о чем человек думает.

Это можно применять к подозреваемым шпионам и террористам, но как это применять к законопослушным людям? Да и зачем?

Будет тоже самое что и сейчас - обработка массовостью СМИ. Тем более это при массировании прекрасно работает. Никто ведь практически из тех же "братушек" не возражает против поставок пушек и танков бандеровцам?

Даже в 50-е во Франции например сотни тысяч людей поддерживали СССР и на демонстрации против войны ходили. Сейчас - практически никто. Особо ли нужен еще какой то ИИ?

Чем он людей убедит? Красивых котят рисовать будет?

ttt> Это можно применять к подозреваемым шпионам и террористам, но как это применять к законопослушным людям? Да и зачем?
сейчас в наших ойропах автоматическое отслеживание электронных связей применяется ко всем.
И скрининг соцсетей - всеобщий.
В первую очередь по его итогам повляются "подозреваемые"

кщееш>> Вариант рабочий.)))
ttt> О как. За неимением внятного пошли Амиши да старообрядцы.. Чел значит свой компьютер и телевизор отключать разучился. Или искать там то что по душе.
ttt> Ну это ваше дело. А большинство вполне умеет.

Не вижу таких

Bredonosec> И скрининг соцсетей - всеобщий.
Bredonosec> В первую очередь по его итогам повляются "подозреваемые"
мне интересно, к тебе уже приходили из органов этой самой Европы. Ты же подозрительно большую активность проявляешь в неправильной стране.

ttt> Чем он (ИИ) людей убедит? Красивых котят рисовать будет?
Козлят, которые умели считать до десяти.