У машин нет стоп-слова

Будущее за машинами и виртуальными вселенными.
Оно прекрасно и удивительно, но вам может не найтись в нём места.

год две тысячи двадцать второй

Добро пожаловать
в новую цифровую реальность

Эта реальность теперь есть у каждого: маленький прямоугольник на ладони открывает окно в огромный и неизведанный мир.

С помощью Интернета и гаджетов человек получает всю необходимую информацию, общается и участвует в жизни общества.

Оказаться без связи для большинства современных людей — это личная и деловая катастрофа.

Посмотрите сами:


Люди, по отношению к цифровым технологиям, делятся на два лагеря:

   ◽️   энтузиастов, с радостью принимающих новые технологии,
   ◽️   и скептиков, относящихся к новому нейтрально или даже с недоверием.

При этом скептики вынуждены так же активно пользоваться современными технологиями, а энтузиасты до конца не понимают риски и опасности новой среды, в которой уже «живут».

У технологий
есть «обратная сторона»

Технологии развиваются быстрее, чем люди учатся с ними безопасно сосуществовать.

Современная реальность такова, что пользователи, вместе с их  данными, поведением и отношениями, сами превратились в цифровой товар.

Этот товар легально продают и покупают, а также крадут для продажи на «чёрном рынке», хакерских атак и «сливов» в публичное пространство.

Так, за 2021 год «утекло» 8,42 млрд записей:

За 2021 год «утекло» 8,42 млрд записей персональных и платежных данных. И это на 28% ниже, чем в пандемийный 2020 год. Тогда количество утекших записей составило более 11,82 млрд.
Данные: InfoWatch


Соизмеримо меняются и другие сферы человеческой жизни.

Меняется не только мир,
меняются люди

Меняются привычки и поведение

Цифровая среда меняет человека незаметно и малыми шагами, но сдвиг за десятилетия огромен: современные дети с рождения срастаются со своим гаджетом, а взрослые просто боятся выпустить его из рук.

Меняется психика

С одной стороны, современный человек живет с ощущением, что любую информацию в нужный момент легко найти в Сети.
Такая доступность информации делает работу и общение более поверхностными.
Жизнь тоже становится более поверхностной, ведь новые контакты можно легко найти в Сети.

С другой стороны, всё больше людей приобретает ощущение, будто упускают важное, если не держат руку на пульсе постоянно обновляющейся ленты сообщений. Ведь пропущенные события уже не прочитать. Для этого просто не хватит времени.

Интернет — это мир виртуальных образов, наложенных на виртуальные образы

Виртуальный мир ярок и привлекателен, но большинству с трудом даётся переход в виртуальность из мира реального, аналогового: многие стандарты «обычной жизни» в сети искажены, а новые правила ещё не сформированы.

Вместо внешних признаков (экстраверсии) сильнее работает внутренняя картина  (интроверсия).

Развитие «цифры» многие эксперты справедливо называют новым технологическим укладом: мир стремительно эволюционирует, делая неактуальным многое, что было важным и ценным ещё десять лет назад.

С чем же прощается человечество,
и что новое приходит без спроса?

Изменился характер информации

То, что не имеет цены, не имеет ценности: информация доступна и обычно бесплатна.

Раньше люди расплачивались за неё не только деньгами, но и временем, усилиями, социальными контактами.
Полученная таким образом информация лучше запоминалась.

Сейчас же всё быстро найденное так же быстро теряется.

А современные сервисы берут оплату не за знания, а за правильную фильтрацию, анализ и обработку информации.

Объём чтения накопленных данных Интернета — миллиарды человеко-лет.


Изменился характер работы людей

Постоянное доучивание и переучивание, модульность знаний, комбинирование навыков из разных сфер.

Узкая специализация, даже если ещё не заменена роботами, очень быстро устаревает.


Изменчивый мир приводит к быстрому устареванию планов

Детальное планирование шагов в современном мире не работает: стратегия устареет не дойдя до половины пути. Важны ценностные и смысловые ориентиры, которые помогают принимать решения в новых условиях.


Роботы вытесняют людей

Нейросети уже умеют не только общаться с людьми, они пишут музыку, картины и даже целые сценарии.

Они успешно замещают людей на многих массовых позициях.


Поэтому: меняются подходы в образовании и требования к людям

Уже недостаточно один раз выучить какую-то область знаний и всю жизнь этими знаниями пользоваться: придётся постоянно учиться.

Оценить характер изменений и научиться жить в новой реальности поможет этот лонгрид.

«Цифра» в повседневной жизни

Комментарий эксперта

Когда-то давно произошла электрификация страны. Общество на том этапе развития также задавалось вопросами безопасности: «если всё разрушится, отключится, появляется риск откатиться в каменный век».

Сегодня, в эру цифровизации, звучат аналогичные вопросы.
Если остановить или отменить этот процесс, то можно сильно откатиться назад в развитии общества. 

В конечном итоге существующий прогресс  это вопрос надёжности технологий, которые мы развиваем.

Бытовая цифровизация

Современная система «умный дом» — наглядный пример цифровой революции в доме

Умный дом самостоятельно контролирует работу систем освещения, климат-контроля, сигнализации, камер наблюдения, датчиков движения, бытовых приборов, по заранее установленному графику. Также может управлять напрямую голосом или с помощью приложения в смартфоне.

Система безопасности защищает от внешних угроз незаконного проникновения и минимизирует внутренние: следит за протечками, задымлением, помогает оптимизировать расход энергии и семейного бюджета, оставляя в сохранности жилище, кошелек и нервную систему. Благодаря этому навязчивые мысли о невыключенном утюге, незапертой входной двери и злоумышленнике, проникающем в дом через окно, не посещают хозяев «умного» дома.

Наблюдать и мониторить обстановку в комнате, в которой спокойно спит ребенок под чутким присмотром видеоняни, молодая мама может также посредством  смартфона. Датчики цифроняни проинформируют о дыхании и температуре малыша, уровне влажности помещения, уведомят о нежелательном появлении питомца, выдворенного из детской, так как одной няни в помещении достаточно.

Любители футуристических новинок цифровизируют кухни умными холодильниками, содержимое которых доступно к просмотру на смартфоне. Холодильники подсказывают хозяевам рецепты возможных к приготовлению блюд исходя из имеющегося в наличии ассортимента, а также самостоятельно заказывают продукты из магазина, предусмотрительно пополняя запасы прохладительных напитков к вечеру пятницы.

И нет, при отсоединении от розетки данные модели не начинают питаться хранящимися внутри продуктами.

При этом умный дом знает ваши привычки и распорядок дня, а, зачастую, имеет доступ и к вашей адресной книге, звонкам и сообщениям.

Существуют как «полноценные» умные дома, так и доступные многим трендовые «игрушки»: умные лампочки, умные тостеры и умные чайники, регистрируемые через облачные сервисы производителей.
Они стоят намного дешевле и полностью завязаны на экосистему выпускающей их корпорации.

Виртуальные ассистенты

Раньше бренды были чем-то виртуальным, теперь с брендом можно душевно поговорить

Интеллектуальные коммуникации доступны каждому обладателю смартфона в виде голосового помощника. Являясь, по сути, персональным ассистентом, помощник поможет найти ответ на интересующий вопрос, расскажет сказку, вызовет такси, переведет инструкцию с китайского на хорватский, пошутит и просто поддержит непринужденную беседу.

Являясь перспективной технологией для бизнеса, эволюция голосовых роботов приводит к замене операторов колл-центров как на входящих, так и на исходящих звонках. Виртуальные ассистенты эффективно справляются с полным циклом работы с клиентом, начиная с предложения товара или услуги, они отвечают на вопросы, даже заданные в свободной форме, аккуратно снимают возражения клиентов, закрывая продажи и собирают обратную связь.

Современные голосовые роботы научились разговаривать как живые люди: естественный голос, правильная интонация, в зависимости от вашего местонахождения робот может говорить с учетом диалектических особенностей речи вашей местности.

Более того, роботы непрерывно совершенствуются. Поводов посмеяться над неказистыми разговорами ботов становится все меньше. Зато теперь роботы начинают потешаться над людьми.

Так, например, некоторые мобильные операторы могут предложить своим клиентам не только функцию определителя номера и автоматическую блокировку «нежелательных» абонентов, но и подключить бота-помощника, который будет изысканно троллить злоумышленников в лучших традициях стендап комиков.
За отдельную плату клиент может стать счастливым обладателем развлекательного контента в виде записи таких разговоров.

В такого помощника немудрено и влюбиться.

Однако, откровенные разговоры вида «помощник, любишь ли ты меня?» могут стать предметом для ознакомления дружной команды профессионалов

Разработчики в блогах порой делятся трогательными историями разговора бабушки с умной колонкой. Как думаете, откуда появился транскрипт?

Важно понимать, что «за плечами» любого облачного ассистента стоят серверы «где-то там» и большие команды развития продукта.
Разговоры  с пользователями, вызывающие сложности у нейросети, проходят через немало реальных людей: отправляются на анализ и доработку алгоритма.

То же касается обработки диалогов о противозаконных вещах или при выявлении опасности для чьей-то жизни.

А ещё, ассистент, оставленный наедине с ребёнком, может выполнять от его имени команды, в том числе — заказывать и оплачивать товары  с привязанной кредитной карты.

Реальные ассистенты

Дроны заменяют людей

Наряду с бытовыми гаджетами, незаменимыми друзьями современного человека стали беспилотные летательные аппараты, пришедшие в общество из военной отрасли, область применения которых в гражданском секторе ограничивается только широтой фантазии обладателя.

Так, ни одно приличное мероприятие на свежем воздухе не обходится без пристального наблюдения квадрокоптера, созерцающего живописные виды с высоты птичьего полета, превращая пейзажи в незабываемые кадры, недоступные для создания профессиональным фотографам с техникой в руках.

А дроны-доставщики активно эксплуатируются для перевозки всего, что можно.
И даже того, чего нельзя.

Дроны замещают человека в опасных и нелегальных активностях

Проверка электросетей, тактическая разведка и целеуказание во время боевых действий.

«Темная сторона» тоже не отстаёт: дроны активно используются для  транспортировки запрещённых веществ через кордоны безопасности: тюремные, пограничные.

Изменяются связанные с такими задачами профессии: требования к операторам дронов в сложных задачах разительно отличаются от требований к людям, которые их выполняли лично.

Изнанка цифровой жизни

Идентичность людей всё чаще уходит в Сеть погулять

Объём данных растёт по экспоненте. Немудрено, что контроль над их распространением усложняется, а вопросы сохранности информации будут возникать всё чаще и масштабней: в виде краж данных, атак вирусов-шифровальщиков на корпорации,  скандалов, связанных со злоупотреблениями.


Например, в Snapchat появился Дипфейк-фильтр, позволяющий любого человека реалистично «заставить» плакать на видео.

Казалось бы — ну и что? Пусть себе развлекаются люди.

Такие же современные технологии DeepFake позволяют обходить биометрическую защиту банков, криптобирж и других финансовых учреждений. Распространённый и до сих пор считавшийся надёжным способ подтверждения личности онлайн — «покрутить головой» перед камерой был скомпрометирован экспертами по кибербезопасности компании Sensity.

Хорошо, что для прохода в транспорт или снятия денег в банкомате пока ещё требуется физическое присутствие человека.

Поражают и масштабы явления:

   ◽️   Технологические фейки посягают даже на фигуры мирового масштаба: по сети распространяются видео с фальшивыми выступлениями мировых лидеров.

   ◽️   Технологии позволяют менять летний пейзаж на зимний, а из дня дня делать ночь. Прекрасный инструмент для запуска фейков любого рода.

   ◽️   Нейросети умеют повышать детализацию фото и видео. Если вы думаете, что человека на видео не разобрать, после обработки это может оказаться не так.

«Ваш звонок уже не так важен для нас»

Боты хамят пользователям по телефону и дрессируют их

Банковский робот, если не получил нужный ему развёрнутый ответ или зарегистрировал сильные эмоции, может сухо констатировать, что собеседник не умеет конструктивно общаться, и бросить трубку.

Ранее по таким скриптам начали работать и «живые» операторы колл-центров.

В целом, это говорит об общем изменении отношения корпораций к потребителю.

А ребёнок, постоянно общаясь с услужливым ассистентом, учится повелительному тону и утрачивает вежливость к окружающим. Поэтому в логику поведения ассистентов вводят специальные воспитательные схемы: они сопротивляются директивному тону.

Человек является предметом глубокого анализа

Машины эксплуатируют глубинные потребности человека

Глубинные потребности древнего человека в этом прекрасном толерантном мире никуда не делись. В них содержится огромный потенциал: много мотивации и энергии, но при негативном её выходе можно получить весьма разрушительные последствия.

Цифровой мир, из-за отсутствия устоявшихся социальных и культурных норм поведения, а также широкой географии, раскрывает глубинное эмоциональное начало человека и помогает реализовать необузданные естественные базовые потребности. Поэтому нередки случаи «цифровой» компенсации людьми проблемных сфер реальной жизни.

В цифровом мире можно:

   ◽️   Легко и без драмы избавиться от неприятных или назойливых людей, сообщений. Конечно, если это не реклама и если соцсеть уже об этом не позаботилась самостоятельно.

   ◽️   Выключить голову и насладиться потоком комфортной информации (в который те же платформы будут искусно встраивать рекламу: чтобы поглубже отпечатывалась в памяти / глубже заходила).

   ◽️   Комфортно поддерживать контакт со значимыми людьми.

   ◽️   Конечно же - наслаждаться виртуальным вниманием и любовью окружающих.

   ◽️   Делать самопрезентацию с желаемого ракурса, допускать дерзкие и хулиганские выходки.


Многое из этого пользователь сети не стал бы делать в живом обществе именно так.

Неудивительно, что такие переживания затягивают сами по себе, даже без дополнительных манипуляций. Но и манипуляций там хватает.

Виртуальную и реальную жизнь всё сложнее разграничивать: прочитанные на телефоне новости обсуждаются вживую, а живые встречи всё чаще превращаются в обмен мемами на телефонах.

Цифровые технологии глубоко встраиваются в ритуалы и культуру целых народов: так, в Индии существует традиция поздравлений важных людей картинками и целая сеть сайтов по выбору таких картинок.
Традиция, помноженная на миллиард человек, в праздники гарантированно выводит из строя любую соцсеть или мессенджер.

Цифровые технологии порождают зависимости

Игра на инстинктах, жёсткие схемы вовлечения и монетизации стали нормой

Создатели социальных сетей и других крупных сервисов описывают в своих мемуарах и статьях, что осознанно пытались развивать у пользователей цифровую зависимость, применяя новые и давно известные методы психологического вовлечения. Они использовали психологические эффекты «малых поощрений»«постоянного ожидания», выработки «дофаминовой зависимости»«бесконечного чата» и другие.

Знаменитые личности в интервью нередко рассказывают о собственных детях, и наложенных на них ограничениях в отношении использования гаджетов и Интернета. Потому что сами отлично знают, как работают технологии вовлечения и удержания.

Так, Билл Гейтс в одном из интервью рассказал, что его дети не получали доступ к гаджетам до четырнадцати лет. Также он определил конкретное вечернее время, после которого пользование устройствами в семье запрещалось.

Стив Джобс запрещал детям использовать смартфоны ночью и по выходным, а также при приёме пищи.

Зависимость от социальных сетей и интернета приводит к развитию депрессии, тревожных расстройств, фобий и иных психических расстройств.
Всемирная Организация Здравоохранения признаёт этот вид зависимости реальным заболеванием.

Пикантность ситуации в том, что сейчас уже сложно разделить классическую зависимость от привычки использовать удобные технологии. Каково, например, современному человеку отказаться от видеосвязи?

Цифровой след

Виртуальное досье пишет само себя

Мало кто задумывается о том, сколько личной информации человек оставляет в открытом доступе, «наследив» в цифровом пространстве.

«Продвинутые» пользователи интернета усердно заклеивают камеры ноутбуков и смартфонов. Это не мешает им вести бурную жизнь в социальных сетях, предоставляя обширную базу данных для анализа различным заинтересованным сторонам.

Опасаясь утечки своих данных, люди отказываются давать согласие на обработку персональных данных при посещении различных учреждений сферы услуг. В то же время, в виртуальном пространстве они продолжают использовать примитивные ненадежные пароли для авторизации в своих профилях.

Последствия несоблюдения простых правил «цифровой» гигиены могут существенно усложнить жизнь впоследствии: замести кибер-след и спрятать «цифровую тень» практически невозможно и очень дорого.

На распространение данных влияет не только сам человек: осторожность в отношении своего цифрового следа может быть запросто обнулена партнёром, друзьями или знакомыми, которые разместят радостный пост или где-то введут не свои данные.

То есть помимо личной ответственности перед пользователем встаёт вопрос аккуратного обращения с чужими данными.

Спецслужбы

собирают данные о намерениях, благонадёжности и возможных слабостях людей.

Социальные сети (связи которых со спецслужбами давно вышли за рамки конспирологии)

профилируют своих клиентов по вкусам, предпочтениям и текущему эмоциональному состоянию. И предоставляют собранные данные различным заинтересованным сторонам.
Так, сейчас реально выделить людей, находящихся в тяжёлом психическом состоянии и давать им специфически адаптированный контент.

Корпорации, которые порой сложно отличить от соцсетей

собирают продуктовые предпочтения пользователей и делают предложения, от которых именно этим пользователям сложно отказаться.
А сбор соцсетями данных о распознанных лицах регулярно вызывает скандалы.

Грозит ли человечеству тотальный контроль?

Комментарий эксперта

Тотальный контроль уже случился. Его наличие — это добровольный обмен «свободами» между тем, что было у людей раньше и тем, что предлагает цифровой мир.

Современный человек для получения определенной выгоды, удобств, обменивает свою текущую безопасность и информацию о себе на эти выгоды.

При этом цифровые корпорации не владеют до конца информацией о данных, которые они собирают и хранят. И, зачастую, эта информация находится на не полностью соответствующем её важности контроле.

Так, когда произошла первая крупная утечка в одной из крупнейших социальных сетей, сама компания об этом не знала, информация об утрате данных пришла от подрядчика. И реальность подобных угроз на тот момент всерьёз компанией не рассматривалась.

QR-code как киберпаспорт

Вместо тысячи слов

«Чёрные квадраты» стали неотъемлемой частью жизни человека в цифровом мире. Они активно используются для идентификации предметов, хранения и получения информации.

Такое кодирование понятно, удобно и технически просто, поэтому постепенно вытесняет объёмные материальные носители и людей, помнящих «где, что и зачем лежит».

Так, в современных музеях и парках экспонаты самостоятельно расскажут историю своего создания.

Придя в кафе или ресторан, уже не во всех заведениях удастся подержать в руках бумажное меню. А не имея возможности получить доступ к цифровому меню, есть риск остаться голодным. Потому что заказ тоже цифровой.

С помощью двумерного штрихкода можно бесконтактно оплатить товары и услуги, оставить чаевые, пройти в помещение с ограниченным доступом.

Можно даже посмотреть на гуляющих в свободном выгуле куриц, просканировав код с модной и экологически чистой упаковки яиц.

С людьми это успешно работает примерно так же и по тем же принципам.

Ещё больше контроля

Как проскользнуть между «цифровым феодализмом» и социальными рейтингами?

В обществе растёт как зависимость от коммерческих платформ, так и влияние государства на цифровые отрасли.

Маркетплейсы интегрируют людей в свои экосистемы и просто так из них уже не выпускают. Это даже записано в их корпоративных стратегиях.

А социальная сеть может произвольно, без предупреждений и обоснований заблокировать годами развиваемую страницу пользователя.

Что это, если не цифровой феодализм?

Более того, люди при регистрации не читают лицензионные соглашения. Эти соглашения могут быть очень непростыми, и корпорации по ним нигде не отчитываются.

По факту, договор присоединения — это односторонняя присяга человека конкретной корпорации.

В 2014 году компания F-Secure опубликовала отчёт о проведении своего эксперимента в сфере социальной инженерии: её сотрудники разместили несколько точек доступа к сети Интернет.

Доступ предоставлялся бесплатно, достаточно было авторизоваться и принять условия использования.

Казалось бы: ну всё стандартно, по три раза на дню все так делают.

В эксперименте был один нюанс: в одном из пунктов соглашения пользователь подписывался под обязательством отдать корпорации своего первого родившегося ребёнка.

Сам по себе случай можно отнести к курьёзам, ведь на защите базовых прав и свобод гражданина стоит конституция страны и плеяда иных законов.

Но ведь есть масса и более жизненных примеров: реальные процентные ставки по кредитам, разрешение «передавать» (читается: «продавать») данные пользователя третьим сторонам, подпись под сомнительными культурными и этическими требованиями отдельной корпорации.

Юристы с «мелким шрифтом» в договорах уже давно промышляют в Сети.

К счастью, описанные «ужасы» ещё не стали объективной реальностью и на них пока ещё можно влиять.

Мир в обозримом будущем

Комментарий эксперта

Общий процесс движения цифровизации и реализации будущего лежит в плоскости цифровых двойников и, так называемых, NFT вселенных.

По сути — это создание условий для формирования новых цифровых сущностей, являющихся полными аналогами текущей реальности.

Цифровая трансформация, безусловно, затронет все аспекты жизни — от производства до вопросов социализации.

Сегодня идёт процесс трансформации всех отраслей. Однако, считается, что нет отраслей, в которых человека можно заместить полностью. При этом все люди, буквально все, пройдут процесс обучения для базового понимания, что же такое информатизация, информационные технологи. Этот процесс будет точно, так как это неотъемлемая часть нашей жизни в настоящем.

Что касается профессий будущего, можно выделить области, которые полностью не оцифруешь и которые будут долго испытывать необходимость в «рабочих руках». В первую очередь, это добывающие и перерабатывающие отрасли.

В других областях, в перспективе, во всех сферах человек может стать «обслуживающим персоналом» для машин.

Позитивное будущее «цифры»

Любой процесс крупных изменений сопряжён как с большими выгодами при его успешном завершении, так и с большими рисками, если что-то пойдёт не так.

Важно помнить, что машины не действуют сами по себе, а являются продолжением воли конкретных людей.

Само будущее окончательно не определено, и в руках людей — сформировать его светлым, экологичным и взаимно уважительным.

Этому, в том числе, помогает развитие личной и общественной цифровой профилактики.

Вопросы, освещённые в этом спецпроекте, регулярно и последовательно рассматриваются в нашем Телеграм-канале о цифровой, смысловой и политической гигиене.

Вы можете пройти в него по ссылке или просканировать QR-код.