Меня пугает будущее

Прывiтанне, сябры! Обсудим нейросети и контент?

На днях я провёл Антидоклад про Нейросети на Суровом Питерском SMM. Суть простая: есть аудитория, получилось 100+ человек, есть я и пара микрофонов в зале. Мой спич минут на 10 и дальше общение с аудиторией. Общение получилось горячим, неравнодушных не было.

Контент про нейросети и от нейросетей, лично меня, утомил. В какой-то момент его было слишком много, а сейчас очередная статья «сравниваем возможности Midjourney и DALLE» просто пролистывается. Но это исключительно моё ощущение и кому-то нравится. Поговорим о другом.

Коротко изложу, что меня волнует прямо сейчас:

1. Все мы останемся без работы из-за нейросетей.
   
2. Инфляция контента, проблемы борьбы со спамом.
   
3. Вбросы, фейки и обесценивание доверия к любому формату информации.

Нейросети нас заменят

Год назад, в момент начала БУМА нейросетей мне казалось, что через 2-3 года, все мы (вы и я) останемся без работы. Если раньше была уверенность, что массовая безработица первой придёт в гости к условным водителям такси, разумеется из-за появления беспилотных автомобилей, то Midjourney 3, а потом 4, 5… Показала, что творческая деятельность заменяется даже проще, чем ручная.

Оверхайп прошёл, технологию попробовали все, кто хотел, и моё ощущение изменилось — не заменят. Точнее без работы может остаться тот, кто не сильно в отрасли и был нужен. Без обид, говорю максимально прямо и откровенно, но если ChatGPT пишет тексты лучше вас, проблема именно в вас.

Само собой, будут новые версии. Нейронки будут улучшаться, но до полноценного и реального ИИ — творцы в условной безопасности.

---

Объясню свою мысль. Представьте, что вам предлагают прочитать 2 статьи по интересующей вас теме, одна из которых «сгенерирована нейросетью», вторая написана человеком. Какую из них вы выберите? Я провёл опрос в зале полным маркетологов, предпринимателей. Подавляющее большинство (процентов 95%) выбрали человеческий текст.

Складывается ощущение, что в нейросетевом контенте нет души. Как минимум, нет личной экспертизы и опыта. Сделать короткую выжимку текста — это да, легко и отлично. Перевести видео с одного языка на другой — вообще шикарно. Но сделать с нуля, это уже другое.

Если вы со мной не согласны, стали бы вы читать статью с такой же темой, гарантировано зная, что я её сгенерировал? Вряд ли.

Личный опыт не заменить в контенте. А хороший контент, реально ценный контент в интернете, он как раз про личный опыт в разных проявлениях. Крутой стэндап, экспертная статья, блог про путешествия — всё это пережитый опыт. А не агрегация опыта из интернета.

Само собой, и до появления нейросеток, такого мусора хватало. Их пишут бедные несчастные копирайтеры с оплатой за знаки, чтобы сайты зарабатывали на рекламе. Но через сколько миллисекунд мы покидаем такие сайты, понимая, что он выбился в топы поисковой выдачи, только благодаря манипуляциям с поисковой оптимизацией?

Мне приводили примеры, где копирайтеров заменили ChatGPT. Причём в каких нишах: медицина, юридические услуги. Волосы на голове встают дыбом, что в интернете появляется контент по сложным темам написанный нейросетью. Их проверяют эксперты, по крайней мере, меня в этом заверили. Но нейросети могут врать и могут ошибаться. А это важные сферы деятельности.

Так вот, главная проблема клиентов, которые заменили копирайтеров генеративными текстами, в самих копирайтерах. Вряд ли они нанимали реальных экспертов. Кроме того, вряд ли там были полноценные SMM-стратегии. И вряд ли там были опытные редакторы, которые умеют доносить смыслы и делать контент полезным. Скорее редакторов не было вообще.

То есть речь всегда идёт о замене низкоквалифицированных специалистов, либо специалистов, которые вообще ничего не знают о своей профессии. И замена контента ради контента, большая часть из которого имеет сомнительную эффективность.

Мне можно так говорить. Я вижу и читаю статьи, которые присылают для публикации мне в блог (классные уникальные авторские материалы я без проблем готов публиковать со всеми ссылками, пишите если что), я вижу, что публикуют на условном VC. Почти всегда это очень плохо.

Нет денег на классный контент? Возможно он вам и не нужен. Хэштег #срывпокровов.

Инфляция контента

Думаю Толстой в шоке там наблюдает за происходящим в интернете и тем, что читают и пишут люди. На пару с Пушкиным. Но речь не о них.

Контента в сети уже слишком много и становится ещё больше. Выделяться, привлекать внимание, всё это сложно. А теперь у нас появился инструмент, с помощью которого можно создать буквально бесконечное количество информации.

Я уже вижу кейсы, где сайты собираются на коленке, генерируются сотни и тысячи статей, и всё это приносит деньги с рекламы. Поисковики ничего не могут с этим сделать. По крайней мере пока. Алгоритмы в соцсетях вряд ли смогут тоже.

Все эти дибильные посты «нейросеть показала, как бы выглядели герои Звёздных войн в СССР», бррр. Но людям пока нравится.

Людям нравится, так в чём проблема, спросите у меня вы?

Вернёмся в прошлое. Во времена стремительного развития пабликов ВКонтакте. Был момент, когда админы раскусили алгоритм. Тогда были паблики, которые постили посты буквально раз в несколько минут. ВК оперативно внедрил ограничения на максимальное число публикаций в день, 200, если не ошибаюсь.

ОГРАНИЧЕНИЕ В 200 ПОСТОВ В ДЕНЬ! 200. ПОСТОВ.

Всегда же можно отписаться, правда? Но люди, почему-то, не отписывались. А продолжали это дело смотреть. К чему это по итогу привело?

Моя гипотеза, одна из ключевых причин падения интереса к ВК и взлёту других платформ — неинтересная лента. Алгоритма не было, когда он начал появляться, то был значительно хуже того, что предлагали конкуренты. То есть я мог увидеть один и тот же пост 3-4 раза подряд. Строить интересную ленту было действительно сложно. В других соцсетях был уникальный авторский контент. Выбор был очевиден.

Переносимся в 2023 год. Нейросеть может генерировать мемы. Сотни. Картинки. Тексты. Тысячами. Что произойдёт с вниманием среднестатистического пользователя? Ответ понятен.

Другой пример. Цукерберг и его проект с чат-ботами построенными на личностях селеб, с которыми можно пообщаться. Вот тут писал про них.

Зачем кому-то тратить хоть секунду своей жизни, чтобы пообщаться с нейросетью, которая пытается выдать себя за кого-то другого? Алгоритм не даёт мне новой информации, просто генерирует рандомные фразы в ответ на мои.

С таким же успехом можно общаться со спам-ботами в комментариях. По себе вижу, что как только в комментариях повышается процент спамеров, которые просто генерят ответы на пост автора, я перестаю читать комментарии в таких каналах. Там нет мнения.

Мнение может быть только у человека.

Доверие и фейки

Было время, когда можно было верить текстам. Ну, хоть как-то. Потом «не сфоткано — не было». Сейчас «не снято на видео — не было», но даже тут уже появляются вопросики. Ещё пара лет и любой дурак сможет генерировать вообще что угодно.

Да, пока нейросети как-то справляются с фильтрацией жести, 18+. Возможно скоро под запрет попадёт генерация изображений известных людей. Ведь если год назад интернет поверил в эти картинки…

Проблема информации в интернете всегда в том, что опровергнуть любой вброс в разы сложнее, и любое опровержение увидит в разы меньше людей, чем сам вброс. Плюс это сеет идею «не всё так однозначно».

А если нейросети сделают плохие люди? Научат генерить ужасные картинки на ужасных фотографиях. Хоть с 10 ракурсов. И что тогда? Это реальное оружие в реальной информационной войне.

Параллельно с этим впечатляют новые возможности Photoshop по редактированию изображений. Впечатляют и пугают. Берём фотографию любого человека. Добавляем туда что угодно, порочащее репутацию, а дальше доказывай, где исходники и оригиналы, а где всё хорошо. И проблема в том, что теперь это может сделать вообще кто угодно.

Чем мы можем ответить на эти вызовы?

Ничем. Я не из тех популистов, кто призывает ограничить развитие нейросетей, это бесполезно и не особо продуктивно. Глобального запрета быть не может, самоблокировка развития в какой-то стране просто откинет её одну на радость остальному рынку. И рынок серых приватных решений это никак не остановит.

Нейросети реально ускоряют работу, могут брать на себя монотонные и скучные задачи. Плюс могут служить прекрасным «трамплином» от которого легче генерировать свои идеи. Вопросов нет.

Но что делать с доверием к информации? Есть ощущение, что официальные белые нейросети будут обязаны ставить неудаляемую маркировку, что этот контент был сгенерирован. Возможно на блокчейне. Который будет выделять контент в сети среди человеческого. Я бы хотел знать, эта фотка сделана человеком или просто придумана.

Но в остальном, сделать вряд ли что-то получится. Спам, вбросы, всё это будет плодиться в геометрической последовательности.

Остаётся только приготовиться к этому новому миру. Будущее за закрытыми сообществами, многоразовой проверкой с перепроверками проверок.

Плюс видится путь, в котором вырастает спрос на лидеров мнений, на которых можно делегировать свою собственную задачу по проверке фактов. Пусть они профессионально этим занимаются, а мы просто почитаем.

Сложно не вспомнить фантастов и их книги на тему тотального запрета развития ИИ после войн человечества с машинами. Или сюжет Дюны, в которой нет комьютеров и на их развитии наложен строжайший запрет. Или Warhammer 40 000, где технологии стали фактически культом.

Такие мысли. Впереди смутные времена.