Чёта я как-то оптимизма не разделяю По моим постам и подкастам, связанным хоть к…

Чёта я как-то оптимизма не разделяю
По моим постам и подкастам, связанным хоть как-то с темой нейросетей, думаю заметно, что я вообще не «нейро-оптимист».
Меня эта тема пугает. Не из-за гипотетической «замены меня машиной», хоть и это тоже вопрос.
Меня пугает будущее интернета. Верификации информации, доверия к информации.
Параллельно с этим есть огромное количество техно-энтузиастов, которые такие: ВАААУ, мы сделали технологию, которая в прямом эфире может менять лицо на zoom-созвоне, круто же? Смотрите как мы можем!
А нахрена это кому-то надо, кроме как для мошенников?
Генерация видео, которая ещё год назад казалась «ну когда-нибудь» — уже здесь.
Этот ролик я сделал на основе 30-секундного балобольства, которое просто записал вебкамерой. тут даже фон идеально мой скопирован. Движение рук, мимика.
Только говорю это не я, а алгоритм воспроизводит написанный текст. Да, голос чутка подводит, но если захотеть, можно сделать сильно лучше.
Защита? «Запиши видео с паролем». Смешно.
То есть завтра такой аватар может записать аудио или видео родителям и сказать какие-то плохие вещи. Или какой-нибудь умнит сделает «скринкаст зума», где кто-то очень похожий на известного человека предлагает ужасные вещи ребёнку.
Ходи потом, доказывай, что это не ты и вообще это нейросеть. Когда тебя подняли на вилы, оправдываться уже не сильно удобно, а интернет нынче быстро решает, кто прав, а кто нет. Апелляцию подать некуда.
Параллельно с этим поисковая выдача Гугла по картинкам забивается нейро-контентом. Без отметок, что это нейросети.
Я уверен (надеюсь), что о таких штуках переживаю не только я, но и куча умных людей, у которых есть возможность влиять на интернет и законодательство.
С другой стороны, а что вообще с этим можно сделать? Какие могут быть способы защиты?
Зато от слитых «созвонов с пранкерами» можно будет оправдываться по классическому способу «это всё нейросеть, это не я, это фейки».
Пока я могу придумать только одну вещь для безопасности семьи — придумать кодовое слово. Которое нигде и никому публично никогда не говорить.
Как код-пароль, проверочный вопрос в банке.
— Меня сбила машина, срочно нужны деньги.
— Хорошо, какое код-слово?
Ну чисто так можно будет проверять, что перед тобой твой человек. А не нейросеть.