Алгоритмы не заботятся о том, болеете вы или нет. Их единственная цель — ваше внимание.
Большинство из нас проводит время в сети к полудню. По данным Pew Research, 84% взрослых смотрят YouTube, 71% листают ленту Facebook, а 50% «залипают» в Instagram. На этих платформах вас подстерегают видео за видео: рецепты, распаковки покупок и более тёмный контент. Контент, созданный специально для того, чтобы ввести вас в заблуждение.
«Инфлюенсер в сфере здоровья», дающий вам революционные советы в TikTok, может вообще не быть человеком.
Это ИИ-аватар.
Расследование New York Times выяло сотни подобных фейковых аккаунтов. Они копируют врачей. Притворяются гуру здорового образа жизни. Продвигают добавки для лечения хронических болей или «излечения» от заболеваний. Их цели? Чаще всего — женщины старшего возраста. Их продукты? Не одобрены FDA (Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов США). Опасные. Или просто пустая трата денег.
Граница между реальным и сгенерированным стерта.
«Различить их почти невозможно», — говорит Алекс Хамерстоун (Alex Hamerstone), директор по адаптивным решениям в TrustedSec, фирме по этичному хакингу. Шесть месяцев назад можно было выдать сбойный алгоритм по неестественному движению рук или странным ушам. Теперь? На маленьком экране смартфона всё выглядит безупречно.
Как защититься от мошеннических схем с ИИ в сфере здоровья в социальных сетях, когда доказательства выглядят настолько реалистично?
Вот что нужно знать.
Распознавание крючка «Слишком хорошо, чтобы быть правдой»
Если видео обещает чудодейственное средство от состояния, с которым ваш врач не смог справиться, бегите.
Эмилия ДеДжоу (Emily DeJeu) преподаёт бизнес-коммуникации в Университете Карнеги-Меллона. Она также является экспертом по ИИ. Её тест для любого метода лечения здоровья прост: экономика.
«В мире не бывает бесплатного обеда», — говорит она. «Если это звучит слишком хорошо, чтобы быть правдой, значит, это неправда. Или это правда, но «хорошая часть» связана с серьёзными рисками».
Реальные советы по здоровью — скучные.
ДеДжоу указывает на базовые вещи. Физические упражнения. Хорошее питание. Качественный сон. Регулярные визиты к врачу. Приём прописанных лекарств. Это не гламурно. Но это эффективно.
ИИ-инфлюенсеры не продают скучное. Они продают надежду. И они продают срочность.
Обратите внимание на давление. Шаннон Кукер (Shannon Kooker), вице-президент по клиническому совершенству в ECRI, отмечает красные флаги срочности.
«Предложение с ограниченным сроком. Для первых 20 покупателей», — говорит Кукер. «Советы «будьте осторожны». Особенно когда речь идёт о здоровье».
Если видео заставляет вас чувствовать, что вы упускаете секретное лекарство, это и есть мошенничество с использованием ИИ.
Проверка квалификации и отзывов
Социальные сети переполнены отзывами. Лица, улыбающиеся успеху. Заявления об исцелении. Ни имён. Ни квалификаций.
Кукер говорит, что это серьёзный красный флаг.
«Вам нужно искать реальные медицинские квалификации», — говорит она.
Проверить врача в TikTok сложно. Но можно попробовать. Используйте сайты вроде Certification Matters для проверки сертификации по специальности. Если человек на видео не может доказать, что он лицензированный специалист, его советы стоят меньше, чем пиксели, из которых состоит видео.
«Относитесь к любым утверждениям, сгенерированным ИИ или инфлюенсерами, так же, как к медицинскому совету незнакомца в метро. Это может быть интересно. Это может вызвать размышления. Но это не замена профессиональному мнению.»
ИИ играет роль в здравоохранении. Но он не должен принимать решения.
Кукер поддерживает ИИ. Она видит в нём «разумную отправную точку для образования». Но окончательное слово? Оно принадлежит людям. Врачам.
Корень проблемы: недоверие и вакуум доверия к ИИ
Почему эти боты так успешно распространяются?
Потому что мы больше никому не доверяем.
ДеДжоу указывает на «исторически беспрецедентный уровень недоверия» к обычным авторитетам. У нас есть десятилетия такого опыта. Врачи. Учёные. Правительство.
Возьмите сейчас Министерство здравоохранения и социальных служб США. Роберт Ф. Кеннеди-младший, активист, выступающий против вакцинации, возглавляет его. Это подрывает доверие. Даже у тех, кто ему доверял.
Люди доверяют своим врачам. Затем они приходят домой и начинают искать информацию в сети. Это не inherently плохо. Второе мнение может быть ценным. Но только если это второе мнение исходит от медицинского специалиста. А не от ИИ-аватара с ником «WellnessSage69» в TikTok.
«Мы отступили от доверия врачам, потому что интернет демократизировал информацию», — говорит ДеДжоу. «Но ИИ усложняет ситуацию. Даже самые умные люди попадают на удочку. Мы эмоциональны. Мы боимся».
ИИ-инфлюенсеры эксплуатируют этот страх. Боль. Отчаяние в поисках облегчения, когда традиционная медицина кажется медленной или неэффективной.
Что делать, если вы попались
Вы видите видео. Вы чувствуете страх. Вы покупаете добавку.
Затем вы понимаете, что это мусор. Или, что хуже, от этого вам становится плохо.
Сделайте то, что говорит Хамерстоун. Сообщите об этом.
Сообщите в Meta. Зарепортируйте аккаунт. Фейковые видео могут не исчезнуть. Но ваш репорт добавляет данные. Это помогает отметить паттерн.
Не молчите из-за стыда.
«Когда люди попадают на мошенничество, они не хотят об этом говорить», — говорит Хамерстоун. «Убедитесь, что вы получите помощь. Скажите друзьям. Вы — жертва. Не дайте мошеннику победить, сохраняя молчание.»
Поговорите со своим врачом. Если у вас нет доступа к врачу, обратитесь к местному фармацевту. Они знают препараты. Они знают взаимодействия лекарств. Это реальные люди.
Пробел в регулировании
Самое страшное? Нет федеральных регулирующих норм для заявлений ИИ о здоровье.
Рынок добавок едва ли регулируется FDA. Это дикий запад.
ДеДжоу отмечает, что мы занимаем позицию невмешательства.
«Вы можете продавать что угодно и говорить что угодно», — говорит она. «В trouble попадают только тогда, когда кто-то получает травму или умирает.»
Чат-боты не могут заменить экспертизу. ИИ-персоны не могут воспроизвести опыт медсестры, держащей вас за руку. Но прямо сейчас алгоритм отдаёт предпочтение громким, блестящим и фейковым вещам.
Здравоохранение сложно. Оно человеческое. Оно заботится о людях.
ИИ-волна обрушивается. Но фундаментальная истина остаётся прежней. Настоящая забота медленная. Настоящая забота скучная. Настоящая забота человеческая.
Что бы ни обещало обратное?
Скорее всего, это не правда.
