Как созданные ИИ «врачи» на YouTube превратились в глобальный бизнес, нацеленный на пожилую аудиторию

82-летняя Сели Феррейра смотрела YouTube, когда на экране появился врач и посоветовал ей есть фрукты, чтобы сохранить зрение. Совет показался ей вполне правдоподобным. Но это был не настоящий медицинский канал, а самого врача не существовало — его лицо и голос были сгенерированы искусственным интеллектом.

Хотя YouTube пометил видео как созданное с помощью ИИ, оно набрало почти 300 тысяч просмотров и сотни комментариев. Феррейра рассказала ВВС, что, несмотря на маркировку, была уверена: перед ней настоящий врач.

Это не единичный случай: в ходе расследования было выявлено 29 португалоязычных каналов, использующих созданных с помощью ИИ «врачей» и набравших в общей сложности не менее 70 млн просмотров.

Подобный контент распространяется по всему миру. Бразильская служба ВВС обнаружила как минимум 50 YouTube-каналов с инструкциями о том, как создавать ролики с ИИ-врачами на разных языках, включая португальский, английский, хинди, испанский, французский, итальянский, польский, немецкий и турецкий.

Создатели таких каналов считают пожилую аудиторию прибыльной нишей: по их мнению, у людей старшего возраста больше свободного времени для просмотра видео и достаточно денег для покупки рекламируемых товаров.

Один из настоящих врачей, чье изображение было использовано без разрешения, предупреждает, что советы фальшивых медиков могут иметь серьезные последствия и «нанести пожилым людям смертельный вред».

Владеющая видеохостингом YouTube компания Google заявила, что правила платформы распространяются и на контент, созданный с помощью ИИ; они запрещают медицинскую дезинформацию, способную причинить серьезный вред в реальной жизни.

Формула таких видео проста: вызывающий доверие человек в белом халате спокойным синтезированным голосом предупреждает, что привычный продукт, лекарство или повседневная привычка могут незаметно угрожать здоровью пожилых людей. Затем зрителям предлагают якобы незаслуженно забытое средство.

В одних случаях «врачи» полностью вымышлены. В других ИИ без согласия настоящих медиков копирует их внешность, голос или личность. И в том, и в другом случае у зрителей может возникнуть впечатление, что медицинские рекомендации им дает квалифицированный специалист.

29 португалоязычных каналов, использующих созданных ИИ «врачей», были обнаружены в докладе бразильской некоммерческой журналистской организации CTRL+Z. Бразильская служба ВВС изучила эти каналы, чтобы найти другие подобные ресурсы и выявить общие закономерности, включая похожие заголовки.

На Феррейру журналисты вышли после того, как собрали около 27 тысяч комментариев под видео на этих YouTube-каналах и с помощью специального скрининга выявили сообщения пользователей о том, как подобные ролики повлияли на их поведение.

В десятках комментариев люди, называющие себя пожилыми, рассказывают, что следовали советам ИИ-врачей: начинали лечиться домашними средствами или прекращали принимать ранее назначенные препараты.

В одном из комментариев 85-летний пользователь утверждает, что заменил омепразол — препарат, угнетающий секрецию желудочной кислоты, — сладким картофелем. В другом 77-летняя женщина пишет, что уже три года не посещала врача, и благодарит ИИ-врача за советы, касающиеся болезни Альцгеймера.

В найденных Бразильской службой ВВС инструкциях на YouTube авторы советуют придумывать заголовки и сценарии, которые вызывают страх и создают ощущение неотложности, чтобы зритель поверил, что его здоровью угрожает непосредственная опасность.

Создатели такого контента зарабатывают как на просмотрах в YouTube, так и на продаже электронных книг и товаров, рекламируемых на этих каналах. Один из авторов обучающих роликов из Бразилии, Жеф Коимбра, утверждал, что создатели подобных каналов могут зарабатывать до 30 тысяч реалов ($5 816) в месяц.

В другом видео он продемонстрировал, как использовать тревожный тон и призывать аудиторию «действовать решительно», приведя такой пример: «Перед сном будьте осторожны с этим. Следите за тем, чтобы не умереть во сне».

После того как ВВС связалась с Коимброй, публичный доступ к одному из этих видео был закрыт.

В своем заявлении Коимбра сообщил, что показанные им ИИ-каналы были лишь примерами и не принадлежали ему лично. По его словам, он обучает созданию информационного контента с помощью ИИ, а не материалов, призванных заменить медицинских специалистов, и не намеревался поощрять нарушение правил платформы или других норм.

«Никакого сочувствия»

Журналисты обнаружили как минимум пять YouTube-каналов, которые без разрешения использовали изображение известного бразильского врача для продвижения алармистских утверждений о здоровье и натуральных средствах, якобы способных заменить назначенные лекарства.

Элиу Бразилейру, который много лет ведет собственный канал с почти 300 тысячами подписчиков, сообщил об этих видео YouTube и подал заявление в полицию Сан-Паулу.

Помимо неправомерного использования его изображения, Бразилейру больше всего беспокоит то, что пожилые люди могут перестать принимать назначенные врачом препараты, поверив советам, которые якобы исходят от него.

— У тех, кто это создает, нет никакого сочувствия, — сказал он ВВС. — Попытки заработать таким способом могут привести к смертельным последствиям для пожилых людей.

По словам гастроэнтеролога из клиники имени Альберта Эйнштейна в Сан-Паулу Жайме Заладека Жила, главная опасность заключается в том, что пациенты могут принимать неэффективные средства, которые способны либо ухудшить их состояние, либо привести к задержке постановки диагноза.

— Необходимо полноценное медицинское обследование и более качественная диагностика, а не просто видео, утверждающее, что какое-то средство решит все ваши проблемы, — говорит он.

Бразильские юристы заявляют, что создателям контента, которые ложно выдают себя за врачей, может грозить уголовное преследование.

В Google отметили, что специальные маркировки помогают зрителям понять, когда контент был изменен или создан искусственным интеллектом.

После того как журналисты обратились в компанию по поводу исследования CTRL+Z, YouTube удалил несколько крупнейших каналов из выборки, видеозаписи которых в совокупности набрали около 41 млн просмотров.

Тем временем Сели Феррейра говорит, что хочет научиться лучше распознавать контент, который видит в интернете.

— Для своего возраста я считаю, что довольно хорошо разбираюсь в компьютерах, но все равно не умею определять, где ИИ, а где реальность, — говорит она.