L’algorithme ne se soucie pas de savoir si vous êtes malade. Il veut juste votre attention.
La plupart d’entre nous sont en ligne à midi. Pew Research affirme que 84 % des adultes regardent YouTube. 71% font défiler Facebook. 50 % d’Instagram à défilement catastrophique. Sur ces plateformes, vous êtes frappé vidéo après vidéo. Recettes. Courses de courses. Et des trucs plus sombres. Contenu conçu pour vous tromper.
L’« influenceur santé » qui vous donne des conseils qui changent votre vie sur TikTok n’est peut-être pas du tout une personne.
C’est un avatar IA.
Une enquête du New York Times a découvert des centaines de ces faux comptes. Ils imitent les professionnels de la santé. Ils se font passer pour des gourous du bien-être. Ils proposent des suppléments pour traiter la douleur chronique ou « guérir » des maladies. The targets? Souvent des femmes plus âgées. Les produits ? Non approuvé par la FDA. Dangereux. Ou tout simplement un gaspillage total d’argent.
La frontière entre réel et rendu a disparu.
«C’est presque impossible à dire», déclare Alex Hamerstone. Il est directeur des solutions consultatives chez TrustedSec. Une entreprise de hacking éthique. Il y a six mois, on pouvait apercevoir une main gligée. Une oreille bizarre. Maintenant? Sur un petit écran de téléphone, c’est impeccable.
So how do you protect yourself from an AI health scam on social media when the evidence looks so real?
Voici le truc.
Reconnaître le crochet « Trop beau pour être vrai »
Si une vidéo promet un remède miracle à une maladie que votre médecin n’a pas pu soigner, courez.
Emily DeJeu enseigne la communication d’entreprise à l’Université Carnegie Mellon. Elle est également experte en IA. Son critère pour toute solution de santé est simple : l’économie.
“Il n’y a rien de tel qu’un déjeuner gratuit”, dit-elle. “Si cela semble trop beau pour être vrai, ce n’est certainement pas vrai. Ou c’est vrai, mais la “bonne partie” comporte de nombreux risques.”
Les vrais conseils de santé sont ennuyeux.
DeJeu souligne les agrafes. Exercice. Une alimentation décente. Un sommeil de qualité. Visites régulières chez le médecin. Prendre vos ordonnances. Ce n’est pas glamour. C’est aussi efficace.
Les influenceurs IA ne vendent pas ennuyeux. Ils vendent de l’espoir. Et ils vendent de l’urgence.
Recherchez la pression. Shannon Kooker est vice-présidente de l’excellence clinique à l’ECRI. Elle note les signaux d’alarme de l’urgence.
“Offre à durée limitée. Pour les 20 premières personnes”, explique Kooker. “Conseil d’achat, méfiez-vous. Surtout pour la santé.”
Si la vidéo vous donne l’impression de passer à côté d’un remède secret, c’est le problème de l’IA.
Validating Credentials and Testimonials
Les réseaux sociaux regorgent de témoignages. Des visages souriants. Allégations de guérison. Aucun nom. Aucune information d’identification.
Kooker dit qu’il s’agit d’un signal d’alarme majeur.
« Vous devez rechercher de véritables qualifications médicales », dit-elle.
Il est difficile de valider un médecin sur TikTok. Mais tu peux essayer. Utilisez des sites comme Certification Matters pour vérifier la certification du conseil. Si la personne dans la vidéo ne peut pas prouver qu’elle est un professionnel agréé, ses conseils valent moins que les pixels qui la composent.
“Traitez toute affirmation générée par l’IA ou par un influenceur de la même manière que vous traitez l’avis médical d’un inconnu dans le métro. Cela pourrait être intéressant. Cela pourrait susciter la réflexion. Cela ne remplace pas l’opinion d’un professionnel.”
AI has a role in healthcare. Mais ce ne devrait pas être le décideur.
Kooker prend en charge l’IA. Elle y voit un « point de départ raisonnable pour l’éducation ». Mais le dernier mot ? Cela appartient aux humains. Aux médecins.
La cause profonde : la méfiance et le vide de l’IA
Pourquoi ces robots décollent-ils ?
Parce qu’on ne fait plus confiance à personne.
DeJeu souligne « des niveaux de méfiance historiques et sans précédent » à l’égard de l’autorité conventionnelle. Nous en avons vécu des décennies. Médecins. Scientifiques. Gouvernement.
Prenez le ministère de la Santé et des Services sociaux maintenant. Robert F. Kennedy Jr., un militant anti-vaccin, le dirige. Cela mine la confiance. Même chez ceux qui en sont atteints.
Les gens écoutent leurs médecins. Ensuite, ils rentrent chez eux et font des recherches. Ce n’est pas mauvais en soi. Un deuxième avis peut être précieux. Mais seulement si ce deuxième avis provient d’un professionnel de la santé. Pas un avatar IA nommé « WellnessSage69 » sur TikTok.
«Nous avons cessé de faire confiance aux médecins parce qu’Internet a démocratisé l’information», explique DeJeu. “Mais l’IA complique les choses. Même les gens les plus intelligents se laissent tromper. Nous sommes émotifs. Nous avons peur.”
Les influenceurs de l’IA s’attaquent à cette peur. Sur la douleur. Sur le désespoir de soulagement lorsque la médecine standard semble lente ou inadéquate.
Que faire si vous tombez dans le panneau
Vous voyez la vidéo. Vous ressentez la peur. Vous achetez le supplément.
Ensuite, vous réalisez que c’est de la foutaise. Ou pire, cela vous rend malade.
Faites ce que dit Hamerstone. Signalez-le.
Dites-le à Meta. Signalez le compte. Les fausses vidéos pourraient ne pas disparaître. Mais votre rapport ajoute des données. Cela aide à signaler le modèle.
Et ne restez pas silencieux parce que vous êtes gêné.
“Quand les gens tombent dans le piège d’une arnaque, ils ne veulent pas en parler”, explique Hamerstone. “Assurez-vous d’obtenir de l’aide. Faites-le savoir à vos amis. Vous êtes la victime. Ne laissez pas l’escroc gagner en gardant le secret.”
Parlez-en à votre médecin. Si vous ne pouvez pas accéder à un médecin, rendez-vous chez votre pharmacien local. Ils connaissent les drogues. Ils connaissent les interactions. Ce sont de vrais humains.
Le fossé réglementaire
La partie effrayante ? Il n’existe aucune réglementation fédérale concernant les allégations de santé liées à l’IA.
L’industrie des suppléments est à peine réglementée par la FDA. C’est un Far West.
DeJeu note que nous avons une approche non interventionniste.
« Vous pouvez tout vendre et dire ce que vous voulez », dit-elle. « Ce n’est que lorsque quelqu’un est blessé ou tué que quelqu’un a des ennuis. »
Les chatbots ne peuvent pas remplacer l’expertise. Les personnages IA ne peuvent pas reproduire l’expérience d’une infirmière vous tenant la main. Mais pour l’instant, l’algorithme privilégie le bruyant, le brillant et le faux.
Les soins de santé sont complexes. C’est humain. Prendre soin des humains.
La vague de l’IA s’effondre. Mais la vérité fondamentale demeure. Les vrais soins sont lents. Les vrais soins sont ennuyeux. Les vrais soins sont humains.
Sinon quelque chose de prometteur ?
Probablement pas réel.
