- Des utilisateurs Fitbit se plaignent du suivi alimentaire de Google Health
- L’outil d’IA enregistrerait des données nutritionnelles incorrectes
- Un utilisateur décrit ces erreurs comme « presque dangereuses »
Les outils d’intelligence artificielle peuvent parfois halluciner et produire des réponses complètement erronées à des questions pourtant simples. La plupart du temps, ces erreurs restent relativement inoffensives. La situation devient nettement plus préoccupante lorsqu’elles commencent à toucher la santé et le bien-être.
C’est précisément ce que plusieurs utilisateurs de Fitbit ont récemment remarqué, avec des conséquences potentiellement sérieuses si le problème perdure.
Le problème concerne Google Health, l’assistant basé sur l’IA désormais intégré à de nombreux appareils Fitbit. Celui-ci est censé comprendre les données de santé de l’utilisateur et proposer des recommandations susceptibles d’améliorer son bien-être. Pourtant, plusieurs propriétaires de Fitbit constatent exactement l’inverse lorsqu’il s’agit d’enregistrer leur alimentation.
Sur Reddit, un utilisateur a ainsi décrit le suivi alimentaire de Google Health comme étant « tellement imprécis qu’il en devient presque dangereux ». Dans son exemple, Google Health surestimait très largement le nombre de calories contenu dans une portion d’œufs, tout en sous-estimant simultanément l’apport calorique d’une portion de yaourt grec.
L’utilisateur s’interrogeait notamment sur la manière dont un tel niveau d’écart pouvait être considéré comme acceptable pour un produit lié à la santé. Il signalait également que la base de données alimentaire contenait de nombreuses informations nutritionnelles incorrectes.
Le cas est loin d’être isolé. Le fil Reddit rassemble de nombreux utilisateurs de Google Health confrontés aux mêmes frustrations. L’un d’eux parle d’un « combat sans fin », expliquant que l’IA oublie fréquemment d’ajouter les aliments demandés avant de finir par les enregistrer avec des données erronées.
Un autre utilisateur explique avoir finalement abandonné complètement l’IA de Google après avoir longtemps essayé de lui laisser le bénéfice du doute. Les difficultés rencontrées pour obtenir des données nutritionnelles correctes ont fini par rendre l’expérience inutilisable. Le système modifierait également de manière aléatoire certaines séances d’entraînement ou des données importées depuis d’autres services, entraînant une très forte déception vis-à-vis du produit.
Une nouvelle hallucination de Google Health
Ce problème est loin d’être le seul signalé concernant Google Health. Le passage de l’ancienne application de suivi Fitbit à cette nouvelle solution largement construite autour de l’IA s’est accompagné de nombreuses plaintes dans des domaines très différents.
L’IA a notamment été accusée de fournir des conseils sportifs particulièrement incohérents, de raconter continuellement des informations fausses à propos des entraînements des utilisateurs, ou tout simplement d’être « incroyablement mauvaise ».
Les critiques sont devenues suffisamment importantes pour que Google semble lui-même avoir reconnu certaines limites du système. Une récente mise à jour permet désormais de masquer complètement l’outil d’intelligence artificielle.
La situation constitue un sérieux rappel des problèmes susceptibles d’apparaître lorsqu’une IA intervient dans des domaines potentiellement sensibles comme la santé et la nutrition.
Dans l’exemple des œufs et du yaourt grec, la conséquence peut se limiter à des statistiques agaçantes et imprécises. Mais les erreurs pourraient devenir beaucoup plus problématiques pour une personne dont la santé dépend d’un niveau de consommation précis ou lorsque des allergènes entrent en jeu.
En présence de facteurs de risque liés à l’alimentation ou à la nutrition, les informations fournies par l’IA Google Health de Fitbit méritent donc d’être considérées avec une très grande prudence. Dans certains cas, mieux vaut même éviter pour l’instant de s’y fier.
