Alimenté par ChatGPT, le Chatbot My AI de Snapchat est devenu viral en raison de ses réponses hilarantes. Les utilisateurs faisaient alors des captures de leurs conversations avec l’IA pour alimenter les réseaux sociaux.

L’entreprise a d’ailleurs affirmé que plus de 150 millions de personnes avaient essayé le chatbot les semaines ayant suivi son lancement. Cependant, certaines particularités de My AI sont moins connues des utilisateurs. En effet, le chatbot aurait accès à un certain nombre de données sensibles.

La localisation

La localisation est l’un des éléments auxquels My AI a effectivement accès. Dans les faits, le Chatbot prétend ne pas connaitre la position de l’utilisateur quand la question lui est posée directement. Mais il suffit de détourner la requête en demandant par exemple les hôtels proches de chez vous. Dans ce cas, il sera en mesure de fournir une liste d’établissements hôteliers qui se trouvent effectivement dans votre rayon géographique.

Il paraît évident que sans l’accès à la localisation, le chatbot sera incapable de fournir ce type de réponse. Pour comprendre cette situation, il faut rappeler que la plupart des utilisateurs accordent à Snapchat l’accès à leur localisation. C’est donc une voie ouverte dont profite le chatbot et même le Ghost Mode intégré à l’application ne garantit pas une invisibilité dans le cas de My AI. L’entreprise a elle même confirmé cette hypothèse et a précisé que les positions partagées sur Snap Map aidaient aussi le chatbot à identifier la localisation de l’utilisateur.

Cependant, My AI pourrait garder ces données et continuer à vous suggérer des lieux d’intérêt proches même si vous révoquez l’accès de Snapchat à la localisation. La fonctionnalité devient alors plus intrusive à ce moment.

Les interactions

Toutes vos conservations avec My AI sont enregistrées sur les serveurs de Snapchat et elles sont utilisées pour entraîner le chatbot. C’est un mode de fonctionnement qui peut inquiéter surtout que ces données sont susceptibles d’être exploitées par l’entreprise pour affiner sa publicité.

En fonction des questions posées à My AI, vous pourrez donc être envahis par des propositions de produits plus pertinentes. Toutefois, Snapchat rassure que les conversations disparaissent de leurs serveurs dès que l’utilisateur les supprime dans l’application. Si cette affirmation est vérifiée, vous savez donc ce qu’il y a à faire après avoir interagi avec My AI.

Il est à noter cependant que cette politique tranche radicalement avec celle des snaps qui disparaissent des serveurs dès que les destinataires l’ont consulté et que le minuteur s’épuise. Mais ces éléments sont quelquefois gardés pour 30 jours sur les serveurs si le snap en question n’est pas consulté.

Par ailleurs, My AI avait également fait face à quelques couacs juste après son lancement. En effet, des interactions inappropriées avec les adolescents étaient pointées du doigt. L’agent conversationnel de Snapchat suggérait notamment des réponses maladroites traitant de drogue, d’alcool et de sexe à ces derniers.