Zoom peut utiliser vos appels et messages privés pour former ses systèmes d'IA grâce aux nouvelles conditions générales que VOUS avez acceptées

Les nouvelles conditions générales d'utilisation entrées en vigueur depuis le mois de mars et seulement repérées ce mois d'août, ont déclenché une vague d'indignation en ligne, les utilisateurs menaçant d'annuler leurs comptes.

Les appels vidéo privés, les messages texte et les réunions sur Zoom pourraient être utilisés pour "former" des modèles d'intelligence artificielle. La firme affirme que cela n'est fait que pour résumer les réunions et avec le consentement de l'utilisateur.

Sauf que généralement l'utilisateur est obligé d'accepter les conditions de l'application s'il veut l'utiliser. Presque personne le lit dans quoi il s'engage.

La directeur des produits de Zoom, Smita Hashim, a écrit :

"Je réitère : nous n'utilisons pas de contenu audio, vidéo ou de chat pour former nos modèles sans le consentement du client."

Mais cela n'a pas empêché les utilisateurs de s'inquiéter de leur vie privée. Elliot Higgins de l'agence de presse Bellingcat a déclaré :

"Nous organisons nos ateliers de formation sur Zoom, donc Zoom prévoit effectivement de former son IA sur l'ensemble du contenu de notre atelier sans compensation, donc au revoir Zoom."

Les données utilisées pour "former" les modèles d'IA sont devenues un champ de bataille juridique à la suite des progrès rapides de la technologie d'IA générative telle que ChatGPT d'OpenAI.

Les utilisateurs et les entreprises craignent que des informations privées ne soient révélées par inadvertance - ou des œuvres artistiques plagiées - si leurs données sont utilisées pour former des modèles d'IA.

Google a récemment modifié sa politique de confidentialité pour permettre à l'entreprise de former des modèles d'IA. La nouvelle politique stipule :

"Par exemple, nous utilisons des informations accessibles au public pour aider à former les modèles d'IA de Google et à créer des produits et des fonctionnalités telles que Google Translate, Bard et les capacités Cloud AI".

C'est avec stupéfaction que l'autrice Jane Friedman a découvert des livres vendus sur Amazon et signés en son nom, mais qu'elle n'a pas écrit. Sur son blog elle a expliqué que les ouvrages auraient tous été rédigés grâce à une IA elle-même utilisée par une personne malintentionnée.

Les livres ont depuis été supprimés.

L'autrice a reconnu la manière d'écrire des IA

L'autrice américaine Jane Friedman a été surprise de découvrir plusieurs livres vendus sur Amazon signés en son nom mais qu'elle n'avait pas écrit. Spécialisée dans l'industrie de l'édition, l'autrice a dénoncé sa situation dans un article publié son blog : "Je préférais voir mes livres se faire pirater plutôt que cela", selon ActuLitté.

Elle a notamment raconté que cinq livres avaient été publiés en son nom et reprenaient des idées et des thèmes de ses ouvrages précédents. Dans son article, elle explique qu'ils auraient tous été générés par une intelligence artificielle : "Dès que j'ai lu les premières pages de ces faux livres, j'ai eu l'impression de lire les réponses ChatGPT que j'avais générées moi-même".

Les faux ouvrages ont par ailleurs été publiés sur le site de critiques et de notations de livres, Goodreads.

Un cas qui n'est pas isolé

Jane Friedman s'est alors adressée à Amazon qui, dans un premier temps, a refusé de retirer les faux livres de la plateforme expliquant que les informations fournies ne permettaient pas d'affirmer qu'elle n'en était pas l'autrice. Quelques jours plus tard pourtant, les livres ont été supprimés des deux sites.

Selon l'autrice, des individus mal intentionnés utilisant une IA pour générer du profit, seraient à l'origine de ces faux ouvrages : "La personne derrière ces livres cherche bien sûr à profiter d'auteurs qui ont confiance en mes travaux et seraient amenés à croire que je les ai écrits ".

Cette situation n'est pas nouvelle. Plusieurs auteurs ont expliqué sur les réseaux sociaux avoir été victimes de la même supercherie. Selon BFMTV, une autrice aurait trouvé 29 livres non écrits publiés en son nom vendus sur Amazon.