TikTok va étiqueter les images et vidéos générées par l'IA et provenant d'OpenAI et d'ailleurs

information fournie par Reuters •09/05/2024 à 14:00

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Stephen Nellis

TikTok a annoncé jeudi qu 'il commencerait à utiliser une technologie visant à l'aider à étiqueter les images et les vidéos générées par l'intelligence artificielle et téléchargées sur le service de partage de vidéos.

TikTok a indiqué qu'il adopterait les "Content Credentials", un filigrane numérique qui indique comment les images ont été créées et éditées. La technologie Content Credential a été lancée par Adobe ADBE.O , mais elle est ouverte à l'utilisation par d'autres entreprises et a déjà été adoptée par des sociétés telles que le créateur de ChatGPT, OpenAI.

Des chercheurs se sont inquiétés du fait que le contenu généré par l'IA pourrait être utilisé comme information erronée pour tenter d'interférer avec les élections américaines de cet automne. TikTok faisait déjà partie d'un groupe de 20 entreprises technologiques qui ont signé au début de l'année un accord dans lequel elles s'engagent à lutter contre ce phénomène.

YouTube, propriété d'Alphabet GOOGL.O Google, ainsi que Meta Platforms META.O , qui possède Instagram et Facebook, ont également déclaré qu'ils prévoyaient d'utiliser les certificats de contenu.

Pour que le système fonctionne, le fabricant de l'outil d'IA générative utilisé pour créer du contenu et la plateforme utilisée pour distribuer le contenu doivent tous deux accepter d'utiliser la norme industrielle.

Si une personne utilise l'outil Dall-E d'OpenAI pour générer une image, par exemple, OpenAI attache un filigrane à l'image résultante. Si cette image marquée est ensuite téléchargée sur TikTok, elle sera automatiquement étiquetée comme étant générée par l'IA.

TikTok, qui appartient à la société chinoise ByteDance, compte 170 millions d'utilisateurs aux États-Unis, qui ont récemment adopté une loi obligeant ByteDance à céder TikTok sous peine d'interdiction. TikTok et ByteDance ont intenté une action en justice pour bloquer la loi , arguant qu' elle viole le premier amendement.

TikTok appose déjà un label sur les contenus générés par l'IA à l'aide d'outils internes à l'application, mais cette nouvelle mesure permettrait d'apposer un label sur les contenus générés en dehors du service.

"Nous avons également des politiques qui interdisent l'IA réaliste qui n'est pas étiquetée, donc si des contenus générés par l'IA réaliste () apparaissent sur la plateforme, nous les retirerons car ils violent nos directives communautaires", a déclaré Adam Presser, responsable des opérations, de la confiance et de la sécurité chez TikTok, lors d'une interview.