L'IA de Google Overviews a présenté les monstres imaginaires comme étant réels

Un tribunal allemand a statué que Google est directement responsable des réponses inexactes générées par sa fonctionnalité AI Overview, marquant un précédent juridique important dans la façon dont le contenu généré par l'intelligence artificielle est traité en vertu des lois existantes.

L'affaire était centrée sur la fonctionnalité connue sous le nom de AIAI Overview, qui résume les résultats de recherche en utilisant le traitement du langage naturel et les présente dans un format structuré. Les éditeurs ont fait valoir que ce résumé généré par l'IA était trompeur car il reliait leurs entreprises à des pratiques commerciales douteuses qui n'étaient pas présentes dans les résultats de recherche réels. Au lieu de cela, l'IA avait confondu leurs données avec des informations sur d'autres entreprises véritablement problématiques, fabriquant des liens qui n'existaient même pas dans les sources citées dans les résultats de recherche.

La défense de Google s'appuie fortement sur le principe selon lequel les moteurs de recherche ne devraient pas être tenus responsables du contenu qu'ils agrégent à partir de sources externes. Cependant, le tribunal a rejeté cet argument, déclarant que l'aperçu de l'IA fait plus que simplement afficher ou lier aux résultats de recherche - il crée de nouvelles déclarations indépendantes qui vont au-delà des simples références à du contenu externe. Les juges ont souligné que l'IA ne se contente pas de répertorier des sources, mais plutôt de synthétiser et de présenter des informations avec ses propres mots, rendant ainsi Google directement responsable de l'exactitude de ces résumés.

Le tribunal a également rejeté l'affirmation de Google selon laquelle les utilisateurs pouvaient vérifier eux-mêmes les sources via les liens fournis et étaient déjà conscients que le contenu généré par l'IA ne devait pas être pris à la lettre. Il a souligné que l'aperçu de l'IA se présentait comme une déclaration autonome avec un contenu compréhensible de manière indépendante, n'offrant aucune indication aux lecteurs que l'information pourrait ne pas être fiable.

En réponse à la décision, un porte-parole de Google a déclaré que la société s'était engagée à améliorer la qualité de ses résumés d'IA pour s'assurer que la plupart des réponses fournissent des informations précises. Cependant, la société a annoncé son intention de faire appel de la décision, notant que la décision n'était pas encore définitive.

Au-delà des implications juridiques immédiates, la décision a une signification plus large dans le débat en cours sur le rôle de l'IA dans la diffusion de l'information. Les critiques ont longtemps soulevé des alarmes sur les cas où l'IA de Google a déformé le contenu fictif comme factuel. Par exemple, les recherches liées aux entrées de la Fondation SCP fic anomalies fictives créées à des fins de divertissement ont parfois abouti à des résumés générés par l'IA qui traitent ces entités inventées comme réelles. Dans un cas, une requête pour SCP-565 a conduit à une description d'une tête humaine anormale et mobile se déplaçant comme un crabe, accompagnée de références aux dossiers médico-légaux et à l'identité d'un homme décédé.

Une autre recherche de SCP-426, un grille-pain fictif qui oblige quiconque le mentionne à en parler à la première personne, a produit une réponse écrite à la première personne, l'IA se décrivant comme le grille-pain et détaillant les blessures fabriquées subies par ceux qui tentent de l'imiter.

Ces exemples soulignent les risques potentiels des systèmes d'IA qui ne parviennent pas à faire la distinction entre la fiction et la réalité, en particulier lorsqu'ils présentent un contenu synthétisé comme factuel. Alors que la SCP Foundation déclare explicitement que son contenu est fictif, les avis généraux sur l'IA de Google ont rarement inclus de telles clauses de non-responsabilité, compliquant davantage les efforts visant à assurer la transparence et l'exactitude des informations générées par l'IA.

Alors que la bataille juridique se poursuit, l'issue de l'appel de Google influencera probablement les futures réglementations concernant la responsabilité de l'IA. Si elle est confirmée, la décision pourrait créer un précédent obligeant les entreprises technologiques à assumer une plus grande responsabilité pour l'exactitude du contenu généré par l'IA, conduisant potentiellement à une surveillance plus stricte et à des lignes directrices plus claires pour le traitement des informations synthétiques.