Google se positionnait jusqu’il y a peu comme un intermédiaire : les internautes obtenaient les meilleurs résultats possibles vers des pages Web correspondant à leurs requêtes. Le contenu de ces pages, qu’il soit vrai et à jour, ne relevait pas de la responsabilité de Google. Lorsque Google fournissait des réponses, il s’agissait seulement de faits objectifs tels que l’heure à New York ou le nombre de mandats présidentiels de Jacques Chirac.
Actuellement, Google teste aux États-Unis les « AI Overviews » : des résumés de contenu générés par une intelligence artificielle.
Les médias sont, à juste titre, scandalisés par cette nouvelle. Les réponses fournies par Google sur des sujets délicats sont désastreuses. Par exemple, en réponse à des questions sur la dépression, Google recommande aux utilisateurs de sauter du Golden Gate Bridge ou conseille encore aux femmes enceintes de fumer deux à trois cigarettes par jour.
Il n’est pas nouveau que le web soit rempli de contre-vérités, de mensonges et de contenus manipulateurs. Cependant, ce qui est récent, c’est que Google propose lui-même ces contenus dans ses résultats de recherche. Jusqu’à présent, le moteur de recherche jouissait du privilège d’être simplement un intermédiaire. Avec l’introduction des « AI Overviews », Google a renoncé à cet avantage. Les utilisateurs perçoivent ces contenus comme provenant de Google et s’attendent à ce qu’ils soient crédibles. Ce que Google prévoit de mettre en place pour résoudre ces problèmes reste incertain.
