We Put Google’s New AI Writing Assistant to the Test

Mais son travail a commencé à paraître bâclé sur des demandes plus spécifiques. Invité à rédiger une note sur les préférences des consommateurs au Paraguay par rapport à l’Uruguay, le système a décrit à tort le Paraguay comme moins peuplé. Il a halluciné, ou inventé, le sens derrière une chanson d’un film hindi des années 1960 être joué lors de mon événement de bienvenue avant le mariage.

Plus ironiquement, lorsqu’il a été interrogé sur les avantages de Duet AI, le système a décrit Duet AI comme une startup fondée par deux anciens employés de Google pour développer l’IA pour l’industrie de la musique avec plus de 10 millions de dollars de financement d’investisseurs tels que Andreessen Horowitz et Y Combinator. Il semble qu’une telle société n’existe pas. Google encourage les utilisateurs à signaler les inexactitudes via un bouton pouce vers le bas sous les réponses générées par l’IA.

Behr dit que Google filtre les sujets, les mots clés et d’autres indices de contenu pour éviter les réponses offensantes ou affectant injustement les gens, en particulier en fonction de leurs données démographiques ou de leurs convictions politiques ou religieuses. Elle a reconnu que le système faisait des erreurs, mais elle a déclaré que les commentaires des tests publics sont essentiels pour contrer la tendance des systèmes d’IA à refléter les biais observés dans leurs données de formation ou à transmettre des informations inventées. “L’IA va être un projet pour toujours”, dit-elle.

Pourtant, Behr dit que les premiers utilisateurs, comme les employés d’Instacart et de la marque de sous-vêtements Adore Me de Victoria’s Secret, ont été positifs à propos de la technologie. La porte-parole d’Instacart, Lauren Svensson, a déclaré dans un e-mail écrit manuellement que l’entreprise était ravie de tester les fonctionnalités d’IA de Google, mais n’était pas prête à partager des informations.

Mes tests m’ont laissé craindre que les aides à l’écriture de l’IA puissent éteindre l’originalité, au détriment des humains qui reçoivent le texte conçu par l’IA. J’imagine les lecteurs passer inaperçus dans des e-mails et des documents obsolètes comme ils le feraient s’ils étaient obligés de lire la politique de confidentialité de près de 6 000 mots de Google. On ne sait pas combien de personnalité individuelle les outils de Google peuvent absorber et s’ils viendront nous aider ou nous remplacer.

Behr dit que dans les tests internes de Google, les e-mails de collègues ne sont pas devenus “vanille” ou “génériques” jusqu’à présent. Les outils ont stimulé l’ingéniosité et la créativité humaines, sans les supprimer, dit-elle. Behr aimerait aussi un modèle d’IA qui imite son style, mais elle dit que “c’est le genre de choses que nous évaluons encore”.

Malgré leurs déceptions et leurs limites, les fonctionnalités Duet dans Docs et Gmail semblent susceptibles d’attirer certains utilisateurs qui ont commencé à s’appuyer sur ChatGPT ou sur un logiciel d’écriture d’IA concurrent. Google va plus loin que la plupart des autres options ne peuvent égaler, et ce que nous voyons aujourd’hui n’est qu’un aperçu de ce qui est à venir.

Lorsque – ou si – Duet passe de rédacteur prometteur à finisseur de documents impartial et expert, son utilisation deviendra imparable. Jusque-là, quand il s’agit d’écrire ces vœux et discours sincères, c’est un écran vide qui me reste entièrement.