Le 15 novembre, la société californienne Bland a ouvert les demandes d’accès à Tofu-1, un modèle vocal conçu pour les appels téléphoniques à fort enjeu. Il écoute pendant qu’il parle, repère qui s’exprime, accepte d’être coupé en pleine phrase et poursuit une recherche sans laisser de blanc. Pour un service client, l’argument porte. Pour un DPO, la question se déplace : un agent qui analyse le son lui-même entend aussi la pièce autour de l’appelant.
Tofu-1, d’après la page de Bland
Bland présente Tofu-1 comme un modèle speech-to-speech en duplex intégral. Les assistants vocaux classiques transcrivent la voix en texte, confient ce texte à un modèle de langage, puis resynthétisent une réponse. Tofu-1 traite l’audio directement. Le fabricant affirme qu’il sépare la voix de l’appelant d’une télévision, d’un enfant qui pleure, de la circulation ou des tonalités du clavier, et qu’il comprend à qui une phrase s’adresse.
L’accès reste restreint. La page décrit une préversion de recherche ouverte sur demande à un petit nombre d’entreprises de la banque, de la santé, de l’assurance et de l’administration. Aucune langue prise en charge n’y figure, aucun tarif, aucun résultat de test publié. Bland qualifie elle-même certains schémas et le scénario de la télévision d’illustrations conceptuelles.
Bland affirme aussi que l’agent n’annonce jamais une tâche terminée avant qu’elle le soit. Aucune mesure n’accompagne cette promesse. Je la range parmi les engagements du fournisseur, à contrôler en test.
Le micro capte plus que l’appelant
Une transcription garde des mots. Un modèle branché sur le flux audio reçoit le reste : la voix d’un conjoint, un collègue qui épelle un nom au poste voisin, une annonce en gare, les bips d’une chambre d’hôpital. Ces éléments peuvent identifier une personne, la situer ou révéler son état de santé, alors qu’elle n’a jamais appelé le service.
La page de Tofu-1 ne dit pas si ces sons sont conservés. Elle renvoie à une politique de confidentialité générale et reste muette sur les conversations ayant servi à entraîner le modèle. Si l’agent déduit de la voix la frustration ou l’urgence d’un appelant, une autre vérification s’impose : savoir si l’on entre dans la reconnaissance des émotions visée par l’article 50, paragraphe 3, du règlement sur l’IA, qui impose une information spécifique.
À obtenir par écrit du fournisseur avant un pilote
- le flux audio traité pendant l’appel et les serveurs par lesquels il transite ;
- les enregistrements et transcriptions éventuels, avec leur durée de conservation ;
- les résumés, annotations ou déductions produits (émotion, urgence, intention) ;
- les journaux techniques et la liste des personnes qui y accèdent ;
- toute réutilisation des appels pour améliorer les modèles ;
- le pays d’hébergement, les sous-traitants ultérieurs et, en cas de transfert hors de l’Union, l’outil de transfert retenu.
Un fournisseur qui répond que son modèle « ignore le bruit » n’a traité aucune de ces questions. Écarter un son de la réponse ne prouve pas qu’il n’a été ni transmis, ni analysé, ni stocké.
L’appelant doit savoir qu’il parle à une IA
Plus la voix est réussie, plus l’appelant risque de croire qu’il parle à un conseiller. L’article 50, paragraphe 1, du règlement européen sur l’IA oblige les fournisseurs à concevoir les systèmes qui dialoguent avec des personnes de façon à les informer qu’elles échangent avec une IA, sauf si c’est évident dans le contexte. L’information doit intervenir au plus tard lors de la première interaction. Cette obligation s’applique depuis le 2 août 2026.
L’omnibus numérique sur l’IA, publié au Journal officiel fin juillet 2026, n’a rien décalé sur ce point. Son seul aménagement à l’article 50 concerne le marquage des contenus générés, avec un délai au 2 décembre 2026 pour les systèmes déjà sur le marché.
Côté organisation, la solution la plus facile à prouver tient en une phrase prononcée dès le début de l’appel, du type « Vous échangez avec un assistant automatisé », suivie d’un accès simple à l’information sur le traitement et à un conseiller humain. Une clause dans le contrat du fournisseur ne démontre pas que l’appelant a été informé. La répartition des obligations entre fournisseur et déployeur dépend du montage retenu. Elle se documente : dans DPO SUITE, le registre des systèmes d’IA et l’audit AI Act rattachent l’agent vocal au traitement concerné et indiquent qui porte quelle obligation.
Une durée par type de donnée
Dans ses conseils sur les chatbots publiés le 19 février 2021, la CNIL rappelle que la durée de conservation dépend de la finalité. Une question ponctuelle et une réclamation suivie n’appellent pas la même durée.
Pour un agent vocal, je sépare l’audio brut, la transcription, le résumé versé au dossier client et les traces techniques. L’audio brut a rarement besoin de survivre à l’appel. Le résumé peut suivre la durée du dossier, et les journaux techniques la politique de sécurité. Une durée unique appliquée à tout par commodité tient mal lors d’un audit de minimisation.
Les données sensibles demandent un réglage à part. Une personne qui appelle sa mutuelle ou un établissement de santé parlera de son état sans y être invitée. Si le service doit traiter ces informations, il faut identifier une exception de l’article 9 du RGPD en plus de la base légale. Dans le cas contraire, purge et masquage se prévoient avant la mise en service.
Faire valider les actes de l’agent
Une conversation fluide ne dit rien de la fiabilité d’une opération. Pour un premier essai, j’ajoute au plan de test une date corrigée en cours de phrase, deux personnes qui parlent en même temps et une phrase prononcée par une télévision. Le test vérifie qu’une parole mal attribuée ne devient jamais une autorisation.
Grille de validation à fixer avant le pilote
- ce que l’agent peut seulement expliquer ;
- ce qu’il peut préparer sans l’exécuter ;
- ce qui exige une confirmation explicite ou l’intervention d’une personne habilitée ;
- la preuve technique attendue avant d’annoncer qu’une opération a abouti.
Cette grille est une proposition de méthode : Tofu-1 n’en a démontré aucun point publiquement. Le DPO examine les données, les finalités et les garanties. Les responsables métier et techniques valident le fonctionnement du service.
Une voix naturelle rend l’accueil plus agréable. Elle laisse entières les obligations de l’organisation, à commencer par celle de dire à l’appelant qu’une machine lui répond.
Un DPO du réseau DPO FRANCE relit avec vous le registre, l’information des appelants et les durées de conservation avant la mise en service.
Faire relire mon projet
Sources
- Bland : Tofu-1, speech-to-speech, built for high-stakes calls
- Règlement (UE) 2024/1689 sur l’intelligence artificielle, article 50 : EUR-Lex
- Goodwin, août 2026 : Not Delayed, Not Deferred: EU AI Act Transparency Obligations Are Now in Force
- CNIL, 19 février 2021 : Chatbots : les conseils de la CNIL pour respecter les droits des personnes
- CNIL : L’intelligence artificielle qui parle : les agents conversationnels
