La Chine encadre les compagnons virtuels d'IA face aux risques de dépendance affective

Le texte impose aux plateformes de détecter les signes de détresse psychologique chez les utilisateurs, d'intervenir en cas de situation de crise, de limiter les usages excessifs et de garantir aux utilisateurs un contrôle total de leurs données personnelles, tout en renforçant les mesures destinées à prévenir toute utilisation abusive de ces informations.

Les nouvelles dispositions définissent les services de compagnons virtuels comme des applications offrant une "interaction émotionnelle durable" au moyen de conversations textuelles, d'images ou de contenus audio et vidéo simulant une présence humaine.

En revanche, elles ne s'appliquent pas aux outils d'intelligence artificielle conçus pour des usages spécifiques, notamment le service à la clientèle, l'assistance professionnelle, l'enseignement ou la recherche scientifique.

Déjà largement déployés en Chine, ces assistants conversationnels trouvent des applications aussi diverses que le soutien psychologique, la garde d'enfants, l'accompagnement des personnes âgées ou les services clients. 

Leur capacité à reproduire des échanges toujours plus réalistes suscite toutefois des préoccupations croissantes quant au développement d'une dépendance affective et aux risques pesant sur la protection des données personnelles.

Cette réglementation s'inscrit dans la stratégie plus large des autorités chinoises visant à accompagner l'essor de l'intelligence artificielle par un encadrement renforcé, alors que le pays accélère le déploiement de ces technologies dans l'ensemble des secteurs de son économie.

Selon les dernières estimations citées par les autorités, le marché chinois de l'intelligence artificielle aurait dépassé 1.200 milliards de yuans (près de 167,5 milliards de dollars) en 2025 et devrait franchir le seuil de 1.800 milliards de yuans (environ 251,2 milliards de dollars) d'ici 2028, soutenu par l'adoption croissante de ces technologies dans l'industrie, les services et les usages du quotidien.