OpenAI bloque la génération de vidéos IA de Martin Luther King à la demande de sa famille

"Des utilisateurs ont généré des présentations irrespectueuses de l'image du Dr King", a indiqué OpenAI dans un message posté dans la nuit de jeudi à vendredi sur le réseau social X.

"A la demande" des proches du pasteur assassiné en 1968, "OpenAI a donc suspendu" la possibilité de produire des vidéos le mettant en scène "et renforce les garde-fous concernant les personnalités historiques", a expliqué la start-up californienne.

Plusieurs vidéos postées sur les réseaux sociaux montrent Martin Luther King Jr en train de prononcer son fameux discours de 1963 "I Have a Dream" (je fais le rêve), en lui faisant dire d'autres mots.

"Je fais le rêve que Sora soit moins strict quant aux violations de son règlement sur les contenus et nous laisse faire ce que nous voulons", dit ainsi la version IA de "MLK" dans une séquence créée avec le nouveau logiciel vidéo d'OpenAI, Sora 2.

Cette vidéo était toujours en ligne sur Sora vendredi. D'autres le montrait, dans la même situation, en train de rapper différents textes.

Sollicité à ce sujet par l'AFP, OpenAI n'a pas donné suite dans l'immédiat.

Parallèlement à Sora 2, OpenAI a lancé, fin septembre, l'application Sora, présentée comme un réseau social sur lequel il n'est possible que de publier des contenus générés par IA.

L'appli dispose d'une fonctionnalité appelée "Cameo", qui permet d'insérer l'image d'une personne dans n'importe quelle vidéo, pour peu qu'elle ait donné son consentement préalable.

L'idée est d'encourager les interactions entre utilisateurs, souvent sur un mode humoristique.

Beaucoup d'utilisateurs ont inclus dans leur contenu des personnages publics décédés.

Vendredi, apparaissaient, pêle-mêle, une vidéo de la reine Elizabeth II ou d'Albert Einstein en train de rapper, ainsi qu'un passage réinterprété par l'IA d'une conférence de presse de John Fitzgerald Kennedy ou d'Abraham Lincoln participant à un talk-show télévisé.

"Dépeindre des figures historiques présente un grand intérêt pour la liberté d'expression, mais OpenAI considère que ces personnalités publiques et leurs familles devraient contrôler la façon dont leur image est utilisée", a écrit le groupe.

OpenAI a ainsi expliqué que les ayant-droits de ces personnalités "(pouvaient) demander que leur image ne soit pas utilisée pour des cameos sur Sora".