OpenAI suspendió la creación de videos del ícono de los derechos civiles estadounidenses Martin Luther King Jr. a través de su herramienta de inteligencia artificial Sora 2, después de que su familia se quejara de representaciones irrespetuosas.
Los herederos del líder de derechos civiles asesinados y OpenAI anunciaron en un comunicado conjunto el jueves por la noche que la empresa pausaría las generaciones que representan a King mientras «fortalece las medidas de seguridad para figuras históricas».
La decisión se produce cuando las familias de celebridades y líderes fallecidos han expresado indignación por la herramienta de video Sora 2 de OpenAI, que permite a los usuarios crear clips realistas de figuras históricas sin el consentimiento de la familia.
Algunos usuarios habían generado videos mostrando a King haciendo sonidos de mono durante su discurso «Tengo un sueño» y otros contenidos degradantes, según The Washington Post.
Videos reanimando a otras figuras fallecidas, incluyendo Malcolm X, Michael Jackson, Elvis Presley y Amy Winehouse, han inundado las redes sociales desde el lanzamiento de Sora 2 el 30 de septiembre.
«Si bien existen fuertes intereses de libertad de expresión en la representación de figuras históricas, OpenAI cree que las figuras públicas y sus familias deben tener control sobre cómo se utiliza su imagen», dijo el comunicado conjunto.
La empresa dijo que los representantes autorizados o los propietarios del patrimonio ahora pueden solicitar que sus imágenes no sean utilizadas en los videos generados por IA en Sora.
OpenAI agradeció a Bernice King, la hija de King, «por comunicarse», así como al empresario John Hope Bryant y al Consejo de Ética de IA «para crear un espacio para conversaciones como esta».
La herramienta de texto y vídeo ha escalado a la cima de las listas de descargas desde su lanzamiento, pero ha generado controversia inmediata.
La hija del actor Robin Williams, Zelda Williams, pidió a las personas en Instagram: «Dejen de enviarme videos de IA de papá», calificando el contenido como «enloquecedor».
Ilyasah Shabazz, hija de Malcolm X, dijo a The Washington Post que era «profundamente irrespetuoso» ver la imagen de su padre utilizada en videos de IA crudos e insensibles.
Malcolm X fue asesinado frente a Shabazz en 1965 cuando ella tenía dos años.
OpenAI inicialmente había eximido a las «figuras históricas» de los requisitos de consentimiento cuando lanzó Sora 2 el mes pasado, y permitía a cualquiera crear videos falsos que resucitaban a figuras públicas.
