Hacer facsímiles de los muertos plantea dilemas éticos

Christopher Pelkey ​​fue asesinado a tiros en un incidente de rango de carretera en 2021. El 8 de mayo de 2025, en la audiencia de sentencia para su asesino, una reconstrucción de video de IA de Pelkey ​​emitió una declaración de impacto de la víctima. El juez de primera instancia informó que esta actuación se conmovió profundamente y emitió la sentencia máxima por homicidio involuntario.

Como parte de las ceremonias para marcar el 77 ° año de independencia de Israel el 30 de abril de 2025, los funcionarios habían planeado organizar un concierto con cuatro icónicos cantantes israelíes. Los cuatro habían muerto años antes. El plan era conjurarlos usando sonido y video generados por AI. Se suponía que los artistas muertos cantaban junto a Yardena Arazi, una artista famosa y aún muy viva. Al final, Arazi se retiró, citando la atmósfera política, y el evento no sucedió.

En abril, la BBC creó una versión profunda del famoso escritor misterioso Agatha Christie para enseñar un “curso de maestro sobre escritura”. Fake Agatha instruiría a los aspirantes a autores misteriosos de asesinato e “inspiraría” su “viaje de escritura”.

El uso de la inteligencia artificial para “reanimar” a los muertos para una variedad de propósitos está ganando rápidamente tracción. En los últimos años, hemos estado estudiando las implicaciones morales de la IA en el Centro de Ética Aplicada en la Universidad de Massachusetts, Boston, y encontramos que estas reanimaciones de IA son moralmente problemáticas.

Antes de abordar los desafíos morales que plantea la tecnología, es importante distinguir las reanimaciones de IA, o los defensores de las llamadas mierdas. Los griefbots son chatbots entrenados en grandes franjas de datos que los muertos dejan atrás: publicaciones de medios sociales, mensajes de texto, correos electrónicos, videos. Estos chatbots imitan cómo los partidos solían comunicarse y están destinados a facilitar la vida de las relaciones sobrevivientes. Los profundos que estamos discutiendo aquí tienen otros objetivos; Están destinados a promover causas legales, políticas y educativas.

Dilemas morales

El primer dilema moral que plantea la tecnología tiene que ver con el consentimiento: ¿habría acordado hacer lo que está haciendo su semejanza? ¿Los cantantes israelíes muertos habrían querido cantar en una ceremonia de independencia organizada por el actual gobierno de la nación? ¿Pelkey, la víctima de la rabia en la carretera, se sentiría cómoda con el guión que su familia escribió para que su avatar recitara? ¿Qué pensaría Christie sobre su doble enseñanza de AI esa clase?

Las respuestas a estas preguntas solo pueden deducirse circunstancialmente, al examinar los tipos de cosas que hicieron los muertos y las opiniones que expresaron cuando estaban vivos. Y uno podría preguntar si las respuestas incluso importan. Si los que están a cargo de las propiedades están de acuerdo con las reanimaciones, ¿no está resuelta la pregunta? Después de todo, tales fideicomisarios son los representantes legales de los difuntos.

Pero dejando de lado la cuestión del consentimiento, queda una pregunta más fundamental.

¿Qué hacen estas reanimaciones al legado y la reputación de los muertos? ¿No depende, en cierta medida su reputación, de la escasez de apariencia, del hecho de que los muertos ya no pueden aparecer? La muerte puede tener un efecto saludable sobre la reputación de personas prominentes; Fue bueno para John F. Kennedy, y fue bueno para el primer ministro israelí, Yitzhak Rabin.

El líder ateniense del siglo XIX en. En su famosa oración funeraria, entregada al final del primer año de la Guerra del Peloponeso, afirma que una muerte noble puede elevar la reputación de uno y lavar sus pequeñas fechorías. Esto se debe a que los muertos están fuera del alcance y su mística crece postmortem. “Incluso la virtud extrema apenas te ganará una reputación igual a” la de los muertos, insiste.

¿Las reanimaciones de AI devalúan la moneda de los muertos al obligarlos a seguir apareciendo? ¿Abaracian y desestabilizan su reputación haciendo que comenten los eventos que ocurrieron mucho después de su desaparición?

Además, estas representaciones de IA pueden ser una herramienta poderosa para influir en el público con fines políticos o legales. Traer de vuelta a un popular cantante muerto para legitimar un evento político y reanimar a una víctima muerta para ofrecer testimonio son los actos destinados a influir en el juicio de una audiencia.

Una cosa es canalizar a Churchill o un Roosevelt durante un discurso político citándolos o incluso tratando de sonar como ellos. Otra cosa es que “ellos” hable junto a ti. El potencial de aprovechar la nostalgia está sobrealimentado por esta tecnología. Imagine, por ejemplo, lo que los soviéticos, que literalmente adoraron el cadáver de Lenin, habrían hecho con un profundo icono.

Buenas intenciones

Se podría argumentar que debido a que estas reanimaciones son únicamente atractivas, pueden usarse para fines virtuosos. Considere un reanimado Martin Luther King Jr., hablando con nuestra nación polarizada y dividida actualmente, instando a la moderación y la unidad. ¿No sería eso grandioso? ¿O qué pasa con un Mordechai Anielewicz reanimado, el comandante del levantamiento de Ghetto de Varsovia, hablando en el juicio de un negador del Holocausto como David Irving?

¿Pero sabemos qué habría pensado MLK sobre nuestras divisiones políticas actuales? ¿Sabemos lo que Anielewicz habría pensado en las restricciones al discurso pernicioso? ¿La campaña valientemente por los derechos civiles significa que deberíamos recurrir al fantasma digital de King para que comente sobre el impacto del populismo? ¿Luchar sin miedo a los nazis significa que deberíamos dragar la sombra de IA de un viejo héroe para comentar sobre la libertad de expresión en la era digital?

Incluso si los proyectos políticos que sirvieron estos avatares de IA fueron consistentes con las opiniones del fallecido, el problema de la manipulación, de usar el poder psicológico de los profundos para atraer las emociones, los semanales.

Pero, ¿qué hay de alistar a Ai Agatha Christie para enseñar una clase de escritura? De hecho, los defectos pueden tener usos saludables en entornos educativos. La semejanza de Christie podría hacer que los estudiantes sean más entusiasmados con la escritura. Aristóteles falsos podría mejorar las posibilidades de que los estudiantes participen con su austera ética de Nicomachean. Ai Einstein podría ayudar a aquellos que desean estudiar física a obtener la cabeza en la relatividad general.

Pero producir estas falsificaciones viene con una gran responsabilidad. Después de todo, dado lo atractivos que pueden ser, es posible que las interacciones con estas representaciones sean todo lo que los estudiantes prestan atención, en lugar de servir como una puerta de entrada a la exploración de la materia.

Viviendo en la vida

En un poema escrito en memoria de WB Yeats, Auden nos dice que después de la muerte del poeta, Yeats “se convirtió en sus admiradores”. Su memoria ahora estaba “dispersa entre cien ciudades”, y su trabajo sujeto a una interpretación interminable: “Las palabras de un hombre muerto se modifican en las entrañas de los vivos”.

Los muertos viven en las muchas formas en que reinterpretamos sus palabras y obras. Auden le hizo eso a Yeats, y lo estamos haciendo a Auden aquí mismo. Así es como las personas se mantienen en contacto con los que se han ido. Al final, creemos que el uso de la destreza tecnológica para traerlos de vuelta concretamente no tiene respeto, y quizás lo más importante, es un acto de falta de respeto a nosotros mismos, a nuestra capacidad de abstraer, pensar e imaginar.

Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.