¿Significaría una carta de amor lo mismo si supieras que fue escrita por un robot?
¿Qué pasa con una ley?
Los republicanos están haciendo preguntas similares en sus investigaciones sobre el uso del ex presidente Joe Biden de la autopción, una máquina de firma automática que el ex presidente solía firmar una serie de órdenes de clemencia cerca del final de su mandato.
Trump y sus aliados afirman que el uso de Biden de la autopción puede haber sido ilegal e indicativo del deterioro cognitivo del ex presidente. Si Biden tuvo que descargar el trabajo de firmar los pedidos a una máquina, ¿cómo podemos saber que realmente aprobó lo que estaba firmado? Y si Biden no estaba aprobando estas órdenes, ¿quién era?
No está claro cuáles serán los resultados de estas investigaciones. Sin embargo, lo que es más importante, estas sondas tienen una mayor preocupación sobre cómo los diferentes tipos de comunicación pueden perder sus significados cuando los robots o la IA ingresan a la mezcla.
Los presidentes han utilizado el piloto automático para diversos fines (incluida la firma de facturas en ley) durante décadas. De hecho, la prevalencia del piloto automático destaca cómo, hoy, una firma presidencial representa más que tinta en el papel: simboliza un largo proceso de deliberación y aprobación que a menudo viaja a través de varios asistentes y asistentes diferentes.
El Departamento de Justicia bajo George W. Bush dijo tanto en un Memo de 2005 Asesorando que otros pueden colocar la firma del presidente a un proyecto de ley a través de Autopen, siempre que el presidente la apruebe.
El propio Trump ha admitido usar el piloto automático, aunque solo por lo que llamó “documentos muy poco importantes”. El presidente de supervisión de la Cámara de Representantes, James Comer (R-Ky.), Incluso utilizó firmas digitales para firmar avisos de citación relacionadas con la investigación para su comité.
El presidente Obama usó el piloto automático en 2011 para extender la Ley Patriota. Incluso Thomas Jefferson usó una versión temprana del piloto automático Para replicar su escritura a mano al escribir múltiples letras o firmar múltiples documentos.
Pero la disputa en torno al uso del piloto automático es más que solo disputas partidistas; Es una oportunidad para considerar cómo queremos incorporar otros sistemas de automatización como la inteligencia artificial en nuestros procesos democráticos.
Como investigador que estudia los impactos de la IA en la interacción social, mi trabajo muestra cómo la automatización de las comunicaciones legales, políticas e interpersonales puede causar controversia, ya sea a través de un brazo robótico de baja tecnología que sostiene un bolígrafo o mediante modelos complejos de generación generativa.
En nuestro estudioEncontramos que las controversias de Autopen ilustran que, aunque la automatización puede hacer que las cosas sean más eficientes, también puede eludir los mismos procesos que dan ciertas cosas, como las firmas, su significado.
Se plantean sistemas generativos de IA para hacer lo mismo que los usamos cada vez más para automatizar nuestras tareas de comunicación, tanto dentro como más allá del gobierno. Por ejemplo, cuando una oficina de la Universidad de Vanderbilt reveló que había usado ChatGPT para ayudar a escribir una carta de condolencia a los estudiantes después de un tiroteo masivo en la Universidad Estatal de Michigan, Los estudiantes estaban horrorizados. Después de todo, el objetivo de la carta de condolencia era mostrar atención y compasión hacia los estudiantes. Si fue escrito por un robot, entonces estaba claro que a la universidad en realidad no le importaba: sus palabras estaban vacías.
El uso de Genai para automatizar la comunicación puede amenazar nuestra confianza entre sí y en nuestras instituciones: en comunicaciones interpersonales,un estudiosugiere que cuando sospechamos que otros usan encubiertos para comunicarse con nosotros, los percibimos más negativamente. Es decir, cuando sale a la luz el uso de la automatización, confiamos y nos gustan menos. Las apuestas de este tipo de violación son especialmente altas cuando se trata de automatizar procesos políticos, donde la confianza es primordial.
El Fiasco de Biden ha llevado a algunos, como el representante Addison McDowell (RN.C.), a solicitar una prohibición del uso de la autopencia en la firma de facturas, órdenes ejecutivas, indultos y conmutaciones. Aunque el proyecto de ley del representante McDowell podría evitar que los futuros presidentes experimenten el tipo de enredo en el que la administración Biden ha quedado atrapado, no aborda cómo otros tipos de tecnologías emergentes pueden causar problemas similares.
A medida que las tecnologías de automatización atractivas como la IA generativa se vuelven cada vez más populares, las figuras públicas deberían comprender los riesgos involucrados en su uso. Estos sistemas pueden prometer hacer que el gobierno sea más eficiente, pero aún tienen un costo significativo.
Pegah Moradi es un Ph.D. Candidato en el Departamento de Ciencias de la Información de la Universidad de Cornell.
