por Helen Dickinson, Dr. Jade Hart, Kathryn Henne, Vanessa McDermott, la conversación
Crédito: dominio público Unsplash/CC0
Se han realizado muchas afirmaciones audaces sobre la inteligencia artificial generativa (Genai) y su capacidad para mejorar la productividad y generar eficiencias en el lugar de trabajo.
Una encuesta reciente de Microsoft encontró que el 24% de los líderes del sector privado ya han desplegado Genai en sus organizaciones. Muchos están considerando despedir al personal y reemplazarlo con los sistemas Genai.
Pero, ¿cuánto apetito tiene el sector público para usar inteligencia artificial, que no viene sin riesgos?
Nuestra nueva investigación explora las actitudes en la burocracia australiana para usar Genai en el trabajo de políticas. Dado que se espera que los gobiernos trabajen de manera ética, transparente y responsable, nos preguntamos si los servidores públicos desconfían de adoptar esta tecnología.
No hay una sola vista
Le pedimos a los burócratas mayores de 22 agencias estatales, territorio y del gobierno federal sobre sus puntos de vista sobre Genai. Nos centramos en lo que esto podría significar para el futuro de la toma de decisiones, el desarrollo de políticas y los servicios públicos.
Expresaron una gama de puntos de vista sobre el potencial transformador de Genai. Algunos eran entusiastas que vieron el potencial para llevar a cabo el trabajo del gobierno más rápido y de manera más confiable.
Un entrevistado comentó: “¿Por qué mejorar la vela cuando podrías usar una bombilla?”
Otros estaban menos entusiasmados, argumentando que la tecnología está sobrecargada. Críticamente, ven a Genai como fundamentalmente inapropiado para su uso en el trabajo de políticas públicas e inherentemente arriesgado en varios frentes. Estos incluyen:
La tendencia de la IA al alucinar, donde las herramientas ven patrones en datos que no existen en la realidad, lo que hace que los resultados sean inexactos o incorrectos el riesgo de sesgos en los conjuntos de datos existentes, como la subrepresentación de algunos grupos o personas, la naturaleza sensible de los datos gubernamentales que podrían verse comprometidos con los programas de IA.
Independientemente de sus puntos de vista específicos sobre Genai, los servidores públicos nos dijeron constantemente dos cosas.
Primero, no creen que la inteligencia artificial reemplace a los trabajadores. En cambio, confían en que estas herramientas aumentarán su trabajo al liberarlas de tareas rutinarias y repetitivas. Esto les permitiría centrarse en tareas de alto valor, como comprometerse con el público.
En segundo lugar, el uso actual de Genai se centra en gran medida en tareas de administración que no se basan en datos confidenciales del cliente ni interactúan directamente con el público.
Resaca de roboDEBT
Una de las consecuencias del esquema RobodeBT es el ritmo y la escala de la adopción de herramientas automatizadas.
Muchos entrevistados explicaron que las organizaciones del sector público todavía son muy cautelosos sobre el uso de la tecnología Genai como resultado del escándalo.
Un entrevistado nos dijo que la mayoría de los problemas con RobodeBT estaban a nivel humano, lo que destaca la importancia de que las personas “tomen sus deberes, tanto profesionales como éticamente, en serio, e interroguen lo que obtienen de los sistemas de IA”.
También se está prestando mucha atención a la influencia de la toma de decisiones humanas en el desarrollo de máquinas que usan Genai.
Cambio incremental
Nuestra investigación sugiere que las agencias de servicios públicos adoptan en gran medida un enfoque cuidadoso y medido para aplicar Genai en el trabajo de políticas. Los servidores públicos superiores perciben que el público desconfía de cómo los gobiernos usan estas herramientas. La reconstrucción de la credibilidad en relación con la supervisión e implementación de la tecnología es imprescindible.
Los servidores públicos describieron la mayor parte de su uso de Genai como experimentos con propósito. Se establecen resultados claros para el uso de estas herramientas y procesos de evaluación para monitorear si las logran.
Esto se considera importante porque las organizaciones del sector público necesitan saber si estas herramientas hacen lo que prometen: la relación calidad -precio y ayudan a protegerse contra cualquier riesgo imprevisto.
Uso no autorizado
Algunos escándalos recientes muestran cómo las herramientas de Genai pueden ser arriesgadas cuando se usan mal. En respuesta, algunas agencias de servicios públicos han prohibido los modelos Genai disponibles gratuitamente como ChatGPT y solo permiten el acceso a programas oficialmente autorizados como Copilot.
Pero esto no significa que los servidores públicos no están utilizando la tecnología.
Varios entrevistados nos dijeron que estaban al tanto de colegas que usaban programas no autorizados para mejorar su productividad. Los dispositivos personales a menudo se dedican a evitar las restricciones del sistema. Se expresaron preocupaciones que los servidores públicos podrían no recibir orientación sobre cómo usar estas herramientas con cuidado y de manera segura.
Nueva realidad
Se le pide a la tecnología Genai que realice tareas que requieren inteligencia humana y que realicen estas tareas más rápidamente. Sin embargo, nuestros hallazgos apuntan a una fuerte necesidad de alinear estas herramientas con los valores del gobierno australiano que enmarcan las expectativas para el uso responsable de Genai.
El servicio público enfrenta un dilema. ¿Es esta una oportunidad para la innovación en el trabajo de política gubernamental aprovechando el impacto transformador potencial de los programas Genai, como se prometió en otros sectores? O, ¿se necesita un enfoque más cauteloso para generar confianza, tanto en la tecnología como en las organizaciones del sector público para usarlos adecuadamente?
El trabajo reciente de Elon Musk en la administración Trump puede sugerir este último. La experiencia destacó las importantes consecuencias de la influencia de la industria tecnológica y el uso de herramientas de IA bajo el mandato de maximizar la eficiencia del gobierno.
El público australiano tiene altas expectativas de gobierno para resolver problemas como la crisis de vivienda y las presiones de costo de vida. Una combinación de máquina e inteligencia humana puede ofrecer el poder necesario para abordar estos complejos problemas económicos y sociales. Sin embargo, no todas las agencias han decidido voltear el interruptor.
Nuestra investigación destaca la combinación de puntos de vista entre los servidores públicos superiores hacia Genai. Si transforma el servicio público o simplemente acelera a los negocios como de costumbre, no dependerá no de la tecnología en sí, sino de cuán audaz, cuidadosamente y transparentemente, los gobiernos eligen usarla.
Proporcionado por la conversación
Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.
Cita: los servidores públicos superiores creen que Genai aumentará la productividad, pero están preocupados por los riesgos (2025, 4 de junio) recuperados el 4 de junio de 2025 de https://techxplore.com/news/2025-06-senior-servants-genai-boost-productity.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
