Crédito: Dominio público de Pixabay/CC0
La creciente proliferación de chatbots propulsados por la IA ha llevado a debates sobre sus roles sociales como amigo, compañero o asistente de trabajo.
Y están creciendo cada vez más sofisticados. El personaje de la plataforma de juego de roles AI promete un compromiso personal y creativo a través de conversaciones con sus personajes de BOT. También ha habido algunos resultados negativos: actualmente, el carácter.ai se enfrenta a un caso judicial que involucra el papel de su chatbot en el suicidio de un adolescente.
Otros, como ChatGPT y Google Gemini, prometen una eficiencia laboral mejorada a través de Genai. ¿Pero a dónde va esto después? En medio de este frenesí, los inventores ahora están desarrollando asistentes avanzados de IA que serán mucho más intuitivos socialmente y capaces de tareas más complejas.
Choque futuro
El choque instigado por el chatgpt de Opensei hace dos años no solo se debió a la altísima tasa de adopción y la amenaza para los empleos, sino también por el golpe cultural que dirigía a la escritura creativa y la educación.
Mi investigación explora cómo la exageración que rodea la IA afecta la capacidad de algunas personas para hacer juicios profesionales al respecto. Esto se debe a la ansiedad relacionada con la vulnerabilidad de la civilización humana, alimentando la idea de una futura “superinteligencia” que podría superar el control humano.
Con US $ 1.3 billones en ingresos proyectados para 2032, el pronóstico financiero para Genai impulsa más exageración.
La cobertura de los principales medios de comunicación también sensacionaliza la creatividad de la IA y enmarca la tecnología como una amenaza para la civilización humana.
Levantando la alarma
Los científicos de todo el mundo han señalado una urgencia en torno a las implementaciones y aplicaciones de la IA.
Geoffrey Hinton, ganador del Premio Nobel y pionero de AI, dejó su posición en Google sobre los desacuerdos sobre el desarrollo de la IA y lamentó su trabajo en Google debido al progreso de la IA. La amenaza futura, sin embargo, es mucho más personal.
Recreando usuarios
El giro en la IA en marcha ahora es un cambio hacia herramientas de IA egocéntricas y personalizadas que van mucho más allá de las capacidades actuales para recrear lo que se ha convertido en una mercancía: el yo. Las tecnologías de IA remodelamos cómo nos percibimos a nosotros mismos: nuestras personas, pensamientos y sentimientos.
La próxima ola de asistentes de IA, una forma de agentes de IA, no solo conocerá a sus usuarios íntimamente, sino que también podrán actuar en nombre de un usuario o incluso hacerse pasar por alto. Esta idea es mucho más convincente que aquellos que solo sirven como asistentes que escriben texto, crean videos o software de codificación.
Estos agentes de IA personalizados podrán determinar las intenciones y llevar a cabo el trabajo.
El iason Gabriel, científico de investigación senior de Google Deepmind, y un gran equipo de investigadores escribieron sobre el desarrollo ético de asistentes avanzados de IA. Su investigación suena la alarma de que los asistentes de IA pueden “influir en las creencias y el comportamiento del usuario”, incluso a través de “engaño, coerción y explotación”.
Todavía hay un aspecto tecnópiano de IA. En un podcast, Gabriel reflexiona sobre que “a muchos de nosotros nos gustaría estar conectados a una tecnología que pueda ocuparse de muchas tareas de vida en nuestro nombre,” también lo llaman un “socio de pensamiento”.
Interrupción cultural
Este giro más reciente en la interrupción de la IA interferirá con la forma en que nos entendemos a nosotros mismos y, como tal, necesitamos anticipar el impacto tecnocultural.
En línea, las personas expresan versiones hiperreal y altamente curadas de sí mismas en plataformas como X, Instagram o LinkedIn. Y la forma en que los usuarios interactúan con asistentes digitales personales como Siri de Apple o Alexa de Amazon nos ha socializado para reinventar nuestras vidas personales. Estas prácticas de “narrativa de la vida” informan un papel clave en el desarrollo de la próxima ola de asistentes avanzados.
El auto movimiento cuantificado es cuando los usuarios rastrean sus vidas a través de varias aplicaciones, tecnologías portátiles y plataformas de redes sociales. Los nuevos desarrollos en asistentes de IA podrían aprovechar estas mismas herramientas para el biohacking y la superación personal, sin embargo, estas herramientas emergentes también plantean preocupaciones sobre el procesamiento de datos personales. Las herramientas de IA implican el riesgo de robo de identidad, discriminación de género y racial y diversas divisiones digitales.
Más que asistencia
La interacción del asistente humano-AI puede converger con otros campos. Tecnologías gemelas digitales para la salud Aplicar biodatos de usuario. Implican crear una representación virtual del estado fisiológico de una persona y pueden ayudar a predecir desarrollos futuros. Esto también podría conducir a la excesiva dependencia de los asistentes de IA para información médica sin supervisión humana de profesionales médicos.
Otros asistentes avanzados de IA “recordarán” el pasado de las personas e inferirán intenciones o harán sugerencias para los objetivos futuros de la vida. Ya se han identificado daños graves cuando se recuerda que se automatiza, como para las víctimas de la violencia de la pareja íntima.
Necesitamos expandir las protecciones de datos y los modelos de gobernanza para abordar posibles daños de privacidad. Esta próxima interrupción cultural requerirá la regulación de la IA. Preparemos ahora para el próximo turno cultural de AI.
Proporcionado por la conversación
Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.
Cita: ¿Quieres un asistente de IA avanzado? Prepárese para que estén todos en su negocio (2025, 28 de mayo) recuperado el 28 de mayo de 2025 de https://techxplore.com/news/2025-05-advanced-ai-business.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
