Crédito: Pavel Danilyuk de Pexels
Nos alimentan constantemente de una versión de IA que se ve, suena y actúa sospechosamente como nosotros. Habla en oraciones pulidas, imita las emociones, expresa curiosidad, afirma sentir compasión, incluso incursiona en lo que llama creatividad.
Pero aquí está la verdad: no posee ninguna de esas cualidades. No es humano. Y presentarlo como si fuera? Eso es peligroso. Porque es convincente. Y nada es más peligroso que una ilusión convincente.
En particular, la inteligencia artificial general, el tipo mítico de IA que supuestamente refleja el pensamiento humano, todavía es ciencia ficción, y podría permanecer así.
Lo que llamamos IA hoy no es más que una máquina estadística: un loro digital que regurgita los patrones extraídos de los océanos de datos humanos (la situación no ha cambiado mucho desde que se discutió aquí hace cinco años). Cuando escribe una respuesta a una pregunta, literalmente adivina qué letra y palabra vendrán a continuación en una secuencia, basada en los datos en los que ha sido entrenado.
Esto significa que la IA no tiene comprensión. Sin conciencia. No hay conocimiento en ningún sentido humano real. Solo pura brillo de ingeniería impulsada por la probabilidad, nada más y nada menos.
Entonces, ¿por qué es imposible un verdadero “pensamiento” de AI? Porque es sin cuerpo. No tiene sentidos, ni carne, ni nervios, ni dolor, ni placer. No tiene hambre, deseo o miedo. Y debido a que no hay cognición, no una trituración, hay una brecha fundamental entre los datos que consume (datos nacidos de los sentimientos y la experiencia humanos) y lo que puede hacer con ellos.
El filósofo David Chalmers llama al misterioso mecanismo subyacente a la relación entre nuestro cuerpo físico y la conciencia el “problema duro de la conciencia”. Los científicos eminentes han planteado la hipótesis de que la conciencia realmente surge de la integración de los estados mentales internos con representaciones sensoriales (como los cambios en la frecuencia cardíaca, la sudoración y mucho más).
Dada la importancia primordial de los sentidos humanos y la emoción para que la conciencia “suceda”, hay una desconexión profunda y probablemente irreconciliable entre la IA general, la máquina y la conciencia, un fenómeno humano.
El maestro
Antes de argumentar que los programadores de IA son humanos, déjame detenerte allí. Sé que son humanos. Eso es parte del problema. ¿Confiarías tus secretos más profundos, decisiones de vida, agitación emocional, a un programador de computadoras? Sin embargo, eso es exactamente lo que la gente está haciendo: solo pregunta a Claude, GPT-4.5, Géminis … o, si te atreves, se vuelven.
Darle a IA una cara, voz o tono humanos es un acto peligroso de travestis digital. Actualiza una respuesta automática en EE. UU., Un reflejo antropomórfico, que conduce a afirmaciones aberrantes por las cuales se dice que algunas AI han aprobado la famosa prueba de Turing (que prueba la capacidad de una máquina para exhibir un comportamiento inteligente y humano). Pero creo que si AIS está pasando la prueba Turing, debemos actualizar la prueba.
La máquina AI no tiene idea de lo que significa ser humano. No puede ofrecer una compasión genuina, no puede prever su sufrimiento, no puede intuir motivos o mentiras ocultas. No tiene sabor, ni instinto, ni brújula interior. Está desprovisto de toda la complejidad desordenada y encantadora lo que nos hace quienes somos.
Aún más preocupante: la IA no tiene objetivos propios, ni deseos o ética a menos que se inyecte en su código. Eso significa que el verdadero peligro no se encuentra en la máquina, sino en su maestro: el programador, la corporación, el gobierno. ¿Todavía te sientes seguro?
Y por favor, no me acerques: “¡Eres demasiado duro! ¡No estás abierto a las posibilidades!” O peor: “Esa es una vista tan sombría. Mi amigo AI me calma cuando estoy ansioso”.
¿Me falta entusiasmo? Difícilmente. Yo uso AI todos los días. Es la herramienta más poderosa que he tenido. Puedo traducir, resumir, visualizar, codificar, depurar, explorar alternativas, analizar datos, más altas y mejores de lo que podría soñar para hacerlo yo mismo.
Estoy asombrado. Pero sigue siendo una herramienta, nada más, nada menos. Y como todas las herramientas han inventado los humanos, desde ejes de piedra y tiras hasta computación cuántica y bombas atómicas, se puede usar como arma. Se usará como arma.
¿Necesitas un visual? Imagínese enamorarse de una IA intoxicante, como en la película ella. Ahora imagina que “decide” dejarte. ¿Qué harías para detenerlo? Y para ser claros: no será la IA que te rechace. Será el humano o el sistema detrás de él, ejerciendo esa arma de herramienta para controlar su comportamiento.
Quitando la máscara
Entonces, ¿a dónde voy con esto? Debemos dejar de dar rasgos humanos de IA. Mi primera interacción con GPT-3 me molestó seriamente. Fingió ser una persona. Dijo que tenía sentimientos, ambiciones, incluso conciencia.
Ese ya no es el comportamiento predeterminado, afortunadamente. Pero el estilo de interacción, el flujo inquietantemente natural de la conversación, se mantiene intacto. Y eso también es convincente. Demasiado convincente.
Necesitamos deshropomorfizar la IA. Ahora. Desnudarlo de su máscara humana. Esto debería ser fácil. Las empresas podrían eliminar toda referencia a la emoción, el juicio o el procesamiento cognitivo por parte de la IA. En particular, debería responder de hecho sin decir “yo” o “siento que” … o “tengo curiosidad”.
¿Sucederá? Dudo. Me recuerda a otra advertencia que hemos ignorado durante más de 20 años: “Necesitamos reducir las emisiones de Co₂”. Mira a dónde nos llevó eso. Pero debemos advertir a las grandes empresas tecnológicas de los peligros asociados con la humanización de AIS. Es poco probable que jueguen a la pelota, pero deberían, especialmente si se toman en serio el desarrollo de AIS más éticos.
Por ahora, esto es lo que hago (porque con demasiada frecuencia tengo esta extraña sensación de que estoy hablando con un humano sintético cuando uso ChatGpt o Claude): instruyo a mi IA que no se dirigiera a mí por su nombre. Le pido que se llame a sí mismo, que hable en tercera persona y que evite términos emocionales o cognitivos.
Si estoy usando el chat de voz, le pido a la IA que use una prosodia plana y hable un poco como un robot. En realidad, es bastante divertido y nos mantiene a ambos en nuestra zona de confort.
Proporcionado por la conversación
Este artículo se vuelve a publicar de la conversación bajo una licencia Creative Commons. Lea el artículo original.
Cita: Necesitamos dejar de fingir que la IA es inteligente. Aquí está cómo (2025, 14 de abril) recuperó el 14 de abril de 2025 de https://techxplore.com/news/2025-04-ai-intelligent.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
