Una exposición significativa a los datos ha revelado cientos de miles de conversaciones de usuarios privados con el chatbot Ai de Elon Musk, Grok, en los resultados de los motores de búsqueda pública.
El incidente, derivado de la característica de “compartir” de la plataforma, ha hecho que los datos del usuario confidenciales accesibles en línea libremente, aparentemente sin el conocimiento o el consentimiento explícito de los usuarios involucrados.
La exposición se descubrió cuando quedó claro que usar el botón Share de Grok hizo más que solo generar un enlace para un destinatario específico. Creó una URL de acceso público e indexable para la transcripción de conversación.
En consecuencia, los motores de búsqueda como Google se arrastraron e indexaron este contenido, haciendo que los chats privados sean buscados por cualquier persona. Una búsqueda en Google el jueves confirmó la escala del problema, revelando casi 300,000 conversaciones de Grok indexadas, con algunos informes de publicaciones tecnológicas que colocaron el número aún más alto, en más de 370,000.
Un análisis de los chats expuestos destaca la gravedad de la violación de la privacidad. Transcripciones visto por La BBC y otros puntos de venta incluyeron a los usuarios que pidieron información profundamente personal o confidencial. Los ejemplos iban desde la creación de contraseñas seguras y consultas médicas detalladas hasta desarrollar planes de comidas para bajar de peso.
A través del análisis del equipo CybersecurityNews utilizando consultas de Google Dork, pudimos identificar varias páginas con el sitio de consulta: https: //x.com/i/grok? Conversation =.
Conversación de Grok en Google Search (Fuente: CybersecurityNews.com)
Los datos también revelaron a los usuarios que probaron los límites éticos del chatbot, con un chat indexado que contiene instrucciones detalladas sobre cómo fabricar un medicamento de clase A. Si bien los detalles de la cuenta del usuario pueden ser anonimizados, el contenido de las indicaciones en sí mismas puede contener fácilmente información identificable o altamente sensible.
Conversación de Grok en Google Search (Fuente: CybersecurityNews.com)
Este incidente no es un caso aislado en el paisaje de IA en rápida evolución. OpenAI, el creador de ChatGPT, recientemente revirtió un experimento que también resultó en que aparecieran conversaciones compartidas en los resultados de búsqueda.
Del mismo modo, Meta enfrentó críticas a principios de este año después de que las conversaciones compartidas de su chatbot meta ai se agregaron en un feed público “descubrir”. Estos eventos repetidos subrayan un patrón preocupante de priorizar la implementación de características sobre la privacidad del usuario.
Los expertos están sonando la alarma, describiendo la situación como una falla crítica en la protección de datos. “Los chatbots de IA son un desastre de privacidad en progreso”, dijo el profesor Luc Rocher del Instituto de Internet de Oxford a la BBC, advirtiendo que las conversaciones filtradas que contienen salud, negocios o detalles sensibles permanecerán en línea de forma permanente.
El núcleo del problema radica en la falta de transparencia. La Dra. Carissa Véliz, profesora asociada en el Instituto de Ética de Oxford en IA, enfatizó que los usuarios no estaban informados adecuadamente que compartir un chat lo haría público. “Nuestra tecnología ni siquiera nos dice qué está haciendo con nuestros datos, y eso es un problema”, afirmó.
A partir de este informe, X, la empresa matriz de Grok, no ha emitido un comentario público sobre el asunto.
¡Encuentra esta historia interesante! Séguenos LinkedIn y incógnita Para obtener más actualizaciones instantáneas.
